Dymytry1. а зачем собственно писать свой Джава сервер? почему не взять Tomcat или Jboss
"Сервер" это на столько широкое понятие, что им можно назвать всё что имеет серверный TCP сокет. Почему вы решили что сервер одноклассников это какая-то альтернатива "Tomcat или Jboss" я не знаю. В презентации 2011го года они заявляли что используют и Tomcat и JBoss.

Dymytry там наверняка все оптимизировано по самое не хочу.

Нет не всё. Эти сервера реализуют JEE спецификацию. Если вам нужна какая-то альтернативная архитектура, которая на JEE ложится слабо, то почему бы и не отказать от JEE контейнера? Как минимум в вопросах кластиризации ни Tomcat, ни JBoss никогда не славились. Умеют - да. Но достаточно ли хорошо - вопрос открытый.

Dymytry2. известно, что есть 2 способа обрабатывать приходящие на сервер запросы.
1) через сокеты:
2) через NIO:

Терминология хромает. NIO тоже работает через "сокеты". Это просто два разных Java API. А термин "сокеты" он немного из другой плоскости.

Dymytryмы устанавливаем одно TCP соединение с каждым клиентом и выделяем на каждое соединение по потоку. поток считывает и отправляет данные с клиента ( вопрос 2.1: можно ли одновременно читать и писать в один сокет 2мя потоками?)

Можно одновременно читать одним потоком и писать другим если траспортный протокол позволяет. Если имеется ввиду чтение двумя и более и запись двумя и более потоками, то эти чтение\запись нужно синхронизировать. Иначе протокол обменна данными невозможно контролировать.

Dymytryу нас есть селектор, который выбирает соединение только тогда, когда оно готово что-то делать, получается что обработка все равно однопоточная, но нет простоя потока когда один из клиентов молчит.
вопрос 2.2: может ли NIO работать в несколько потоков?

NIO даёт больше возможности выбрать любую архитукуру обработки. Не понятно что именно вкладывается в понятие "обработка". Она, ведь, асинхронная. Может быть сколько угодно потоков. В общем я вопрос не очень понял. А то что селекторы разгребаются в однин поток. Так этого потока достаточно для огромного числа клиентов. Он ведь больше ничего не делает, кромер как получает соединение и запускает обработку для него другими потоками.

Dymytry3. как вся эта кухня соотносится с наличием proxy? допустим перед нашим Джава сервером стоит nginx. он имеет tcp соединения с backend-сервером и по нему передает запросы от пользователей. получается что при джава-сервере на сокетах у нас будет всегда один сокет и один поток. памяти хватит, проблема только в быстродействии. проблемы с простоем нет.
так делают? чем такой вариант хуже NIO?
Это не proxy, а reverse proxy. Да, так делают. Но скорее из иных соображений. Шире возможности отбиться от DDoS. Быстрее отдавать статический контент сайтов.

В нормальных highload системах решение никогда не ограничивается одной лишь Java. Highload сервер подразумевает некоторую целостность всего гетерогенного окружения. И специфичиное железо, и не-Java решения для специфичных задач.

DoSOfRedRiverДля многопоточный асинхронной неблокирующей обработки (а вам то и надо, судя по всему) обычно используются классы с NIO.2
Да, ну с фига ли именно NIO.2? Можно подумать NIO весь из себя блокирующий и синхронный?

no56892Пруф? Вот задача отсортировать банковские счета: java , а вот С/C++ . Ну вам пальчик покажи - рассмеетесь, наверное.
Перестаньте позориться.
Тема про серверное приложение. Ваш "пруф" - единоразовая задача.
Ничего не сказано о настройках Java, которая по-умолчанию отжирает 100Мб под кучу и ещё пару десятков под JVM.
Сама задача, при этом, может отъедать столько же памяти, а разница в 100Мб на масштабе сервера в отличие от масштабов сортировки не значительна.
Не вижу ничего про "разгорев" JIT, который на 2х секундную задачу, влияет очень сильно. А вот на масштабе 24x7 сервере нивелируется абсолютно.

Ну, и пример SBANK вообще показательный на первой двадцате. 3 секунды Java супротив 2 секунд CPP. Вероятно, если предварительно разогреть и оптимизировать настройки под задачу, то можно выйти на те же 2 секунды.

Ищущий ЗнанияА потом тему читает Шипилев, каментит и все такие сравниватели дружно садятся в лужу)
Так то на хабре. Здесь можно не переживать.