Нитей жалко? Добавте.


сотня потоков на современной сервере - ни о чем

вот уже сотни и тысячи (или десяток докеров по сотне потоков на каждом) - уже кранты хостовой (в случае докера) ОС с переключением потоков. Можно смотреть в сторону NIO.

Правда NIO на 10-20% МЕДЛЕННЕЕ (и это правда!) классических сокетов. Но позволяет уменьшить количество потоков, снять нагрузку с диспетчера потоков ОС. Возможно, в качестве алтернативы NIO, при возможности "порезать" задачу, можно использовать нормальный софт для виртуализации и вместо тысячь потоков иметь десяток VM по сотне-тысячи потоков в отдельной VM. Но это теоретически ))). Практически, все вместо нормальных решений используют новомодные из гуана и палок (типа докера) и дохера потоков грузят диспетчер хостовой OS. В этом случае AFAIK без NIO уже сложно. Но повторюсь, это в случае тысячь потоков (в реальном проекте стали мигрировать на NIO при более 6-8 тысячь потоков на хостовой машине) и скорости это НЕ добавляет. Даже, повторюсь, NIO медленнее на 10-20%.

AFAIK