feature,

Только все же наверно join, а не wait...

CerebrumРаз уж тут ведется такая познавательная беседа может и меня просвятят...
featureвектор тредов размерности (мощности множества) в N+1, где N = количество реальных ЦПУ в системе, без гипертрединга
Понимаю, что это правильно с теоритеческой точки зрения, но никогда не понимал как этого можно достичь на практике? Этот совет во всех книжках идет, но либо я - дурак, либо авторы этих советов живут в каком-то розово-плюшевом королевстве.

В современной ОС помимо тебя крутятся еще десятки приложений, поэтому процессор пусть и по чуть-чуть но загружен потоками в количествах измеряемых тысячами. Откройте свой менеджер задач и посмотрите сами, сколько там дескрипторов потоков открыто. Да, большинство из них спят, но чисто технически даже на 16 ядерном компе, удовлетворить условию "одно ядро - один поток" тысячеголовую араву потоков mission impossible, поэтому переключения контекстов неизбежно будут.

Возможно это правило относится к каждому из процессов и ОС, как-то по своему разруливает это на макроуровне процессов, но я нигде про это не встречал инфы. ОК, тогда один процесс - N+1 количество потоков - и так ДОЛЖНО БЫТЬ у каждого процесса, но опять же, как можно удовлетворить данному требованию в современной ОС? И речь даже не о том, что кто-то криворук или неграмотен и не следует "золотому' правилу.

Возьмем к примеру Windows. Современные программы уже никто не пишет с С++ библиотеками рассчитанными на однопоток, следовательно мультитред у нас уже заложен на уровне самой библиотеки компилятором. А это сильно развязывает ОС и прочим прилипалам к процессам руки. Современные ОСи по умолчанию включают в вашу программу собственный пул потоков процесса, не считая того, что программист к этому пулу может создавать свои собственные до кучу.

Кроме того, вот я запускаю свою службу. Служба по умолчанию должна работать в отдельном потоке управляемом SCM (то есть минус один поток из моей программы). Служба наверное не на святой воде работает и не для простоя предназначена, значит нужно проинициализировать ряд вспомогательных подсистем. Проинициализировал COM - хоп! и в твоем процессе еще один вспомогательный поток, который ты в явном виде не создавал (большинство пишущих формочки для форточек вообще про это не знают даже). Проинициализировал терминальный API - хоп! и еще один - Event ловушка. Кто-то решил кинуть глобальный хук - хоп! и к твоему процессу присосалось несколько DLL, который тоже могут жить в собственных потоках. Система постоянно что-то там тоже мониторит, счетчики считает PerfMon, Event'ы. И вот у тебя в потоке уже куча соседей, которых ты не приглашал (в явном виде)! Поэтому вместо 10 открытых дескрипторов ты стартуешь с нуля уже со 100-150 объектами ядра (не обязательно потоков) в твоем процессе, а потом сидишь и башку ломаешь, где же я столько ресурсов разлил!?

И т.д. поэтому когда я запускаю свое ПО и потом смотрю в Process Explorer'e на свои и чужие потоки, то я просто охреневаю , сколько желающих посидеть за мой счет!
Ну и что же у нас в таком случае остается от этой волшебной формулы.
Да ничего!

Если у тебя не Ryzen Threadripper какой-нибудь, а желательно 2-3 таких же.

Вот я и не понимаю, как я могу обеспечить это красивое N+1!
Это либо какой сферический конь в вакууме, либо я просто не умею его готовить.

Ты вазе умеешь отличать работающий поток от простающего?

Это формула - для реально работающих.