Есть программа на C++ которая должна выполняться на определенном железе. Соответственно оптимизируем до тех пор пока не добьемся желаемого.
Но по мониторингу загрузки CPU/RAM/HDD. CPU 20%, RAM свободно 50%, HDD(2.5'' 500 GB rpm 7200) 20 МБсек (очередь меньше 1).
Во что здесь мы в принципе можем упираться:
1. В скорость RAM?
2. В неэффективную работу кэша CPU? (загрузка CPU показывает только загрузку ядер или так же и активность по синхронизации кэшей всех уровней L1/2/3?)

Нагрузку смотрю через perfomance monitor.
Железо:
Core i5 750 (4 Cores) по монитору нагрузки на всех ядрах она равномерная
RAM 16 GB DDR3 (PC12800, 1600МГц, CL9) dual channel по монитору занято 8 GB
HDD WD 500 GB rpm 7200, по монитору очередь меньше 1
Сначала тоже думал что HDD и 20 МБсек похоже на уход в рандомные операции, но перенос на RAM диск ускорения почти не дал.

Т.е. вопрос в следующем, в какие из шин может упираться при не полной загрузке CPU и как определить эту конкретную шину (кэш CPU, QPI, RAM)?

ИзопропилRAM / кэш CPU,

а почему именно шинам столько внимания?
Шины будут влиять на результат при 100% загрузке процессоров.

Что программа делает? Что там с семафорами, мьютексами, таймерами?
А если выполнять тупо копирование из памяти в память, разве не упрется в шины при не 100% загрузке процессора?

Выполняет потоковую обработку информации, подсчитывает статистическую информацию. 4 потока выполняются максимально независимо. В основном общие данные только читаются, а результирующие данные раз в 10 меньше. По всей видимости CPU обрабатывает данные быстрее чем они успевают попасть из RAM в L1/2/3.

pavel_nvмое мнение - раз идет раскидывание по ядрам - то скорее всего затычки на синхронизации потоков.
это все при условии что в hdd вы уверены
Т.е. тупо в айдле ядра ждут друг друга?

ИзопропилRAM / кэш CPU,

% загрузки считает планировщик, ему фиолетово, какие команды и скакой скоростью исполняет процессор.

Результирующие данные - куда поступают? Часом не визуализируются OpenGl/Direct3D?
Т.е. при нехватки пропускной способности шин перфоманс монитор всегда покажет 100% загрузку CPU?

Результаты сохраняются на диск чанками по 1 МБ чтобы не выходить в рандомные операции. На экран никакая графика не отображается.

Модератор: Тема перенесена из форума "C++".

miksoftRAM / кэш CPU4 потока выполняются максимально независимо.Для 4 ядер потоков должно быть больше.
Сейчас же получается следующее (цифры с потолка) - один поток на ядро, 60 мс читается порция входных данных, 20 мс обсчет на CPU, 20 мс сохранение результатов. Итого 20% загрузки ядра. Если пропорции времени ввода/вывода ко времени расчета изменить не удастся, то нужно увеличивать количество потоков примерно в 5 раз. "Примерно" - потому что еще нужно следить как поведет себя дисковая подсистема.
А не получится так что из-за увеличения кол-ва потоков добавится ещё время переключения между потоками и дополнительные расходы на синхронизацию кэшей, ведь каждый поток работает со своими данными и потребует полного обновления кэша L1/L2.
Т.е. увеличив в 5 раз кол-во потоков получим на один поток: 12 мс чтение данных, 4 мс обсчет CPU, 4 мс сохранение результатов, 4 мс переключение между потоками и синхронизация кэшей. Итого умножая на кол-во потоков получим все тоже самое даже больше.

Я конечно попробую, но чисто даже теоретически не вижу в чем может быть выигрышь за счет увеличения количества потоков. Если нехватает пропускной способности одной из шин, то с увеличением кол-во потоков скорость шин не увеличится.
Или в чем тут профит?

С0ВЕСТЬ, да, пока на одном.

Уменьшил число потоков до 2 скорость упала. Загрузка CPU 10-15%.
Увеличил число потоков до 8 скорость почти не изменилась. Все тоже самое.

Так кто-нибудь может сказать как посмотреть загрузку шин и выяснить являются ли они узким местом?