Проц Core i5 760, 4GB ОЗУ.

Есть около 150 MB данных в ОЗУ: не изменяющиеся во времени таблицы констант. Выравнивания нет.

Имеется 500 KB заранее неизвестных данных - это 1000 мелких задачек. Каждая задачка - выбрать 20-30 констант из таблицы по непредсказуемым далеко отстоящим индексам (случайная величина, равномерное распределение) и произвести умножения и сложения с предложенным в задачке числом.

То есть, в ходе работы идёт активный доступ к случайным местам в пределах 150MB данных в ОЗУ, лежащих без какого-либо выравнивания.

Имеется 4 ядра. При запуске программы с 1 рабочим потоком, 1000 задачек обрабатываются примерно за 1050ms (1.05 сек). При запуске в 4 потоках (каждый из которых выполняет ровно по 250 задачек) время решения - 380...450ms. То есть прироста в 4 раза нет, есть прирост раза в 2.5 - 3. Больше 4-х потоков не пробовал.

Сложного распределения задачек по потокам нет - все потоки в один присест обрабатывают в цикле по 250 задачек по пинку из главного потока и засыпают до следующего пинка.

Узкое место - скорее всего шина памяти? valgrind с анализом промахов в кеше буду мучать позже, но из постановки задачи ясно, что промахов в L3 будет почти 100%. Промахов в L1 мало, т.к. выполняется один и тот же компактный код на разных данных.

CUDA будет исследоваться позднее.

Спасибо.

Edd.DragonШутишь ради одной-единственной операции писать алгоритм, чтобы узнать, что эта операция выплняется молниеносно, но время гоняния данных с оперативки в карту и обратно соизмеримо (а то и больше) чем время выполнения на CPU? )))


Данных немного, много констант (150 MB). Эти константы положить в видеокарту во время инициализации, а затем передавать только 1000 задачек, параллеля их на сотни реальных потоков в видеокарте.

Edd.DragonБудет технологическая деградацияТо есть прироста в 4 раза нет, есть прирост раза в 2.5 - 3.
Как по мне - более чем адекватно.

Казалось бы - запустил 4 потока, не блокирующих друг друга, получил прирост в столько же раз. Но почему только в 2-3 раза? Я правильно думаю про неоптимальный доступ к ОЗУ? Попробую погуглить, реорганизовать данные в памяти.

p.s. Кода с собой нет, не могу ничего проверить.