вот, например:


имеем vector<s>, который итерируем, и для каждого i будет своё a,b,c, но в целом, для каждого i они константа (их только один раз надо посчитать).
А вот итераций по этому вектору будет много. Но если их зафиксировать, то они займут кэш.
Вопрос - делать много итераций по фиксированным значениям (сохранить их в структуре) ИЛИ каждый раз считать заново?

да не, там расчёты простые.

107 раз было... L1 vs память.
50 раз - L2 vs память.

А вот если каждый раз считать, то там расчёты a,b,c будут ложиться в отдельную struct, значит в кеше будет находиться итерируемый вектор + эта struct. И на всё время итерации по вектору они будут лежать в кеше и быстро-быстро считаться? Т.е. там вообще в память заходов не будет?

mayton, и что именно это значит?

вот это мне как поможет?

каждую итерацию проверяется fixed, если 1, то continue (для этого i расчёты НЕ нужны).
А если 0, то эти a,b,c отправляются в другую ф-ю, где с ними делают много всяких расчётов.
Т.е. в каждой итерации этот s обычно едет куда-то далее и там считается.

Тут 2 варианта, надо разобраться:
На каждой итерации происходит считывание 4х s подряд (кеширование вперёд заранее посчитанных a,b,c).
И если вот в этом и есть суть кеширования (что он потом не будет за ними ходить), то тогда он эти 4 s посчитает в другой ф-и быстро и сразу.
Но кеш заполнится... Но и хер с ним. Я же вот в данный конкретный момент занят именно этими расчётами.
Я именно этот вектор считаю, он мне и нужен в кеше, а для других дел кеш очистится после расчётов.
Так что вроде всё ок?
ЛИБО я эти a,b,c буду считать каждый раз снова и снова (а там может быть миллион итераций в итоге), но зато кеш типа сэкономлю...
Короче пока получается, что лучше посчитать заранее...

что именно проверить и зачем?

а тогда как правильно это сделать, чтобы выжать максимум из кэша?
f(a,b,c), в т.ч., делает сравнение и мат.операции с данными из других векторов
а если векторы небольшие и все помещаются в L1 ?


надо понимать, как оно работает.

а чего ты от этого ждёшь, какой результат? это первое что надо делать с любой структурой - данные в ней выровнять. И чем меньше структура, тем лучше. Это аксиомы.
А у меня там вообще ushort.
И где я тут "волшебный набор рецептов" спрашивал? Я задаю конкретные вопросы, а ты льёшь воду.
Демотивирует твоя вода.

лять ещё один, чё за вёдра с водой опять полились, нормально же общались!
кэш-линия для передачи байт из памяти в кэш и обратно, чё вы там гуглить собрались, это известно на второй неделе в C/C++
Это тебе надо гуглить и по рукам надавать за советы про #pragma pack. Мало того, что это костыль, так ещё если будет atomic, то могут возникнуть ТОРМОЗА внезапно, ибо если atomic распадается на 2 линии, то становится ОЧЕНЬ медленным (разница до 300 раз!).

о каком ещё нахрен "другом"?! Он говорит про то что все вокруг дебилы и не выравнивают структуры, а он самый умный и на мой вопрос "как именно отработает кэш в данном случае, где мы шлём в другую ф-ю бла-бла" он мне рассказывает про то, чтобы я срочно проверил, а не передам ли я по кэш-линии 62 байта вместо 64х... и вот это ответ на мой вопрос.
Я про это спрашивал? Да мне вообще насрать на эти 2 байта. И где тут про "другое", а не про кэш-линии?
Человек с 15000 сообщениями, ты потрясающий! (с)

Это у тебя регулярные неконтролируемые вбросы в моих темах. Неконтролируемые и неудержимые.

Конечно забанят, чему ещё ты можешь научить, кроме как цепляться к словам и сливаться?
Я в инете с 95-го года. И насмотрел как на баны, так и на форумных флудерастов. Напугал ежа голой жопой

А читать то хотя бы обязан? Вопрос стоял "надо разобраться". А ты пришёл в тему, где жуют детали, в которых ты не спец, и умничаешь за мой счёт.
Вы два Димы друг друга стоите, могли бы игнорировать мои темы и экономить нервы и время.

по утру таки вспомнил, о чём речь )


Локальные переменные всегда наилучший вариант, чтобы смежные данные попали в один кэш.
Т.е. наилучшим вариантом будет в отдельной ф-и собрать всё что надо локально и просчитать весь вектор на месте.

Dima T, да, ты прав, я темы создают не чтобы проблемы решать и развиваться, а специально чтобы вас всех тут собрать... дабы вы ответили за свои прегрешения (с)
Таки зачем кратен? Можно и 60 байтов передать... и 2. Можно передавать много структур и да, они могут порваться. Плевать. Не тот случай.
А если ты передаёшь адрес ячейки из массива, то в кэш-линию попадут все последующие/соседние ячейки, которые туда влезут. Такое упреждающее последовательное кэширование (предсказуемость рулит).

чё-то я не припомню таких должностных обязанностей в уставе программиста

во1, если я фыркаю, значит так нужно. Каким боком тебя это касается?
во2, я интересуюсь подробностями, а не фыркаю.
в3, ты уже не первый раз пытаешься на меня повесить какие-то свои домыслы.

мало называться модератором, взял бы да объяснил, что за

нормально я спросил без фырканий, нечего выдумывать.

ты свои последние 5 сообщений прочитай, помощник
Я прекрасно вижу, что ты пишешь, не волнуйся. Проблема вовсе не в этом.
а вот это ты мне зачем написал, не расскажешь?


Анатолий Московский написал хороший совет.
Dima T и Дима Сибиряк дали пару раз инфу, но какими-то кусками, будто всей картины сами не видят.
А потом скатились во флуд и оффтоп.
Вот и вся помощь.

адрес первого: 7eb0
последнего: 8096
итого: 486 байт / 81 объект = 6 байт на штуку (там 3 шорта)
6 байт не влезут в кэш-линию, будет хвост в другой
но для этого не нужно знать адреса.
А для чего нужно?

Какое слово тебе непонятно?
я никогда не слышал об этой заморочке ни у Чендлера, ни у Мейерса, ни у Александреску.
и как вообще этим можно управлять? Если тред один, то никак. Если два, то он сам разберётся, по-видимому.

Значит стоит обратиться к первоисточникам:
https://software.intel.com/content/www/us/en/develop/articles/how-memory-is-accessed.html
интересно, спасибо
vtune юзает кто?
звучит так, будто "нахрена все эти заморочки с сабжем"
а для AMD что?