Я думаю, что задачи про оптимизацию способов отображения многих тысяч строк, над которыми ломают головы программисты, возникают из непонимания того факта, что никакой нормальный юзверь 1000 СТРОК НИКОГДА С ЭКРАНА ЧИТАТЬ НЕ СТАНЕТ. Вместо того, чтобы скорректировать постановку задачи, они мучаются над тем, как заставить быстрее ехать квадратное колесо при условии, что оно должно оставаться квадратным.

Точнее, только то, что юзверю надо. А вот что ему надо, как это правильно у него выяснять, в какой последовательности и как выводить на экран, над этим нужно поработать. Прежде всего, провести беседу с самим юзверем, чтобы он рассказал, какие телодвижения и для чего он делает.

____
Вспомнилось...

Случилась у меня в стародавние времена (год примерно 1998-99) история с одной дамой, которая хорошо себя зарекомендовала перед руководством тем, что выполняемую ранее вручную работу систематизировала с помощью таблиц Excel. Таблицы постепенно разрослись до невообразимых размеров, стали тормозить, были сложности многопользовательского доступа к данным... И передо мною поставили задачу всё это автоматизировать каким-то иным способом, для чего я должен был взаимодействовать с ней как с главным заказчиком.
Она привыкла работать в Excel, используя функционал автофильтров, и требовала от меня, по сути, реализовать один-в-один такой же функционал при доступе к SQL-серверу. Я пытался её убедить в том, что выводить тысячи строк из базы данных на экран - это плохая идея, что при работе с SQL-сервером всё будет работать ещё медленнее, чем в Excel, но это была весьма харизматичная дама ничего не хотела слушать. Наши пикировки дошли до уровня высшего руководства. Высшее руководство не стало разбираться и потребовало от меня, чтобы я просто тупо выполнял все капризы этой дамы. Ок, сказал я, выполню. Пару месяцев работы программиста и нате, получите.
- Почему всё так медленно? В Excel и то быстрее!
- Разве я вас об этом не предупреждал? Вы получили то, чего хотели.
- Но в таком режиме работать же невозможно!...
После очередных разборов полётов у высшего руководства теперь уже ей было приказано внимательно слушать, что уже я ей говорю. На этот раз она сделала над собой усилие и, наконец, призналась в том, что ни она сама, и ни один из её сотрудников не читает содержимое отфильтрованных строк таблицы, а смотрит лишь на их количество. А смотреть на содержимое строк начинает, когда их число путём последовательного наложения дополнительных условий фильтации не уменьшится примерно до 10-20.
Я реализовал вычисление на сервере числа строк по сложным комбинациям фильтров и вывод на экран юзверю числа строк, а не самих строк, а сами строки выводились отдельной строкой "Показать". Всё стало работать быстро и все оказались довольны.