Терминология - жесть.
denis11111Есть маленькая таблица на 10-20 параметров.

Что такое "параметр таблицы"*

denis11111Есть цикл. При кажой новой итерации цикла в него попадает строка.

Строка попадает в цикл? Это как?

denis11111Все время доставать по одному обьекту. Или достать их все сразу, а потом работать из этим листом: в цикле через equals искать нужной обьект?
Не понятно зачем искать по equals.
Если нужно обработать все записи, то, конечно, лучше их все прочитать. Можно их отсортировать в нужном порядке, чтобы не искать по ним, а обрабатывать в заданной последовательности.
Если все записи обрабатывать не нужно, то лучше тягать по одной, чтобы избежать множества лишних итераций в Java коде.

denis11111Есть таблица, в ней немного записей (20-30).

Ети записи нужно все время доставать из этой таблицы.

Тож лучше все время дергать БД, или достать все записи, сложить в List b и уже с него доставать необходимие значения.
Лучше всего настрить кеш между кодом обработки и кодом работы с базой.
Таким кешем будет проще управлять, надо - включил, надо выключил.
Для однозначного ответа не достаточно информации. В большинтсве случаев с кешем, конечно, лучше чем без.