Мне кажется, что надо начинать с Lewis, Jonathan. Cost-Based Oracle Fundamentals. Ну да, это не про DB2, но идеи общие, а аналога этой книжки ни для DB2, ни для чего-то ещё я не знаю. Важно "ухватить" структуры и понять "физику" (в частности, чем отличается многоблочное чтение от одноблочного).

Кстати, у Oracle единица измерения стоимости = предположительное время чтения одного 8-килобайтового блока, у DB2 "таймерон" (предполагаю, что это тысячная доля секунды, но переименованная, чтобы люди не спрашивали, почему вычисленное время так не совпадает с реальным).