btree - это наиболее универсальный индекс. помимо поиска по полному совпадению, он также повзволяет делать поиск по условию больше/меньше (например intvar>100 или strvar between 'abc' and 'adf'), также индекс может использоваться просто для сортировки (create index .... a,b; select .... where a=5 order by b limit 3).

hash - умеет только искать по точному совпадению. но, теоретически, делает это несколько быстрее.
однако реализацияв postgresql "хромает" и hash-индексы не рекомендованы к использованию.

http://www.postgresql.org/docs/8.3/static/indexes-types.html
http://wiki.postgresql.org/wiki/Gsoc08-hashindex#Performance