Натолкнулся на несколько неприятную вещь. JToolbar не умеет переносить кнопки при уменьшении своего размера. Т.е. компоненты в нём всегда расположены в один ряд (что и неудивительно с BoxLayout'ом). К сожалению кнопок много и они содержат текст, поэтому в одну строку ну никак не влазят. Может кто подскажет как реализовать toolbar так, чтобы кнопки в нём динамически разбивались в несколько строк в зависимости от размеров самого контейнера? Грубо говоря что-то вроде Flowlayout'a, только без исчезовения компонентов и изменяемым размером контейнера.

Мда уж. Быстрее самому разобраться. Если кому интересно - панель с FlowLayout'om и обработчиком изменения размера, который подстраивает высоту панели в зависимости от её ширины и высоты содержащихся компонентов.