Tyo,

Код точно всегда доходит до queueConnection.close(); ?
Ибо очень похоже на то, что соединения таки не возвращаются в пул.
How to troubleshoot J2CA0045E connection pooling problems

Да, желательно пользоваться более общим интерфейсом ConnectionFactory.
Эта рекомендация из документации:
http://docs.oracle.com/javaee/5/api/javax/jms/QueueConnectionFactory.html QueueConnectionFactory can be used to create a QueueConnection, from which specialized queue-related objects can be created. A more general, and recommended, approach is to use the ConnectionFactory object.
Код по закрытию соединения желательно ставить в блок finally, так, чтобы открытое соединение закрывалось (и возвращалось в пул) всегда, вне зависимости от ошибок/исключений, возникающих по ходу работы логики.

И еще, какой фикспак установлен на WAS? Узнать можно командой versionInfo.

Tyo,

Можно, через Performance Monitoring Infrastructure (PMI) и в нем Performance Viewer.
Но, вначале в PMI нужно включить сбор статистики, как минимум Base уровня, а уже потом смотреть.

По моему надежнее это смотреть через wsadmin. Какие команды там использовать написано в документе "How to troubleshoot J2CA0045E connection pooling problems", ссылку на который я давал ранее.