GregTkНе ясно какие проблемы они решат за меня?

Решают вcякие низкоуровневые проблемы, которые вы бы иначе решали сами - управление буферами соединений, раскидывание задач чтения/записи по тред пулам. Решений относительно логики работы клиента и сервера здесь нет и их нужно решать вам т.к. эти библиотеки работают с протоколами транспортного уровня.

GregTkПравильно ли я понимаю что нужно бизнес-логику выделить в отдельную часть и общатся с ней через jms или свой аналог?
Как угодно.

GregTkВ non-blocking решений все клиенты будут писать в один поток, но как их различать(речь о клиентах)?
channel#id в netty, но это идентификация сокета клиента, а проблемы аутентификации решать опять же вам.

Если совсем простой протокол можно как-нибудь к тому же jmeter-у прикрутить. Если нет, то скорее всего ручками (хотя может есть какие инструменты).