DoSOfRedRiverАрхитектура приблизительно такая: есть некий сервер, который принимает соединения. Обработав соединения, он отправляет на обработку уже полученные данные.

load balancer + single point of failure

DoSOfRedRiverХотелось бы сделать сделать сервер горизонтально масштабируемым, то есть чтобы обработкой данных занимались другие сервера, которые возможно будут находится на удалённых машинах.

Не понятно, нужна ли избытачность, например, для 24x7 или только масштабируемость?
Нужно ли разбирвать сложные задачи (Map\Reduce) или просто обрабатывать запросы пользователей?

DoSOfRedRiverКак вы считаете, допустима ли подобная архитектура?

Нет тут пока никакой архитектуры.

DoSOfRedRiverЕсли особых нареканий нет, подскажите как организовать межсерверное взаимодействие. Подойдёт ли для эти целей RMI? Возможно, есть какой-нибудь удобный фреймворк для подобных задач?
Хорошо бы с задачей, для начала, определится. А то, как обычно, на форумах, предалгается решение не известно какой проблемы и угадывай что же оно решает.

RMI, скорее, нафиг не нужен. Или сразу к JEE стэку привязываться, брать EJB+JMS и готовую кластеризацию JEE сервера.
Либо полностью писать своё решение для того чтобы максимально выжать всё возможное - NIO сокет сервер, кастомная кластеризация на jgroups, terracotta и т.п. Быстрая сериализация типа protobuf.

DoSOfRedRiverПростая обработка. Данные лежать в BlockingQueue, оттуда хэндлер(ы) их достают, и обрабатывают.

И при штатной\не штатоной перезагрузке сервер с очередью что происходит?

DoSOfRedRiverНу дык вот она задача: распараллелить обработку на несколько серверов. Вернее, предусмотреть такую возможность.
ОК. "распараллелить" значит взять одну задачу и паралельно исполнять разные её части. Это Map\Reduce. Фреймверков валом.
Обрабатывать запросы разных пользователей разными серверами это банальный load balancing. Тоже есть готовые решения.
Что именно у вас вкладываестся в "распараллелить" - придут телепаты и объяснят. Я с утра туплю и не понимаю.

DoSOfRedRiverНичего. Запросы нужны обрабатывать либо сразу, либо вообще не обрабатывать, потому что Аякс.

Ну, т.е. юзеры дружно встали и пошли на юг, пока сервер бутается.

DoSOfRedRiverПо поводу "готовых решений". Может вы поделитесь?

jgroups, ну и гугл -> java load balancer для ещё пачки вариантов.

DoSOfRedRiverПроблемы у меня возникли с sharing memory
terracota
DoSOfRedRiverи системой обмена сообщениями, потому как опыта разработки подобных приложений у меня нет почти.
А зачем shared memory и сообщения в вашей архитектуре? balancer отдал запрос ноде и пусть та обрабатывает.