Мы для кучи сервров на Amazon используем slf4j+logback вместо log4j, он несколько удобнее log4j. slf4j может перехватывать то что писалось под commons-logging, log4j, java logging. Все логи дублируются на диск, на всякий случай ( в облаке сервер в любой момент может умереть и удалиться, так что это только на случай если с сетевым логером проблемы ).
Пробовали graylog2 - интерфейс удобный, но настраивать сложно, надо соединить вместе mongodb, elastic search и web приложение. Падало все регулярно. logstash гораздо проще, минимальный запуск просто java -jar logstash.jar. Интерфейс слегка странный, но пользоваться можно. logstash гибче в плане подключения, умеет принимать кучу разных форматов. В том числе может следить за файлами и транслировать новые записи на сервер.
Полгода кластер из пары серверов работает, проблем не было.