|
|
|
Система логгинга для кластера.
|
|||
|---|---|---|---|
|
#18+
Значится вопрос очень простой, есть кластер из 8 нодов. Если случается капец - то приходится коннектиться ко всем сервакам по одному и рыть логи. Поднадоело. Кто как решает проблему? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 29.04.2013, 22:13:21 |
|
||
|
Система логгинга для кластера.
|
|||
|---|---|---|---|
|
#18+
... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 29.04.2013, 22:32:49 |
|
||
|
Система логгинга для кластера.
|
|||
|---|---|---|---|
|
#18+
Ну я кагбе понимаю возможные пути решения, меня интересует практический опыт обитающих тут людей ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 29.04.2013, 22:34:52 |
|
||
|
Система логгинга для кластера.
|
|||
|---|---|---|---|
|
#18+
Не у меня, но у коллег есть положительный опыт с scribe . Позволяет перенаправлять логи куда угодно, в том числе и в несколько мест. Быстрая и качественная вещь. Используется в facebook. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 29.04.2013, 22:59:40 |
|
||
|
Система логгинга для кластера.
|
|||
|---|---|---|---|
|
#18+
АлексейСНе у меня, но у коллег есть положительный опыт с scribe . Позволяет перенаправлять логи куда угодно, в том числе и в несколько мест. Быстрая и качественная вещь. Используется в facebook. Да вот тоже наслышан... Осталось определиться стоит ли овчинка выделки, или обойтись простым log4j-ным сокет адаптером. А не слышали какие-то неудобство вообще были со скрайбом? Ну мож настроить трудно, зато летает, или наоборот, запустилось сразу, но кучу мелких багов.. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.04.2013, 01:05:12 |
|
||
|
Система логгинга для кластера.
|
|||
|---|---|---|---|
|
#18+
забыл ник, Задача была в централизованной доставке логов от разных серверов: фронтендов и бекендов, причём нигде не использовалась java. Поэтому выбор был куда проще :) Scribe, емнип, имеет такие особенности: 1) когда вы отправляете логи в скрайб - они оседают в локальном скрайбе. Потом отправляются на центральный сервер, либо куда вам еще пожелается. 2) Следовательно если центральный сервер на время умрёт или умрёт совсем, логи потеряны не будут, они отправятся тогда, когда будет возможность. 3) это предельно быстро, так как вы, по сути, работаете с локальной машиной, а не передаёте логи по сети в самом приложении 4) но это требует переписи приложения, либо написания некого tail'ера для логов. Насчёт SocketAppender'a в log4j - у меня вот после этой строчки "If the remote server is down, the logging requests are simply dropped. However, if and when the server comes back up, then event transmission is resumed transparently. This transparent reconneciton is performed by a connector thread which periodically attempts to connect to the server." желание пользоваться этим отпадает сразу. Но если предполагается отправлять только логи с java app серверов и потеря логов не пугает - то это самый лучший вариант. Так как самый простой :) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.04.2013, 02:58:26 |
|
||
|
Система логгинга для кластера.
|
|||
|---|---|---|---|
|
#18+
АлексейС, А, ну и да - ведь вся эта штуковина с log4j, насколько я понимаю, использует обычную сериализацию. Не думаю, что они что-то сильно оптимизировали. То есть если логи пишутся активно с 8ми серверов, то не вариант совсем. 1) прямо из приложения общаемся с каким-то центральным сервером по сети, который может внезапно отвалиться или очень долго тупить 2) создаётся куча лишних объектов и захламляется хип. Мелочь, а неприятно. 3) медленная сериализация 4) потеря логов, в случае недоступности центрального сервера... В общем ужас. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.04.2013, 03:05:10 |
|
||
|
Система логгинга для кластера.
|
|||
|---|---|---|---|
|
#18+
забыл ник, Если совсем не хочется париться с scribe, а доставку логов хочется - почему бы не заюзать старый добрый bash? Это дёшево и сердито. Если размеры - не сотни гигов, ротируемые логи доставить ночью - раз плюнуть. Но это, конечно, не realtime и это минус... ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.04.2013, 03:12:05 |
|
||
|
Система логгинга для кластера.
|
|||
|---|---|---|---|
|
#18+
забыл ник, Пофлужу еще чуть-чуть :) Насчёт багов scribe: помнится настроили его довольно быстро, проблем с этим не возникло. Был нюанс - что пришлось в сишном коде мелкий фикс делать, но деталей я не знаю, скорее всего это был инфраструктурный наворот, а не необходимость. Но то, что фикс был - факт. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.04.2013, 03:18:16 |
|
||
|
Система логгинга для кластера.
|
|||
|---|---|---|---|
|
#18+
Логи пишутся локально в запакованном виде. rsync синхрит их на один сервер. также строятся графики по количеству сообщений разного уровня, поэтому в случае чего можно понять где жопа просто посмотрев на графики ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.04.2013, 10:34:50 |
|
||
|
|

start [/forum/topic.php?fid=59&msg=38245125&tid=2129435]: |
0ms |
get settings: |
19ms |
get forum list: |
21ms |
check forum access: |
6ms |
check topic access: |
6ms |
track hit: |
73ms |
get topic data: |
22ms |
get forum data: |
5ms |
get page messages: |
94ms |
get tp. blocked users: |
2ms |
| others: | 364ms |
| total: | 612ms |

| 0 / 0 |
