powered by simpleCommunicator - 2.0.43     © 2025 Programmizd 02
Форумы / Программирование [игнор отключен] [закрыт для гостей] / Чем парсить логи ?
6 сообщений из 6, страница 1 из 1
Чем парсить логи ?
    #38842735
ribamoya
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Нужно парсить логи ( порядка 200 - 300 гб в день ). Для этой цели есть 3 сервера. Чем лучше это делать ?

1) использовать Hadoop. Посмотрел я на него, даже поставил потестировать, поигрался с hive.
Из плюсов: порадовала возможность задавать sql запросы к логам. Но в интернетах люди пишут что hadoop предназначен для ОЧЕНЬ больших данных и что в данной ситуации он будет не так быстр.
2) написать питоновский скрипт, который через tail Будет парсить логи на каждом сервере + закидывать все это в redis и уже потом сводить статистику в какую нибудь общую БД.
Из минусов: прийдется ег полность писать :).
3) использовать что-то 3.

Какой из этих вариантов предпочтительнее ?
...
Рейтинг: 0 / 0
Чем парсить логи ?
    #38842754
Фотография tchingiz
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
парсил через http://en.wikipedia.org/wiki/Logparser
там тоже есть sql, к которому надо привыкать, ибо в вырожденных случаях работает неожиданно.
вызываел его через zshell,
с точностью до склероза, есть подключаемая библиотека, которую можно использовать внутри сишарпа.
...
Рейтинг: 0 / 0
Чем парсить логи ?
    #38842759
Фотография tchingiz
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
поскольку компания благополучно скончалась, могу подарить отчет
...
Рейтинг: 0 / 0
Чем парсить логи ?
    #38842763
Фотография tchingiz
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
загружал в сайбез
...
Рейтинг: 0 / 0
Чем парсить логи ?
    #38843294
Фотография mayton
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
ribamoyaНужно парсить логи ( порядка 200 - 300 гб в день ). Для этой цели есть 3 сервера. Чем лучше это делать ?
Какой из этих вариантов предпочтительнее ?
В такой общей постановке - непонятно что делать. 99% эффекта будет зависеть от того
какие запросы к логам. Если надо 1 раз в день посмотреть нарушителей безопасности - то
можно через grep посмотреть и бох ним.

Насчёт Хадупа - ничего не скажу т.к. не работал с ним. Собственно Хадуп вообще ортогонален
к этой задаче. Это скорее принцип декомпозиции дисковых ресурсов и сведения результатов.

Питонский скрипт - хороший вариант. Но чем он лучше grep - непонятно.

Переливать всё в БД - другая крайность. Зачем тогда вообще логи создавались? Непонятно.

Вобщем озвучь запросы. Наиболее важные и требующие быстрого решения.
...
Рейтинг: 0 / 0
Чем парсить логи ?
    #38859011
Фотография grasoff.net
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Logstash
...
Рейтинг: 0 / 0
6 сообщений из 6, страница 1 из 1
Форумы / Программирование [игнор отключен] [закрыт для гостей] / Чем парсить логи ?
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]