7 петабайт логов в Elastic. Как мы это сделали?

Базы данных и системы хранения

Обработка логов

Доклад принят в программу конференции

Целевая аудитория

DevOps- и SRE-инженеры.

Тезисы

В Тинькофф тысячи сервисов, и все эти сервисы пишут логи. За сбор логов и метрик отвечает Sage — платформа мониторинга собственной разработки с Elasticsearch под капотом. Объемы логов постоянно росли и сейчас это 7 ПБ, а суммарное количество нод на 15 кластерах в двух ДЦ достигло 370 штук. На таких объемах вылезает много проблем: под нагрузкой кластеры могут разваливаться, встроенный ILM уже неудобен, да и сопровождать это непросто. В докладе автор расскажет, как эти проблемы были решены в Sage, а также поделится информацией о внутреннем устройстве Elastic.

Ведущий специалист по мониторингу.

Тинькофф

Тинькофф — онлайн-экосистема, основанная на финансовых и лайфстайл-услугах. Клиентами Тинькофф стали 28 млн человек по всей России. Тинькофф — третий крупнейший банк страны по количеству активных клиентов.

Видео

Другие доклады секции

Базы данных и системы хранения