Moebius - реактивный планировщик для вашего хранилища

Архитектуры и масштабируемость

Доклад отозван

Целевая аудитория

Разработчики и архитекторы DWH

Тезисы

На заре DWH мы приобрели КХД под ключ - решение от SAS. С тех пор прошло много времени и оно давно устарело во всех смыслах: дорабатывать приходится на мертвом языке SAS Base, на котором никто не пишет; в такое КХД уже давно не помещаются наши данные и создавать ETL-процессы в нем больно. DWH Тинькофф давно стало использовать для хранения и расчетов витрин Greenplum, а в последние пару лет мы активно выпиливаем оставшиеся части. Одной из таких частей является планировщик запуска ETL-процессов, вместо которого мы делаем новый, реактивный, событийно-ориентированный планировщик Moebius!

В докладе я расскажу, почему делаем свой велосипед, а не берем что-то готовое, что с помощью него можно сделать, какие функции в нем уже есть, а какие планируются, с какими проблемами столкнулись и как их решали, как много процессов запускаются через Moebius, как много процессов может через него запускаться, как мы переезжали с legacy решения, юзкейсы использования и кому такой планировщик может подойти.

Из дата-инженеров "перекатился" в тимлида продуктовой команды.
Работаю с КХД более трех лет. Собеседую дата-инженеров, а также аттестую их внутри компании. Сам при этом в свободное от созвонов время пишу бэкенд на питоне.

Тинькофф

Тинькофф - лучший онлайн-банк в мире + просто приятное место работы. Отзывчивые коллеги, классные спецы, все вовлечены и стараются сделать круто.

Видео

Другие доклады секции

Архитектуры и масштабируемость