Moebius - реактивный планировщик для вашего хранилища
Доклад отозван
Целевая аудитория
Тезисы
На заре DWH мы приобрели КХД под ключ - решение от SAS. С тех пор прошло много времени и оно давно устарело во всех смыслах: дорабатывать приходится на мертвом языке SAS Base, на котором никто не пишет; в такое КХД уже давно не помещаются наши данные и создавать ETL-процессы в нем больно. DWH Тинькофф давно стало использовать для хранения и расчетов витрин Greenplum, а в последние пару лет мы активно выпиливаем оставшиеся части. Одной из таких частей является планировщик запуска ETL-процессов, вместо которого мы делаем новый, реактивный, событийно-ориентированный планировщик Moebius!
В докладе я расскажу, почему делаем свой велосипед, а не берем что-то готовое, что с помощью него можно сделать, какие функции в нем уже есть, а какие планируются, с какими проблемами столкнулись и как их решали, как много процессов запускаются через Moebius, как много процессов может через него запускаться, как мы переезжали с legacy решения, юзкейсы использования и кому такой планировщик может подойти.
Из дата-инженеров "перекатился" в тимлида продуктовой команды.
Работаю с КХД более трех лет. Собеседую дата-инженеров, а также аттестую их внутри компании. Сам при этом в свободное от созвонов время пишу бэкенд на питоне.
Тинькофф
Видео
Другие доклады секции
Архитектуры и масштабируемость