Профессиональная конференция разработчиков высоконагруженных систем

Highload MLOPs: ускорение и автоматизация

BigData и машинное обучение

Доклад принят в программу конференции

Мнение Программного комитета о докладе

Доклад будет интересен широкой публике ML-разработчиков. Из доклада вы узнаете, как в условиях ограниченных вычислительных ресурсов может выживать большая DS-команда. Также вы узнаете, как на небольших серверах оптимально крутить не менее 300 моделей.

Целевая аудитория

Team Lead MLOPs / DS MLOPs / DS team ML PO / бизнес-заказчики моделей

Тезисы

Моя команда разрабатывает централизованную промышленную инфраструктуру MLOPS в Альфа-банке, а также управляет процессами внедрения и поддержки моделей.
> 300 моделей в бою, > 150 DS постоянно пользуются платформой.
Реализовали среду разработки моделей с гибким распределением гарантированных вычислительных ресурсов пользователям.
Более чем в 2 раза ускорили внедрение моделей за счет оптимизации пайплайнов и процесса внедрения.
Поддерживаем модели на уровне Mission Critical.
Автоматизировали переобучение моделей и внедряем AutoML.

Павел Николаев

Альфа-банк

15 лет работаю в банках: в рисках и Data Science. Работал в Райффайзенбанке, Юникредите, в Альфе 2 раза, Уралсибе и Открытии. На предпоследнем месте работы в Банке Открытии курировал моделирование и интегрированные риски, руководил 200+ сотрудников. На текущем месте работы в Альфа-банке отвечаю за централизованную инфраструктуру моделирования и процессы внедрения и сопровождения моделей

Альфа-банк

Альфа-банк - передовой Банк в области технологий и искусственного интеллекта

Видео