Георгий Кокорин на HighLoad++ Genesis 2025

ML решения в проде - батчи, NRT, RT, что выбрать и какие подводные камни?

Доклад

Google Outlook Apple

Доклад принят в программу конференции

Мнение Программного комитета о докладе

От модели к продакшену: батч, NRT или RT? Гоша Кокорин из MWS раскроет секреты выбора архитектуры для ML в проде. Реальные кейсы, А/Б эксперименты, подводные камни и практические решения для масштабирования ML-систем. Узнайте, как правильно катить модели и строить универсальные платформы!

Целевая аудитория

Ml, DS, backend

Тезисы

Я разработчик и моя экспертиза именно в выводе в прод ML моделей. Я вижу большой запрос от наших молодых ML-щиков как можно применять модели.
1) Кто такой MLE (не только разрабатывает модели, но сам их катит)
2) Оффлайн схема
3) NRT схема
4) RT схема - что для нее нужно
5) Что-то про платформу и универсализацию решений

Георгий Кокорин

MWS

4 года в IT. Являюсь backend разработчиком в компании МТС Web Services, отдел Big Data. Занимаюсь построением пайплайна рантайм рекомендаций в команде Recsys.