Как выкатить в highload production сервис рекомендаций с BERT-like-моделью

BigData и машинное обучение

ML. рекомендации

Доклад принят в программу конференции

Целевая аудитория

Доклад будет полезен тем, кто собирается разрабатывать сервис машинного обучения в высоконагруженной среде.

Тезисы

В Работа.ру мы занимаемся разработкой сервисов на основе машинного обучения для улучшения пользовательского опыта при поиске работы. Недавно мы внедрили сервис рекомендаций, один из центральных сервисов нашей платформы.

В своем докладе я расскажу об опыте обучения и дистилляции мультиязычной, легковесной модели на основе архитектуры Transformer, адаптированной для HR-домена. О вариантах сервисов на базе этой модели и о нашем опыте развития архитектурных решений в зависимости от нагрузки.

После доклада у слушателя появится представление:
* о процессе обучения и дистилляции BERT-like-модели,
* о нескольких вариантах архитектуры сервисов на её основе,
* о производительности, которую можно ожидать от этих вариантов.

Chief Data Scientist at OZON fintech

Руководит направлением, которое занимается задачами машинного в банке. Ранее разрабатывал сервисы машинного обучения для крупных международных компаний в должности Senior ML Engineer.

OZON Fintech

Ozon Банк — одно из подразделений финтеха. Мы строим банк как IT-продукт — с передовыми технологиями и микросервисной архитектурой. Все самые сложные и важные системы банка реализуем сами: процессинг, учётное ядро, финансовый мониторинг, переводы через Систему быстрых платежей.

Видео

Другие доклады секции

BigData и машинное обучение