Последний шаг к real-time процессингу данных для RecSys. Real-time обновления HNSW.

Data Engineering

Доклад принят в программу конференции

Целевая аудитория

Разработчики крупных рекомендательных систем: рекламных систем, рекомендаций маркетплейсов, рекомендаций видеосервисов.

Тезисы

Последние несколько лет мы в Яндекс Рекламе активно мигрировали с MapReduce технологий на real-time. Последним, что отделяло нас от полностью real-time обновления индексов, оставалось full-state обновление индексов HNSW, которые позволяют Яндекс Рекламе находить самые релевантные для пользователей объявления среди миллиарда объектов. В докладе расскажу как мы с помощью нового алгоритма обновления индекса HNSW смогли перейти на полностью real-time процессинг данных.

5 лет в IT. Начал путь с R&D в Computer Vision, но вскоре перешел в инфраструктуру рекомендательных систем в Яндекс Рекламе. Сейчас развивает контент систему рекламы делая ее более быстрой, гибкой и стабильной.

Видео