Арсений Нериновский на HighLoad++ 2023

NeuroHD: охота на шакалов, или Деплой и ускорение сеток в высоконагруженной инфраструктуре VK

Нейронные сети, искусственный интеллект

Нейронные сети / Языковые модели

C/C++

Python

28 ноября, 14:40, Зал «Мумбай (2 этаж)»

Google Outlook Apple

Доклад принят в программу конференции

Мнение Программного комитета о докладе

Улучшение качества видео — одно из типовых применений нейросеток. Но одно дело запустить это на своем ноутбуке, и совсем другое — для огромного количества видео ВКонтакте. Арсений расскажет про архитектуру их продакшн-решения, уделив особое внимание вопросам оптимизации и деплоя.

Целевая аудитория

ML-разработчики, Data Scientist'ы, CV-инженеры.

Тезисы

Скачать презентацию Все презентации конференции

NeuroHD — технология VK улучшения качества видео. С помощью NeuroHD мы увеличиваем разрешение видео, повышаем частоту кадров и убираем шумы. Под капотом NeuroHD использует две нейронные сети — одну для улучшения качества, другую для повышения частоты кадров. Доклад посвящен тому, что случилось после обучения нейронных сетей.

* Как сетки попали в прод, и что с ними произошло.
* Как получилось ускорить пайплайн в 10 раз.
* Как удалось конвертировать сеть с нетипичной архитектурой в TensorRT.
* Как удалось удачно зарефакторить код и упростить интеграцию.

Арсений Нериновский

VK, ВКонтакте

ComputerVision-инженер в компании VK. Ведет разработку полного цикла — от тренировки нейронных сетей до интеграции их в прод.

VK, ВКонтакте

ВКонтакте — крупнейшая социальная сеть в России и странах СНГ. Мы ставим перед собой масштабные вызовы и делаем технологии доступными для каждого пользователя. ВКонтакте помогает решать любые повседневные задачи — и даже больше!