Оптимизация инференса нейронных сетей
Привет, друзья!
Сегодня расскажем вам о секции «Оптимизация инференса нейронных сетей», которая посвящена улучшению производительности и эффективности нейронных сетей в реальных приложениях на этапе запуска обученных моделей.
Вы узнаете о передовых методах ускорения вычислений и снижения энергопотребления без потерь в качестве. SberDevices является партнером секции, так как активно внедряет передовые технологии в свои продукты, такие как голосовые помощники, умные устройства, большие языковые модели.
SberDevices активно инвестирует в исследования, сотрудничает с университетами, организует мероприятия и делится своими наработками через публикации и открытые репозитории, продвигая в том числе развитие сферы оптимизации моделей.
Доклады секции
Работа в браузере — одна из самых сложных задач для нейросетей, работающих с медиаконтентом, особенно для сервиса видеоконференций, которому нужно справляться в real-time. О движке инференса нейронок в SberJazz будет интересно узнать тем, кто занимается инференсом нейросетей и edge computing.
Доклад Александра Нагаева интересен тем, что обращается к корням. Из него вы узнаете, как в современнейшей задаче распознавания динамических жестов можно применить нейросеть, разработанную ещё в XX веке!
Умные колонки работают на экономных ARM-процессорах, поэтому код для них нужно писать аккуратно. Спикер из SberDevices расскажет, как на чистом Си написал библиотеку для работы со звуком, чтобы колонка могла одновременно быть и умной, и круто звучащей.
Flussonic уже много лет строит решения видеоаналитики. С точки зрения программиста и продакта, Максим Лапшин расскажет о своем опыте запуска нейросетей на камерах Rockchip. Это одни из первых доступных камер стандартного форм-фактора и доступной цены, пригодных для запуска нейросетей.
