Как запустить в прод программу синтеза речи?
Это наше последнее письмо в 2021 году. Сегодня будет подборка полезных материалов и знакомство со спикером Анастасией Торуновой. По традиции в новогодние каникулы вам придёт ещё одно письмо с полезными материалами. Что это будет — узнаете после Нового года :)
Кстати, в новом году первое повышение цен будет 1 февраля. Если хотите без суеты согласовать своё участие в HighLoad++ Foundation, самое время это сделать.
Забронировать билет на HighLoad++ Foundation
Оптимизация инференса вокодера для синтеза речи
Анастасия Торунова — ML-инженер в команде распознавания и синтеза речи в Tinkoff. Из доклада Анастасии узнаем, с какими проблемами её команде пришлось столкнуться при запуске синтеза речи в прод:
- особенности архитектуры вокодера (wavenet);
- сервинг модели вокодера в реальном времени;
- почему не помогало горизонтальное масштабирование;
- использование векторных инструкций и квантизации весов модели.
Кроме того, Анастасия сравнит подход своей команды с альтернативными решениями (parallel wavenet, waveglow).
Полезные материалы об оптимизации производительности
- Алексей Миловидов. Необычные случаи оптимизации производительности на примере ClickHouse. Видео. Статья.
- Алексей Миловидов. Ускоряем разжатие LZ4. Видео.
- Петр Зайцев. USE, RED и Golden Signals для анализа производительности и оптимизации. Видео.
- Руслан Зиганшин. Тестирование производительности с нуля. Видео.
