GPT в службе поддержки: автоматизация, оптимизация и инновации

Data Engineering

Доклад принят в программу конференции

Мнение Программного комитета о докладе

Внедрение GPT в критические процессы, особенно работающие с людьми и финансами, процесс интересный. Об этом в подробностях расскажет докладчик.

Целевая аудитория

DL-специалисты, работающие в сфере NLP; продакты; все, кому интересна тема. Доклад планируется быть доступным широкой аудитории, а не только лишь тем, кто сильно погружен в специфику работы служб поддержки: скорее планируется рассказать об общих идеях/решениях, опыт которых можно легко экстраполировать в различных сферах.

Тезисы

* Как Городские сервисы Яндекса внедряют GPT для автоматизации различных процессов.
* Как построить RAG для высокоэффективной автоматизации обращений в службу поддержки.
* Какие уроки были извлечены в процессе переосмысления подхода к использованию языковых моделей.

Мой доклад будет полезен в первую очередь DL-специалистам, работающим в сфере NLP, чтобы узнать, как можно приземлять LLM в реальных продуктах, как оптимизировать большие языковые модели, чтобы получать максимальный эффект при небольших затратах на железо, как эффективно обучать, оценивать и запускать SotA-технологии в этой сфере. Я не планирую очень сильно углубляться в детали, чтобы сделать доклад максимально доступным для аудитории разного уровня.

Также мой доклад должен быть крайне полезен продактам, так как в нем пойдет речь про то, как максимизировать профит от использования LLM в реальных продуктах, как эффективно и точно замерять позитивные изменения от внедрения больших языковых моделей, с какими нетривиальными проблемами можно столкнуться при внедрении LLM в бизнес-процессы.

Николай Пономаренко

Техплатформа Городских сервисов Яндекса

Прошел путь от стажера в Алисе до руководителя команды обучения и внедрения LLM для автоматизации поддержки Городских сервисов Яндекса. Любит забеги на 10 км и котиков.

Видео

Другие доклады секции

Data Engineering