GPT в службе поддержки: автоматизация, оптимизация и инновации

Data Engineering

Доклад принят в программу конференции

Целевая аудитория

Мой доклад будет полезен в первую очередь DL-специалистам, работающим в сфере NLP, чтобы узнать, как можно приземлять LLM в реальных продуктах, как оптимизировать большие языковые модели, чтобы получать максимальный эффект при небольших затратах на железо, как эффективно обучать, оценивать и запускать SotA технологии в этой сфере. Я не планирую очень сильно углубляться в детали, чтобы сделать доклад максимально доступным для аудитории разного уровня. Также мой доклад должен быть крайне полезен продактам, так как в нём пойдёт речь про то, как максимизировать профит от использования LLM в реальных продуктах, как эффективно и точно замерять позитивные изменения от внедрения больших языковых моделей, с какими нетривиальными проблемами можно столкнуться при внедрении LLM в бизнес-процессы. Тут важно отметить, что доклад планируется быть доступным широкой аудитории, а не только лишь тем, кто сильно погружен в специфику работы служб поддержки: скорее планируется рассказать об общих идеях/решениях, опыт которых можно легко экстраполировать в различных сферах.

Тезисы

⁃ Как Яндекс внедряет GPT для автоматизации различных процессов
⁃ Как построить RAG для высоко эффективной автоматизации обращений в службу поддержки
⁃ Какие уроки были извлечены в процессе переосмысления подхода к использованию языковых моделей

Николай Пономаренко

Техплатформа Городских сервисов Яндекса

Прошёл путь от стажёра в Алисе до руководителя команды обучения и внедрения LLM для автоматизации поддержки Городских сервисов Яндекса. Люблю бегать 10км забеги и котиков

Видео