Динамическая мета-агентная архитектура для долгоживущих LLM-агентов
Программный комитет ещё не принял решения по этому докладу
Целевая аудитория
Тезисы
Долгоживущие LLM-агенты быстро упираются в потолок: контекстное окно переполняется инструментами и знаниями, качество рассуждений падает, а токены утекают впустую. Мы построили модельно-независимый харнесс с многоконтурной архитектурой на паттерне хореографии — компоненты нашего агентного графа взаимодействуют децентрализованно, каждый реагируя на события системы, а не подчиняясь единому диспетчеру, что позволяет в совокупности реализовать Dynamic Meta Agent Architecture (DMAA).
В докладе мы расскажем:
1) Как устроен цикл агента: классификация и обогащение запроса, потоковый анализ рассуждений (stream observer) и точечная инъекция контекста «на лету» 2) Как валидатор и планировщик держат действия агента в рамках DAG-плана и предотвращают отклонение от задачи 3) Как оркестратор управляет жизненным циклом: порождает и клонирует субагентов с передачей контекста родителя, распределяет между ними задачи и бюджет размышлений 4) Как устроено управление состоянием (project context manager, state graph) и сжатие контекста для по-настоящему долгоживущих агентов 5) Какие результаты дала архитектура на практике и насколько превосходит существующие аналоги по следующим метрикам: pass@1, tool selection accuracy, skills injection rate, skills selection accuracy, также устойчивость метрик при росте библиотеки инструментов и уменьшение расхода токенов расход токенов.
Научный сотрудник МФТИ и разработчик в ООО «Квантовые оптимизационные решения», специализируюсь на комбинаторной оптимизации, нейроускорениях и GPU-вычислениях. Автор научно-исследовательских проектов, преподаватель в ОЦ «Сириус», МЦНМО.
Разработчик в подразделении автономного транспорта Яндекса. Занимаюсь развитием искусственного интеллекта беспилотных автомобилей: разрабатываю алгоритмы, отвечающие за поведение машины на дороге, опираясь на данные реальных проездов.
Начинал свой путь с arduino разработчика, в настоящее время MLE в Sber Devices, Играет в настольный теннис и преподает в Сириусе
Стажёр отдела исследований и образования в ВК, специализируюсь на безопасности моделей машинного обучения, разрабатывал сервис по тестированию ML-моделей и датасетов, учусь в НИУ ВШЭ, участвовал в проекте по созданию внутреннего сервиса с visual моделью
Сотрудник команды по изучению и разработке в области MLSecOps в "VK". Преподаватель в ОЦ "Сириус". Студент НИУ ВШЭ. Победитель МОШ. Организатор хакатонов и CTF-соревнований. Бывший участник лаборатории искусственного интеллекта от Альфа-банка на базе НИУ ВШЭ.
Видео
Другие доклады секции
Агентная платформа
