Как и зачем мы за два месяца построили платформу для Claude Code: LLM-шлюз, MCP-реестр и сквозная телеметрия
Программный комитет ещё не принял решения по этому докладу
Целевая аудитория
Тезисы
В конце 2025 года мы начали централизованно внедрять Claude Code: подключили Team Plan, добавили сотрудников и настроили организационные политики. Довольно быстро выяснилось, что этого недостаточно для полноценного корпоративного использования ИИ-агентов.
У сотрудников были разные операционные системы и клиенты, часть работала по подписке, часть было выгоднее завести на общий API-ключ с лимитами. В запросы могли попадать секреты и данные медицинских исследований, агентам требовался безопасный доступ к внутренним системам, а компании - понимание того, кто, как и с какими MCP-инструментами использует модели.
Мы не проектировали большую платформу заранее. Каждый её слой появился из конкретной боли: ручной онбординг привёл к созданию кроссплатформенного лаунчера, блокировки и риски утечек - к собственному LLM-шлюзу, необходимость подключать внутренние системы - к MCP-реестру, а потребность видеть использование, стоимость и надёжность - к сквозной телеметрии и общему Grafana-дашборду.
В докладе я покажу архитектуру платформы и полный путь запроса от Claude Code на машине сотрудника до модели и MCP-инструментов. Разберу, почему подписочный Claude Code нельзя проксировать как обычный API-запрос, как сохранить OAuth, стриминг и промпт кэшинг, как маскировать чувствительные данные внутри SSE и JSON и почему опенсорс почти всегда приходится существенно дорабатывать.
Много лет люблю машинное обучение в разных формах, сейчас я - CTO в Цельсе, мы занимаемся разработкой ИИ-систем для медицины. Ещё я веду ТГ-канал «Варим ML», где пишу про медицинский ИИ и внедрение ИИ-агентов в работу.
Выступал на Codefest, OpenTalks.AI, ODS Datafest и других конференциях. Организатор трека "Ужасы медицинских данных" на Датафесте. Член ПК ML-секции Codefest.
Видео
Другие доклады секции
Агентная платформа