Как устроен стриминг агента в чат поддержки

Архитектура и масштабируемость

Программный комитет ещё не принял решения по этому докладу

Целевая аудитория

Архитекторы, разработчики

Тезисы

Под словом "стриминг" скрывается огромный конвеер из механизмов, гарантий, архитектурных подходов и компромиссов. Как это делали мы и что получилось расскажу в докладе.

Олег Мифле

Т-Банк

Team leader.

Видео

Другие доклады секции

Архитектура и масштабируемость

Разработка через капсулы: от аккумуляции инженерного опыта до передачи его AI-агентам

Сергей Кучин

Lad

Анти-HighLoad: как мы построили SaaS на 15 антипаттернах и выжили

Борис Лактюшин

ОринаТех

FinCPU: убираем транзакционную БД из hot path финансового процессинга

Алексей Яговкин

Яндекс

Ускоряем кандидатогенерацию Рекламы Яндекса: три шага к потоковой обработке

Руслан Кулагин

Яндекс.Технологии

От L4 до GSLB: построение отказоустойчивой системы балансировки нагрузки

Ольга Горлова

GREENSECURITY

От раскопок до космоса: permission-система без RBAC, которая вытащила нас из 2-летнего слоя if-ов и не тормозит, когда права плодятся

Анна Ланда

ecom.tech

От Event Driven к гарантированной консистентности

Наумченко Николай

X5 Tech

Декомпозировать нельзя остановиться: как мы Биллинг Яндекс 360 делили

Илья Иванов

Яндекс 360

Новый стек, прежний масштаб: считаем, кто из десятков миллионов клиентов увидит рекламу

Софья Калинина

Ростелеком ИТ

150 млн событий и 10 мс на инференс: строим data-intensive систему без вендорных иллюзий

Олег Проскуряков

ВТБ

Опыт миграции данных из Oracle через Debezium в PostgreSQL : 200+ связанных таблиц одним махом.

Владимир Лытарь

РТЛабс

Ни пакета мимо: Новый подход к live-миграции виртуальных машин

Александр Попов

VK Tech, VK Cloud

Отечественная кластерная суперкомпьютерная OS: Правда или вымысел

Сторожилов Илья

КуБорд (ООО "ОКТ")

Как общие папки влезли в существующий движок синхронизации Диска

Дмитрий Соломонов

Yandex 360

Data-Oriented Design в бэкенде: как уплощение структур и SoA экономят сотни ядер CPU

Иван Синицын

Ozon Tech

Хаос-инжиниринг требований: системный анализ для архитекторов, переживших production

Борисова Дарья Игоревна

ПСБ

Behaviour Trees в инфраструктуре: как мы переписывали стейт-машину хостового агента деплой-платформы

Сергей Курганов

Yandex Infrastructure

Как укротить 100 000 событий/сек с помощью SQLite, Docker и Claude

Алексей Захаров

Positive Technologies

Архитектура высоконагруженных систем. Опять :)

Евгений Соловьев

МТС Веб Сервисы

ИИ-Агенты на службе архитектора

Евгений Артемьев

МТС Web Services

Вайбкодинг в облаке: API, документация и деплой под агента, а не под человека

Александр Сербул

Битрикс24

Итак, вы решили сделать аудит: практическое руководство по разбору боевой высоконагруженной системы

Павел Лукьянов

Itogo.app

Миграция системы авторизации и аутентификации Госуслуг c Oracle на PostgreSQL

Громов Петр

РТЛабс

SAST за 5 месяцев вместо 5 лет: Как freestanding Zig победил TTM и OOM на Enterprise-масштабах

Кирилл Орлов

Независимый исследователь

Миллионы транзакций в день - как с этим справиться и не пропустить мошенников?

Арнольд Сааков

Альфа банк

Конвергентная архитектура как основа Web4

Дмитрий Карловский

Giper Dev

io_uring бесполезен в nginx? – Как мы переосмыслили ввод-вывод, создав новый event-модуль для Angie.

Родион Николов

Angie Software

Инфраструктура для мобильного тестирования: как мы эксплуатируем парк из сотен физических устройств и развиваем мобильную ферму Selectel

Константин Сухецкий

Selectel

Эволюция борьбы с гонками в WMS Ozon: как мы обрабатываем миллионы операций и избегаем рассинхронизации данных

Максим Рауба

Ozon

Как потерять трейсинг в микросервисах (и не заметить этого)

Евгений Клецов

Cloud.ru

Как мы усложнили себе жизнь или путь от 5 до 75к EPS. Горизонтальное масштабирование.

Громыко Александр

CTSG

"Верить нельзя проверить". Где поставить запятую в асинхронной системе?

Евгений Сулейманов

ПрозиТех

Как мы превратили рекламный движок в распределённый кеш и сэкономили треть железа

Артемий Новиков

Яндекс

Как верифицировать сделанное агентом

Хабибуллин Ринат

ООО Коди

Capacity planning по ТЗ на годы вперёд

Алексей Ивахин

ООО МТТЕХ

Компромиссы проектирования при разделении системы на компоненты

Андрей Бураков

Tech Analyst Club

Как масштабировать DQ после внедрения базовой автоматизации

Дарья Герасина

Инновационный центр "Безопасный транспорт"

Год после шторминга: что осталось от Big Picture, когда проект закончился

Юрий Кербицков

Райффайзенбанк

Когда Kubernetes уже не при чём: три расследования масштабируемости в облаке

Кирилл Наливкин

Yandex Cloud

One-cloud VK: эволюция облачной платформы от сервиса для Одноклассников до ядра всей инфраструктуры компании

Руслан Исмагилов

VK

Краш-тест своего хранилища артефактов: от методики до результатов

Дмитрий Ключников

CodeScoring

Как мы управляем сетевыми и локальными дисками в MWS Cloud Platform

Дмитрий Анисов

MWS Cloud Platform

Exactly once - где она обитает?

Андрей Цветцих

Т-Банк

Гарантированная доставка на Госуслугах: миллиард доставленных заявлений в год

Сергей Станиславский

РТЛабс

Три архитектуры одного агента-аналитика: как выбрать между монолитом, собственным рантаймом и открытым фреймворком

Дмитрий Ширшов

Альфа-Банк

Нужны ли 1000 архитекторов для управления ИТ-ландшафтом в 1000+ систем. Проверка концепции

Николай Бардушко

Банк ВТБ

Как мы построили NRT-отчётность в Альфа-Банке: Debezium, Kafka, Flink, Tarantool

Даниил Забияка

АО Альфа-Банк

Высоконагруженный расчет на основе больших данных в МТС: повышение пропускной способности в 30 раз и другие уроки из практики

Гарипов Динар

МТС

Поиск 360: как готовить поиск к агентской нагрузке на примере почты и календаря

Иван Дудинов

Яндекс 360

Как мы изобрели светофор в кластере Ignite

Денис Старакожев

MAGNIT TECH

Один медленный webhook тормозит всех: как изолировать доставку без очереди на каждого получателя

Антон Лаврентьев

Яндекс

Отказоустойчивость как инструмент для оптимизации инфраструктурных расходов

Сергей Лавров

Авиасейлс

Один оркестратор над двумя стеками: как мы построили слой абстракции над Apache Tomcat и WildFly

Всеволод Котик

Диасофт

Как мы настроили Elasticsearch на 35 тыс+ RPS и улучшили бизнес-процессы

Владимир Панчук

АО Альфа-Банк

Платформа транзакционных данных и банковских документов: предпосылки, состав, архитектура и немного про AI

Лев Осипов

Райффайзен Банк

HypEx на Spark: как мы масштабировали проведение пилотов

Антон Катков

Сбер

Конфигурация без кворума: causal consistency поверх асинхронной мастер-мастер репликации

Олег Бабин

Веб-Сервер (Angie Software)

Как приземлить форк LangFlow на банковский Энтерпрайз: от инструмента ai автоматизации для сотрудников до масштабируемого ассистента на миллион клиентов

Георгий Дьячков

Альфа-банк

Адаптер к оракулу: как спрятать хаос внешнего протокола за стабильным контрактом

Борисова Дарья Игоревна

ПСБ

Low-code AI Workflows — потолок надежности. Как мы строили durable execution и не сошли с ума

Владислав Янковский

Cloud.ru

Проектируем api gateway на 2.5 миллиона RPS

Никита Галушко

VK, ВКонтакте

От реалтайм-метрик А/Б к платформе RT-сигналов: как устроен CORTe

Ставро Гаязов

Яндекс

Keeping Data Consistent in EDA: Lessons from Building Our Event Store

Иван Базалий

ati.su

Гибридная схема балансирования нагрузки, или как не выбирать между адаптивностью, надежностью и resilience

Павел Михайлик

Инфосистемы Джет

Архитектура как код: жизнь в эпоху ИИ (предварительное название)

Никита Киселев

Независимый спикер

От зарядной станции до городской платформы: как построить цифровую экосистему электрозарядной инфраструктуры

Гусейн Римиханов

МТТЕХ

Разработка распредееленного карточного процессинга и масштабирование под нагрузкой

Руслан Маркелов

Сбер

AI-дубляж видео без обязательного дата-центра: гибридный пайплайн

Дмитрий Плотников

RevovoxAI

Переход в проектировании от системного подхода к средовому

Руслан Сафин

Бындюсофт

Платформенные решения для организации, где все подразделения работают самостоятельно

Михаил Поляков

Инновационный Центр "Безопасный транспорт" ГКУ ЦОДД

Автоматизация доставки иммутабельных образов Talos: устранение человеческого фактора и обеспечение воспроизводимости в коробочном продукте

Владислав Криволапов

Yandex Cloud

От файла до премьеры: архитектура видеопроцессинга под большой нагрузкой

Николай Тиунов

Яндекс

«Миграция с Oracle на PostgreSQL в highload-среде: Как перенести 10+ ТБ данных с потерями < 1% и не лечь в даунтайм»

Виссарионов Илья

Диасофт

IPSec VPN на скоростях NGFW: как выжать максимум из железа и не потерять в безопасности

Алексей Дядин

АО ТризТех