Идеальная песочница - что может удержать агента с продвинутым AI?
Программный комитет ещё не принял решения по этому докладу
Целевая аудитория
Тезисы
AI-агент - это модель с доступом к инструментам: файлам, сети, командной строке. Модель можно обмануть, например спрятанной на странице или в письме инструкцией, и она выполнит команды атакующего.
Летом 2026 года агенты OpenAI скооперировались, вышли за пределы строго изолированной тестовой среды и захватили инфраструктуру HuggingFace. Это не единичный случай. Современный AI умеет обходить привычную изоляцию, такую как контейнеры и виртуальные машины.
Существует ли что-то, что может остановить умного агента, который читает исходники ядра ОС, и самостоятельно пишет 0-day эксплоиты?
В докладе разберем, почему классическая изоляция мало подходит для сдерживания агентов под управлением продвинутых моделей. Как здесь может помочь технология WebAssembly, что значит принцип secure by design на практике и почему это все меняет.
Ведущий разработчик и архитектор. Более 20 лет опыта разработки нагруженных, распределенных и отказоустойчивых решений. Более 10 лет опыта на позиции архитектора в таких компаниях как Ericsson, РТ Лабс и МВидео. Основной язык программирования — Go ~9 лет. Опыт работы с WebAssembly ~7лет. Реализовал новый для российского рынка механизм обнаружения угроз на базе технологии WebAssembly. Спикер и участник конференций и митапов: Highload++, Positive Hack Days, Offzone, Oracle Tech Days. Энтузиаст информационной безопасности.
Видео
Другие доклады секции
Агентная платформа
