Мир не может жить по-старому, но ещё не знает, как по-новому. Безопасность в ИИ-эпоху.

ИИ-агенты не изобрели SQL-инъекции, утечки ключей, ошибки авторизации и атаки на цепочки поставок. Они перевернули представления о скорости и сложности атак: снизили стоимость поиска и эксплуатации уязвимостей, сократили время между ошибкой и рабочим эксплойтом, но главное сделали сложные и многоступенчатые атаки масштабируемыми и параллельными. Защитники пытаются отвечать теми же средствами: агенты проверяют код, пишут патчи, реагируют на инциденты. Пытаясь ускорить и масштабирвать старые подходы, но не меняя самой сути процессов. Однако скорость не исключит все ошибки, не создаст надежную архитектуру, не исправит ошибочную модель угроз, плохую метрику или слишком широкие полномочия. В докладе мы попытаемся взглянуть на сами принципы, на которых стоит безопасная разработка и рассмотрим два класса проблем: 1. Фундаментальные ограничения сложных систем: разрыв между намерением и исполнением, не соответствие реализации требованиям и неполнота представлений. 2. Ошибки самой отрасли: подмена результата процедурой, слепую автоматизацию, 
сложение несопоставимых между собой метрик в «уровень защищённости» и другие. Главный вопрос для инженеров звучит так: выдержит ли архитектура не только поток атак, но и поток защитных решений — исправлений, отзывов прав, изоляций и откатов? Доклад предлагает критерии, по которым это можно обсуждать до подключения агентов к проду.