Темная сторона открытых нейросетей

Покажем, как open-LLM превращаются в участок периметра: от "отравления данных" и триггеров до эскалации через агентов и RCE. На живых примерах разберём, почему "магическая фраза" меняет поведение модели и как это приводит к генерации опасных payload-ов в небезопасном окружении.

Что разберём:
- Где рождается "отравление": дообучение, публичные датасеты, RAG-индексы, базовые техники детекции.
- Триггеры и скрытые инструкции: ключевые токены, контекстные бэкдоры, стего-промпты - почему проходят модерацию.
- Каналы исполнения: function-calling, агенты и типичные мисконфиги, ведущие к RCE.
- Демо kill-chain: "триггер - генерация - запуск»", где заканчивается модель и начинается ваша ответственность за окружение.
- Контрмеры: изоляция, ограничение прав инструментов, fuzzing промптов, red teaming моделей, контроль цепочки поставок и MLOps-гейты.

Слушатели уйдут с чек-листом «минимально безопасной поставки LLM» и понятной картиной угроз: LLM - это новый периметр, требующий комбинировать ИБ-практики и MLOps.