False Positive или RCE? Как репозиторий может обмануть LLM-триаж SAST-находок
Программный комитет ещё не принял решения по этому докладу
Целевая аудитория
Тезисы
В последнее время LLM и различные нейросети все чаще встраивают в классический AppSec. Одним из самых популярных направлений в этом контексте является использование нейросетей для триажа уязвимостей. Но у этого подхода есть неприятная особенность. Чтобы принять решение по находке, модели нужен контекст в виде кода и окружения. В таком случае сам сканируемый репозиторий перестает быть объектом анализа и может начать влиять на решение самой модели, которая используется в процессе триажа. В докладе я покажу, как это может ломать сам процесс триажа. На практическом стенде я разверну приложение, SAST-сканер, и подключу LLM к процессу триажа находок сканера. Мы вместе разберем сценарий сценарий, где реальная уязвимость может быть понижена или закрыта как false positive из-за ложного контекста в коде. Поговорим о том, какие типы контекста сильнее всего влияют на решение модели, где проходит граница между полезной автоматизацией и новой поверхностью атаки, и какие защитные меры нужны, если LLM уже используется в AppSec.
Специалист по защите информации, программист и IoT-энтузиаст с опытом разработки программного обеспечения, автоматизации и администрирования систем. Имею глубокие знания архитектуры ПО, системного и сетевого администрирования, CI/CD-инструментов, контейнерных технологий и облачных решений.
Профессиональный опыт работы в крупных компаниях: Ростелеком-Солар, Контур и К2 Кибербезопасность, где занимался разработкой и внедрением систем защиты информации, DevSecOps-практиками и автоматизацией процессов. В данный момент являюсь старшим системным инженером в К2 Кибербезопасность, где внедряю инструменты статического и динамического анализа безопасности.
Видео
Другие доклады секции
GenAI и большие языковые модели (LLM)
