Актуальные угрозы ML-алгоритмов с точки зрения ИБ

Информационная безопасность

Инфобезопасность

Доклад принят в программу конференции

Мнение Программного комитета о докладе

После прослушивания этого доклада вы пересмотрите работу своего СКУД-а, отключите умный дом от Интернета и начнёте доверять только навесным замкам :)

Целевая аудитория

Разработчики систем, которые используют машинное обучение, финтех, специалисты информационной безопасности.

Тезисы

Давайте в ходе доклада рассмотрим популярные применения ML в нашем мире и их уязвимости как с точки зрения реализуемости, так и с точки зрения импакта на ИБ. Обсудим последние и интересные инциденты. Попробуем поговорить о том, что стоит делать разработчикам таких систем, чтобы предусмотреть для себя такие риски. В докладе расскажем о примерах из собственной практики и мировой.

В Positive Technologies успела поработать с продуктами PT Application Firewall, PT NAD, PT SIEM, PT Sandbox. В задачи входят исследование и разработка решений, основанных на методах машинного обучения и исследование безопасности этих алгоритмов в реальной жизни. Автор нескольких статьей по данным тематикам.
С 2019 года организует AI CTF — конкурс в рамках Positive Hack Days, в котором участникам предлагается исследовать уязвимости ИИ. В 2019 и 2022 организовывала секцию с докладами ML & Security на Data Fest Siberia. В 2021 и 2022 организовывала секцию AI Track на Positive Hack Days.

Positive Technologies

Positive Technologies создаёт продукты в области кибербезопасности. Уже 20 лет основная задача компании — предотвращать хакерские атаки до того, как они причинят неприемлемый ущерб бизнесу и целым отраслям экономики. Продукты и сервисы Positive Technologies используют более 2300 компаний по всему миру.

Видео