Как защитить алгоритм машинного обучения от Adversarial-примеровAI/ML и визуализация данных

Доклад принят в программу конференции
Сергей Дудоров
Digital Security

Специалист по анализу данных, увлечён исследованиями применения алгоритмов машинного обучения в реальных задачах.

Тезисы

Возлагая функцию принятия решения на алгоритм машинного обучения, достаточно справедливо задать себе вопрос, насколько тот или иной алгоритм устойчив к атакам, результатом которых будет неправильно принятое решение.

В данном докладе будут рассмотрены методы нападения, защиты и тестирования алгоритмов машинного обучения на предмет противодействия Adversarial-примерам с использованием библиотек CleverHans и Adversarial-robustness-toolbox.

Другие доклады секции AI/ML и визуализация данных