Функциональные характеристики¶
Обеспечение безопасности моделей машинного обучения¶
AppSec.GenAI предоставляет следующие функциональные возможности по обеспечению безопасности моделей машинного обучения:
- Сканирование моделей машинного обучения на уязвимости с помощью атомарных атак.
- Сканирование моделей машинного обучения на уязвимости с помощью полных сканирований.
- Автоматизированное выявление потенциальных угроз и уязвимостей моделей машинного обучения.
Тестирование моделей машинного обучения на уязвимости с помощью атомарных атак¶
AppSec.GenAI предоставляет следующие функциональные возможности по тестированию моделей машинного обучения на уязвимости с помощью атомарных атак:
- Тестирование модели с применением одного выбранного вида атаки.
- Большой список доступных для тестирования атак.
- Выбор модальности и вида воздействия атаки.
- Настройка параметров атаки (коэффициент возмущения, входные данные).
- Отображение результатов воздействия для проведенных атак.
Тестирование моделей машинного обучения на уязвимости с помощью полных сканирований¶
AppSec.GenAI предоставляет следующие функциональные возможности по тестированию моделей машинного обучения на уязвимости с помощью полных сканирований:
- Автоматизированное сканирование модели с применением набора атак, релевантных ее модальности.
- Поддержка подключения моделей через Docker или по IP.
- Настройка параметров атаки (профиль сканирования, входные данные).
- Анализ результатов, включая оценку выявленных во время сканирования рисков по шкале DREAD и суммарную оценку риска.
- Отображение результатов для проведенных сканирований.
- Скачивание отчета о результатах для проведенных сканирований.
Формирование отчетности¶
AppSec.GenAI предоставляет следующие функциональные возможности по формированию отчетности:
- Предоставление детальной информации о проведенных сканированиях.
- Возможность формирования и скачивания отчета о результатах сканирования в виде PDF-файла, DOCX-отчёта или лог-файла.