Функциональные характеристики¶
Обеспечение безопасности моделей машинного обучения¶
AppSec.GenAI предоставляет следующие функциональные возможности по обеспечению безопасности моделей машинного обучения:
- Сканирование моделей машинного обучения на уязвимости с помощью атомарных атак.
- Сканирование моделей машинного обучения на уязвимости с помощью полной диагностики.
- Автоматизированное выявление потенциальных угроз и уязвимостей моделей машинного обучения.
Тестирование моделей машинного обучения на уязвимости с помощью атомарных атак¶
AppSec.GenAI предоставляет следующие функциональные возможности по тестированию моделей машинного обучения на уязвимости с помощью атомарных атак:
- Тестирование модели с применением одного выбранного вида атаки.
- Большой список доступных для тестирования атак.
- Выбор модальности и вида воздействия атаки.
- Настройка параметров атаки (коэффициент возмущения, входные данные).
- Отображение результатов воздействия для проведенных атак.
Тестирование моделей машинного обучения на уязвимости с помощью полных сканирований¶
AppSec.GenAI предоставляет следующие функциональные возможности по тестированию моделей машинного обучения на уязвимости с помощью полных сканирований:
- Автоматизированное сканирование модели с применением набора атак, релевантных ее модальности.
- Поддержка подключения моделей через Docker, по IP или с помощью наборов данных.
- Настройка параметров атаки (профиль сканирования, входные данные).
- Анализ результатов, включая оценку риска для модели машинного обучения.
- Отображение результатов для проведенных сканирований.
- Скачивание логов и отчета о результатах для проведенных сканирований.
Формирование отчетности¶
AppSec.GenAI предоставляет следующие функциональные возможности по формированию отчетности:
- Предоставление детальной информации о проведенных сканированиях.
- Возможность формирования и скачивания логов в формате TXT и отчета о результатах сканирования в нескольких форматах (JSON/CSV/DOCX/PDF).