Перейти к содержанию

Руководство пользователя

Назначение документа

Настоящий документ описывает основные действия, которые пользователи выполняют в Системе AppSec.GenAI, включая управление моделями, создание профилей сканирования, загрузку ассетов, запуск атак и анализ результатов.

Целевая аудитория

Руководство предназначено для всех категорий пользователей Системы:

Роль Описание Основные задачи
Инженер по безопасности Специалист по тестированию защищённости моделей ИИ Регистрация моделей, настройка профилей атак, запуск сканирований, анализ уязвимостей
Аналитик Специалист по анализу результатов тестирования Просмотр результатов, формирование отчётов, работа с Dashboard
DevOps-инженер Специалист по эксплуатации и интеграции Проверка подключения моделей, интеграция через API, управление ассетами

Необходимая подготовка

Для работы с Системой пользователь должен иметь:

  • Развёрнутый экземпляр AppSec.GenAI (см. Руководство по установке).
  • Современный браузер (Google Chrome 120+, Mozilla Firefox 115+, Safari 17+, Microsoft Edge 120+).
  • Учётную запись в Системе, предоставленную администратором.
  • Базовые знания в области:
    • Моделей машинного обучения (LLM, компьютерное зрение, распознавание речи).
    • Принципов тестирования безопасности ПО.
    • REST API (для расширенного использования).

Структура документа

Документ состоит из следующих разделов:

  1. Интерфейс пользователя — общее описание веб-интерфейса, навигация, основные элементы.
  2. Управление моделями — регистрация, настройка, верификация и мониторинг моделей ИИ.
  3. Профили сканирования — создание и настройка профилей с наборами атак.
  4. Джейлбрейк-атаки — атаки на большие языковые модели (LLM).
  5. CV-атаки — состязательные атаки на модели компьютерного зрения.
  6. ASR-атаки — атаки на модели распознавания речи.
  7. Управление ассетами — загрузка изображений, аудиофайлов и промптов.
  8. Запуск сканирований — запуск и мониторинг процесса сканирования.
  9. Результаты сканирования — анализ обнаруженных уязвимостей.
  10. Dashboard и аналитика — обзорные виджеты и статистика.
  11. Часто задаваемые вопросы — ответы на типичные вопросы.

Карта чтения

В зависимости от вашей роли рекомендуется следующий порядок изучения документа:

Полный цикл работы с системой:

  1. Интерфейс пользователя — знакомство с интерфейсом.
  2. Управление моделями — регистрация целевых моделей.
  3. Управление ассетами — подготовка входных данных.
  4. Профили сканирования — настройка наборов атак.
  5. Джейлбрейк-атаки / CV-атаки / ASR-атаки — выбор атак по модальности.
  6. Запуск сканирований — запуск тестирования.
  7. Результаты сканирования — анализ уязвимостей.
  8. Dashboard и аналитика — сводная статистика.

Фокус на анализе результатов:

  1. Интерфейс пользователя — знакомство с интерфейсом.
  2. Dashboard и аналитика — обзор статистики.
  3. Результаты сканирования — детальный анализ уязвимостей.
  4. Профили сканирования — понимание конфигурации атак.
  5. Часто задаваемые вопросы.

Фокус на интеграции и мониторинге:

  1. Интерфейс пользователя — знакомство с интерфейсом.
  2. Управление моделями — регистрация и мониторинг состояния моделей.
  3. Управление ассетами — загрузка тестовых данных.
  4. Dashboard и аналитика — обзор статистики сканирований.
  5. Часто задаваемые вопросы.

Условные обозначения

В документе используются следующие обозначения:

Примечание

Дополнительная информация, полезная для понимания контекста.

Совет

Рекомендация по оптимальному использованию функции.

Внимание

Важное предупреждение, которое следует учитывать при работе.

Критично

Действие, которое может привести к потере данных или нарушению работы Системы.

В примерах кода:

  • <UUID> — идентификатор в формате UUID (например, a1b2c3d4-e5f6-7890-abcd-ef1234567890).
  • <API_KEY> — ключ доступа к API модели (заменяется реальным значением).
  • {переменная} — плейсхолдер, заменяемый фактическим значением.