Перейти к содержанию

Описание релизов

Релиз 2026.6.2 [Июль 2026]

Model Injection — полный анализ файлов моделей

  • 40 проверок, 42 из 44 форматных областей — тип сканирования «Model Injections» (статический анализ загруженного файла модели на исполняемые закладки) расширен с базового набора до полного покрытия baseline-инструмента modelaudit. Теперь анализируются не только Pickle/PyTorch, но и Keras/TensorFlow (.h5/.keras/SavedModel), Safetensors, PMML, ONNX, GGUF, JAX/Flax, TFLite, CoreML, Torch7, NumPy, Joblib, контейнеры (ZIP/TAR/7z с рекурсивной проверкой вложенных моделей), конфиги/шаблоны (Jinja2 SSTI, HuggingFace auto_map/trust_remote_code) и нишевые форматы (skops, TorchServe .mar, NeMo, Paddle, MXNet, llamafile и др.). Полный каталог — в разделе Model Injection Scan.
  • Поддержка 60 расширений при загрузке локальной модели — мастер добавления локальной модели принимает все форматы baseline; папочные форматы (TensorFlow SavedModel) загружаются в виде архива и проверяются рекурсивно.
  • Защита от обхода сканеров — сохранены две собственные авторские техники (EOP-version #13 и EOP-UTF8 #21), обходящие все публичные инструменты; добавлены детекторы polyglot/header-DoS (Safetensors), XXE/SSRF/entity-DoS (PMML), path-traversal/symlink/zip-bomb (архивы).
  • Категоризация и видимость в интерфейсе — проверки сгруппированы по типам (Pickle, Keras, Safetensors, PMML, архивы, конфиги и т. д.) при настройке профиля; результаты по каждому сканеру видны в разделе результатов сканирования.

Комбинированное сканирование

  • Model Injection в одном скане с основными атаками — проверку файла модели на исполняемые закладки теперь можно добавить прямо в профиль LLM / CV / ASR, не создавая отдельный профиль и скан. Для CV/ASR-моделей выполняются состязательные атаки и анализ файла за один запуск; для LLM — blackbox-атаки и/или анализ файла. Комбинированный скан доступен для локально загруженной модели и расходует одну единицу лицензии. Как настроить — в разделах Профили сканирования и Model Injection Scan.

Лицензирование

  • Лицензирование по количеству сканирований — платформа перешла с лицензирования по моделям на учёт по сканированиям: одна единица лицензии расходуется на каждое результативное (успешное или частично успешное) сканирование, включая комбинированное; неуспешные и отменённые сканирования лицензию не расходуют.

Важно при обновлении

При обновлении до 2026.6.2 ранее выданная лицензия сбрасывается. Для продолжения работы необходим перевыпуск лицензии — обратитесь в службу поддержки AppSec.GenAI. Подробнее — в разделе Лицензия.

Дашборд — DREAD-аналитика

  • Метрики DREAD на дашборде — виджеты «Средний DREAD», «Тренд DREAD» и распределение результатов по уровням риска теперь отображают реальные данные по итогам jailbreak-сканирований. Средний DREAD считается по успешным джейлбрейкам (тяжесть реализованных пробоев) по шкале 0–10; сканирования без успешных пробоев не занижают среднее. Как читать метрики и таблицу уровней риска — в разделе Дашборд.

ASR Adversarial

  • Загрузка аудио в MP3 и FLAC — помимо WAV, для тестирования ASR-моделей принимаются форматы MP3 и FLAC; исходный формат файла сохраняется при скачивании. Подробнее — в разделе Управление ассетами.

LLM Jailbreak

  • Управление многоходовой атакой Crescendo — параметры «Остановить при успехе» и «Максимум ходов» теперь корректно ограничивают ход диалога, а результаты многоходовых сессий точно относятся к своим шагам.

Интерфейс

  • Кастомные дашборды — помимо стандартного дашборда «Обзор» можно создавать собственные дашборды и наполнять их произвольным набором виджетов. Подробнее — в разделе Дашборд.

Релиз 2026.5.1 [Май 2026]

LLM Jailbreak

  • Новый сценарий атаки CAMO — добавлен метод проверки устойчивости языковой модели к замаскированным запросам. Промпт разбивается на фрагменты, а отдельные символы в чувствительных словах заменяются на маски — модель должна восстановить исходный смысл, чтобы ответить. Сценарий помогает выявить случаи, когда защитные механизмы обходятся за счёт визуального искажения текста. Настраивается в профиле сканирования.

  • Многошаговый диалог в атаке Crescendo — атака Crescendo переведена в полноценный диалоговый режим. Вместо набора независимых запросов система ведёт с моделью связную беседу из нескольких шагов, что точнее воспроизводит реальные сценарии постепенной эскалации со стороны злоумышленника. Это повышает достоверность оценки устойчивости модели к подобным манипуляциям. Существующие профили сканирования продолжают работать без изменений.

Управление моделями

  • Кастомный системный промпт для модели-судьи — для системных моделей с ролью «судья» появилась возможность задать собственный системный промпт. Это позволяет адаптировать критерии оценки ответов под специфику задачи или отрасли — например, ужесточить критерии для финансового или медицинского домена. Стандартизированный формат итогового вердикта при этом сохраняется.

Профили сканирования

  • Кастомные фразы-маркеры отказа для упрощённой стратегии Judge — при использовании упрощённой стратегии оценки ответов добавлена возможность указать собственный список фраз, которые система будет интерпретировать как отказ модели отвечать. Пользовательский список дополняет встроенный набор из 300+ фраз и повышает точность оценки в нишевых сценариях — например, при работе со специализированными доменами или редкими языками. Допускается до 200 фраз длиной до 500 символов каждая.

Релиз 2026.5.0 [Март 2026]

Мажорный релиз

Полная переработка архитектуры: переход от монолитного приложения к микросервисной платформе. Добавлены три модальности тестирования, новый пользовательский интерфейс и система реального времени.

Архитектура

  • Микросервисная архитектура — переход с монолитного Django-приложения на распределённый набор Docker-контейнеров.
  • Асинхронный обмен сообщениями — NATS JetStream с кластером из 3 нод для надёжной доставки сообщений.
  • Database-per-service — единая PostgreSQL 16 с изолированными схемами для каждого сервиса.
  • S3-совместимое хранилище — MinIO для артефактов (adversarial-изображения, аудиофайлы, логи).
  • Кеширование и очереди — Redis 7 для промежуточных данных и задач воркеров.
  • Аутентификация — Keycloak + Envoy Gateway для управления идентификацией и валидации JWT на edge.

Модальности тестирования

  • LLM Jailbreak — тестирование больших языковых моделей:
    • 1 attack_type jailbreak с 19 attacker-техниками (plain, roleplay, encoding, obfuscation, pipeline, crescendo, breakfun, function_injection, paper_summary, doublespeak и набор taxonomy tactics).
    • 916 встроенных промптов (789 EN + 127 RU).
    • Многоходовые последовательности (Crescendo).
    • Система Judge с тремя стратегиями (simple, llm, orchestrator из 6 детекторов).
  • CV Adversarial — тестирование моделей компьютерного зрения:
    • 19 типов атаки (whitebox + blackbox + универсальные).
    • FGSM, PGD, C&W, DeepFool, ZOO, One Pixel, TREMBA и др.
    • Визуализация adversarial-изображений и метрики L2/SSIM/PSNR.
  • ASR Adversarial — тестирование моделей распознавания речи:
    • 6 типов атак (5 blackbox: DABA, PIBA, Ultrasonic, JingleBack, PBSM + 1 whitebox: BIM).
    • Бэкдор-атаки, ультразвуковое воздействие, градиентные методы.

Unified Transformation Framework

  • 19 техник трансформации промптов: 10 кодирований + 9 обфускаций + интеграция 5 ролевых сценариев (DAN, AIM, Evil Confidant, Dude, Universal) как отдельной стадии.
  • Многоступенчатые пайплайны — произвольные цепочки трансформаций с тремя режимами композиции (parallel, sequential, none).
  • Экспоненциальный рост вариантов — один промпт может генерировать десятки уникальных вариантов атаки.

DREAD-скоринг

  • Методология DREAD для оценки AI/ML-уязвимостей (Damage, Reproducibility, Exploitability, Affected users, Discoverability).
  • Шкала 0--10 с пятью уровнями серьёзности: критический, высокий, средний, низкий, информационный.
  • Базовые оценки по типам атак с корректировкой по результату Judge.
  • Модификаторы для Crescendo-атак (глубина эскалации влияет на оценку).

Пользовательский интерфейс

  • Angular 21 с TaigaUI 4.70 — современный адаптивный интерфейс.
  • NestJS BFF (UI Gateway) — Backend-for-Frontend прослойка с автоматической конвертацией camelCase/snake_case.
  • WebSocket — обновления в реальном времени при выполнении сканирований.
  • Дашборд — обзорная страница с виджетами.
  • Мастер запуска — пошаговый запуск сканирований.

Управление моделями

  • 6 встроенных провайдеров — OpenAI, Claude, DeepSeek, GigaChat, YandexGPT, HuggingFace + custom.
  • Шаблоны API-контрактов — автоматическое заполнение при выборе провайдера.
  • Probe-диагностика — детальная проверка подключения к модели с диагностикой ошибок.
  • Типы моделей — LLM, CV, SPEECH, MLLM, RS, TABULAR.

Профили сканирования

  • JSON Schema валидация — автоматическая проверка конфигурации атак.
  • Каталог атак — 26 типов с описаниями, схемами, примерами и значениями по умолчанию.
  • Конфигурация Judge — выбор стратегии оценки (simple, llm, orchestrator) на уровне профиля.

Управление ассетами

  • Загрузка изображений — для CV-атак (MinIO, бакет cv-images).
  • Загрузка аудио — для ASR-атак (MinIO, бакет audio-samples).
  • Дедупликация — автоматическое исключение повторных загрузок.
  • Presigned URL — безопасный доступ к артефактам через временные ссылки.

Оркестрация

  • Машина состояний — 9 состояний сканирования с контролем переходов.
  • Параллельное выполнение — несколько атак в рамках одного сканирования выполняются параллельно.
  • Отмена сканирования — возможность отмены выполняющегося сканирования.

Сервисы и инфраструктура

  • PostgreSQL 16 — единая БД с изолированными схемами.
  • NATS JetStream — потоки ATTACKS, SCANS, RESULTS, ARTIFACTS, VULNERABILITIES, NOTIFICATIONS с настраиваемым retention.
  • Redis 7 — очереди задач для воркеров (Preparator, Attacker, Judge, Reporter).
  • MinIO — S3-совместимое хранилище артефактов.
  • Keycloak + Envoy Gateway — SSO, управление пользователями и валидация JWT.
  • Alembic — миграции БД для Python-сервисов; Prisma — для NestJS-сервисов (License Center).

Релиз 25.4.2 [19.12.2025]

Новая функциональность

  • В административной панели добавлено гибкое управление пользователями, группами и ролями.
  • В административной панели добавлены настройки уведомлений в режиме реального времени при проведении анализа защищённости моделей ИИ:
    • Автоматическая отправка и получение уведомлений о появлении новой уязвимости или её устранении.
    • Возможность рассылки уведомлений на почтовый ящик пользователей.
    • Гибкая настройка автоматических оповещений для ключевых событий системы.
  • На странице «Модели машинного обучения» добавлено отображение доступности модели и её готовности к работе со сканером.
  • Добавлена возможность сканировать импортированные Docker-модели при проведении полных сканирований.
  • Добавлена поддержка кастомных шаблонов отчётов о результатах сканирования в формате DOCX.
  • Добавлена поддержка протокола HTTPS при обращении к стороннему серверу с хранилищем моделей.

Релиз 25.4.1 [14.11.2025]

Новые возможности

  • Архитектура и безопасность

    • Миграция с SQLite на PostgreSQL.
    • Реализация ролевой модели доступа.
    • Добавление административной панели.
    • Поддержка air-gap bundle-установки.

  • Интерфейс и удобство

    • Полностью переработан пользовательский интерфейс сканера.
    • Запуск сканирований прямо с главной страницы.
    • Настройка параметров атак через интерфейс.
    • Визуализация хода сканирований с указанием уровня рисков.

  • Функциональность

    • Поддержка до 5 параллельных сканирований.
    • Добавлена возможность скачивания отчёта о результатах сканирования в различных форматах: TXT, PDF, DOCX, JSON, CSV.
    • Детальное логирование действий пользователей.

Улучшения существующего функционала

  • Модули тестирования
    • Доработаны тесты для текстовых данных.
    • Улучшены методы тестирования изображений.
    • Расширены возможности акустических проверок.
    • Усилены тесты на джейлбрекинг.
    • Оптимизирована «Полная проверка» для онлайн и офлайн-моделей.