Anthropic опубликовала практический пример того, как крупный AI-вендор описывает границы cyber use: категории запросов, safety margin, блокировки и proposed severity scale для jailbreaks.

Что произошло

2 июля 2026 года Anthropic опубликовала материал More details on Fable 5’s cyber safeguards and our jailbreak framework. В нем компания описывает safety classifiers для Fable 5, категории cyber use и early draft framework для оценки severity у AI jailbreaks.

Главная ценность источника для AI-Ready не в том, чтобы копировать конкретную шкалу. Важнее сам pattern: рискованные AI-возможности нужно описывать через категории использования, границы допустимого поведения, severity и escalation path.

Кратко о новости

Источник раскрывает две связанные темы:

  • Anthropic описывает, какие cyber requests classifiers должны блокировать, мониторить или разрешать.
  • Cybersecurity прямо называется dual-use областью, где defensive и harmful сценарии могут выглядеть похожими.
  • Компания предлагает early draft Cyber Jailbreak Severity scale с уровнями от informational до critical.
  • Severity оценивается не только по факту обхода защиты, но и по capability gain, breadth, ease of weaponization и discoverability.

Сигнал

AI governance становится ближе к практической risk engineering. Недостаточно написать “не используйте AI во вред”. Для сложных agentic systems нужны рабочие категории: что разрешено, что требует review, что блокируется, как измеряется severity и кто принимает решение.

Почему это важно

AI-система, которая помогает с кодом, анализом логов, vulnerability research или automation, может приносить пользу защитникам. Но те же возможности могут перейти в high-risk dual use, если нет контекста, авторизации и контроля.

Для бизнеса это значит: policy должен быть связан с реальным workflow. Если команда строит AI assistant для IT, security или operations, ей нужны не только роли пользователей, но и сценарии проверки, границы действий, escalation и журнал решений.

Практический вывод

Перед запуском AI-сценариев в чувствительных областях стоит зафиксировать локальную risk taxonomy:

  1. какие запросы считаются benign;
  2. какие попадают в dual use;
  3. какие требуют human review;
  4. какие запрещены;
  5. какие signals повышают severity;
  6. где workflow обязан остановиться;
  7. как фиксируется решение reviewer.

Так Harness становится не абстрактной безопасностью, а системой управления конкретными request classes.

Границы сигнала

  • Нельзя говорить, что Anthropic полностью решила проблему AI cyber misuse.
  • Нельзя говорить, что proposed Cyber Jailbreak Severity scale уже является общепринятым стандартом.
  • Нельзя использовать источник как рекомендацию для offensive security workflows.
  • Нельзя переносить claims Anthropic на локальный AI-Ready workflow без отдельного eval.

Куда читать дальше

Этот сигнал ведет к Harness, Eval Scenario, Approval Gates и Source Evidence Policy. Вместе эти страницы помогают перевести safety discussion в практический workflow: классификация запроса, тест, решение, граница и повторная проверка.