Harness нужен в тот момент, когда AI перестаёт быть демо и начинает касаться клиентов, документов, заявок или решений команды. Он делает систему проверяемой: откуда ответ, кто утвердил знание, что нельзя делать автоматически и куда передать сложный случай.

Harness

Слой управления, который превращает AI-прототип в проверяемый процесс

Harness — это слой продукта, а не dashboard, runtime или отдельное приложение.

Он помогает управлять AI-решением так, чтобы команда видела источники, проверки, handoff, approvals, open risks и следующий шаг после найденной ошибки.

Harness используется внутри AI Support Agent, AI Voice Agent, RAG Quality Audit, pilot review и любых AI-Ready маршрутов, где prototype должен стать управляемым процессом.

Если вы только начинаете, проще читать так:

  1. сначала откройте Knowledge Pack, чтобы понять основу знаний;
  2. затем вернитесь сюда, чтобы понять контур управления;
  3. после этого посмотрите Pilot Readiness Checklist и Pilot Review Packet, чтобы увидеть, как Harness готовит pilot review.

Harness нужен в тот момент, когда AI-сценарий перестаёт быть демонстрацией и начинает касаться клиентов, документов, заявок или решений команды.

В demo агент может отвечать красиво. В рабочем процессе этого мало. Команде нужно понимать, из каких источников он отвечает, где обязан остановиться, какие действия требуют подтверждения, какие ошибки уже найдены и кто отвечает за исправление.

AI-Ready Harness собирает эти правила в один управляемый контур: knowledge → workflow → eval → handoff → approval → decision log → retest.

Короткий ответ

Harness показывает не только ответ агента, а весь след вокруг ответа.

В нём видно:

  • какие источники разрешены;
  • какие вопросы покрыты Knowledge Pack;
  • где есть gaps или conflicting sources;
  • какие действия нельзя делать без человека;
  • какие eval scenarios уже проверены;
  • какие issues открыты;
  • какие решения приняты;
  • что нужно повторно проверить после fix.

Если Knowledge Pack готовит знания, а agent page описывает сценарий, Harness отвечает за управление всем маршрутом.

Когда это становится проблемой

Проблема появляется после первого удачного prototype.

Команда видит, что AI отвечает, и хочет идти дальше. Но сразу возникают вопросы: можно ли показывать это клиентам, какие ответы проверены, где источник устарел, кто утвердил формулировку, что делать с ошибкой и почему система изменилась после правки prompt.

Без Harness эти вопросы остаются в чатах, комментариях и памяти команды. После пары изменений уже непонятно, что именно работает, что сломалось и почему.

Как работает Harness

Harness не заменяет агента, wiki или tool.

Он связывает их:

  • Knowledge Pack говорит, из чего агент может отвечать;
  • Agent Workflow показывает, как проходит запрос;
  • Eval Scenarios проверяют happy path, gaps, conflicts и risky requests;
  • Operator Handoff показывает, когда нужен человек;
  • Approval Gates не дают preview превратиться в действие без решения;
  • RAG Quality Report фиксирует findings;
  • Decision Log объясняет, что команда решила сделать;
  • retest подтверждает, что fix не создал новую ошибку.

Так AI-проект становится не набором страниц, а рабочим контуром улучшения.

Что можно сделать самостоятельно

Выберите один AI-сценарий и заведите простой Harness:

  1. Опишите задачу и границы агента.
  2. Соберите Knowledge Pack.
  3. Выпишите forbidden claims.
  4. Подготовьте 10–20 eval scenarios.
  5. Опишите handoff человеку.
  6. Отметьте actions, которые требуют approval.
  7. Записывайте findings в RAG Quality Report.
  8. Фиксируйте решения в Decision Log.
  9. Повторяйте те же проверки после каждого fix.

Если это кажется слишком бюрократичным, начните с трёх вещей: source map, eval scenarios и decision log. Уже они покажут, где prototype не готов к пилоту.

Как AI-Ready использует Harness

Для AI-Ready Harness — это слой, который соединяет wiki-first knowledge system с реальным внедрением.

AI Radar даёт сигнал. Tool Radar показывает роль инструмента. Agent pages описывают сценарий. Practice pages помогают подготовить первый шаг. Harness удерживает всё вместе и показывает, что готово к pilot review, а что ещё требует owner, fix или retest.

Куда идти дальше

Если знания ещё не подготовлены, начните с Knowledge Pack.

Если нужно проверить качество ответов, откройте RAG Quality и RAG Quality Report.

Если вы готовитесь к pilot review, переходите к Pilot Readiness Checklist и Pilot Review Packet.

Техническая карта для специалистов

Ниже остаётся подробная technical map: central formula, route slices, decision log, improvement loop, source policy, quality loop и DIY path. Она нужна тем, кто собирает Harness как рабочий контур управления AI-системой.

Central formula

AI-агент отвечает.

Harness показывает, на чём он основан, как он проверен, где его границы и что делать дальше.

Без harness AI-проект легко остаётся красивым prototype: он отвечает на знакомые вопросы, но не показывает источник, не умеет корректно молчать и не фиксирует, почему система изменилась.

What Harness controls

Harness связывает три слоя: знание, действие и проверку.

Знание отвечает на вопрос: из каких approved sources агент может отвечать. Действие отвечает на вопрос: что агент может делать сам, а где нужен approval. Проверка отвечает на вопрос: как мы понимаем, что система не деградировала после изменения prompt, базы знаний или workflow.

Core elements

  1. Knowledge Pack — утверждённый набор знаний под сценарий.
  2. Agent Workflow — маршрут обработки запроса.
  3. Eval Scenarios — тестовые ситуации: happy path, edge cases, missing information, conflicting sources, forbidden claims.
  4. Source Map — карта источников, статусов и владельцев.
  5. Approval Gates — точки, где действие подтверждает человек.
  6. Operator Handoff — передача сложных случаев человеку с summary.
  7. RAG Quality Report — проверка retrieval и grounded answer.
  8. Decision Log — журнал решений: что изменили и почему.
  9. Client Progress Metric — показатель, по которому видно, стал ли процесс понятнее и управляемее.
  10. Project Brief — краткое описание задачи, границ и expected behavior.

Decision Log

Decision Log — журнал решений по найденным quality issues. Он отвечает на пять вопросов:

  • какое issue найдено;
  • какое evidence это подтверждает;
  • какое решение принято;
  • кто владеет исправлением;
  • какой retest подтвердит, что issue закрыт.

Для RAG-сценариев Decision Log получает вход из RAG Quality Report. Если report говорит «pricing answer устарел», Decision Log фиксирует решение: обновить source, поставить temporary pricing boundary, назначить owner и повторить pricing scenario.

В Goal 7 Decision Log вынесен в отдельную wiki-страницу: /wiki/decision-log. Harness использует её как shared rule для RAG findings, handoff decisions и Approval Gates.

Improvement Loop

Improvement loop в Harness короткий:

1issue foundПроверка нашла конкретный сбой.
2decisionКоманда фиксирует решение в Decision Log.
3fixМеняется source, policy, handoff или forbidden claim.
4retestТот же сценарий проверяется повторно.
5reviewedIssue закрывается только после повторной проверки.

issue found приходит из eval scenario. decision фиксируется в Decision Log. fix меняет source, answer policy, handoff trigger или forbidden claim. retest повторяет тот же сценарий. reviewed ставится только после повторной проверки.

How it connects wiki, agents and tools

Wiki хранит reusable knowledge: определения, схемы, риски, tool roles и source policy. Агент использует эти материалы как рабочий контекст. Инструменты подключаются как delivery layers, eval layers или provider layers.

Harness удерживает всё вместе: если меняется tool, workflow или Knowledge Pack, команда всё равно понимает, что именно проверять.

Route slices

В текущей версии сайта Harness связывает основные маршруты Wave 1.

Goal 9 добавляет AI Radar route:

Служебные route cards и route sequence здесь намеренно не повторяются: Harness уже содержит несколько ручных route slices, которые важнее для понимания, чем один общий автоматический маршрут.

AI RadarSource Evidence PolicyTool RadarRAG QualityHarness

Этот route нужен, чтобы market или tool signal не оставался заметкой. В Harness он получает действие: watch, review, update-page или backlog.

Первый маршрут показывает voice-сценарий целиком:

AI Voice AgentVoice Lead IntakeKnowledge PackOperator HandoffApproval GatesHarness

Второй route slice показывает tools как вход в практику и wiki, а не как отдельный каталог:

Workflow builder

Dify

DifyPrepare Knowledge BaseKnowledge PackOperator HandoffApproval Gates
Eval layer

Ragas

RagasRAG QualityKnowledge PackHarness
Voice provider

Vapi

VapiAI Voice AgentOperator HandoffApproval GatesHarness
Knowledge workspace

AnythingLLM

AnythingLLMPrepare Knowledge BaseKnowledge PackRAG Quality ReportHarness

Goal 6 добавляет knowledge quality route:

Prepare Knowledge BaseKnowledge PackRAG QualityRAG Quality ReportHarness

Так Harness остаётся общей рамкой: source map, eval, approval, handoff и decision log можно переносить между разными tools.

Goal 7 добавляет маршрут готовности к пилоту:

Knowledge PackRAG Quality ReportDecision LogApproval GatesHarnessPilot Readiness Checklist

Этот route нужен перед первым ограниченным pilot review: он проверяет, что findings имеют решения, external actions остаются за approvals, а открытые risks попали в next step.

Goal 8 добавляет pilot review route:

Knowledge PackRAG Quality ReportDecision LogPilot Review PacketHarness

Pilot Review Packet делает snapshot перед решением о pilot scope: checklist summary, RAG findings, Decision Log, eval scenarios, open risks, required fixes и status go, no-go или needs-fix. Harness затем возвращает этот status в improvement loop: fix → retest → reviewed → следующий review packet.

Source and evidence policy

Для knowledge / RAG / support agents действует простое правило: ответ должен опираться на approved sources. Если источника нет, агент говорит, что информации недостаточно. Если источники конфликтуют, агент не выбирает самую удобную версию, а передаёт случай человеку.

Forbidden claims фиксируются заранее: fixed ROI, гарантированная окупаемость, полная автономия, замена людей, безошибочность и high-risk advice без review.

Quality loop

Harness живёт не один раз. После каждого изменения сценария команда обновляет source map, eval scenarios, decision log и quality report. Это даёт понятный improvement loop: не «кажется, стало лучше», а «в этих сценариях стало стабильнее, в этих ещё нужен review».

Минимальная запись loop:

Quality loop record

issue: outdated answer по pricing boundary

decision: перевести source в outdated и запросить owner review

fix: обновить pricing note и forbidden claim

retest: повторить pricing boundary scenario

reviewed: закрыть issue после успешного retest

Not a dashboard

В этом public wiki-site Harness не строится как dashboard, operator cockpit или app-layer. Сейчас это профессиональный узел знания и методическая рамка. Реальный интерфейс управления может появиться позже отдельным проектом.

DIY path

Начните с одного AI-сценария и заполните короткий Project Brief: задача, источник знаний, forbidden actions, handoff rule, пять eval cases и критерий успеха. Если хотя бы один из этих пунктов неясен, production рано.

Перед pilot добавьте ещё один проход: откройте Pilot Readiness Checklist и проверьте Knowledge Pack, source_map, forbidden_claims, eval_scenarios, handoff, approvals, RAG Quality Report и Decision Log.

When to ask AI-Ready

AI-Ready стоит подключать, когда prototype уже показал интерес, но появилась следующая задача: превратить его в управляемый процесс с источниками, eval, approval gates, handoff и decision log.