Вердикт AI-ReadyТестировать сейчас в локальной lab как gateway-контур; сначала synthetic prompts, тестовые ключи и read-only telemetry.

Что это

self-hosted OpenAI-compatible LLM gateway/control plane: один endpoint для 40+ провайдеров, virtual keys, budgets, usage tracking, routing, logs и guardrails. Проект сегодня был на HN как “LLM gateway you own”.

Бизнес-проблема

AI-приложения быстро превращаются в кашу из SDK, ключей, budgets, fallbacks, usage logs и провайдерских лимитов. Otari пытается вынести это в отдельный управляемый слой.

Практическая польза

для AI-Ready это кандидат на LLM Ops / Gateway / Cost Control layer для support agents, RAG apps, content engine, research radar и клиентских agent demos.

Почему интересно сейчас

около 102 stars, 7 forks, 333 commits, 2 releases, свежий v0.2.0 от 3 июля 2026, лицензия Apache-2.0. Основной стек: Python 98.4%. Issues/PR в доступном snapshot надёжно не подтвердились, так что не будем делать вид, что HTML нам всё рассказал.

Проверка официального репозитория, README и LICENSE выполнена 2026-07-18; эти данные относятся к текущему наблюдению и не заменяют собственный тест.

Технические особенности

Docker quickstart на порту 8000; full stack через Docker Compose + Postgres; совместим с OpenAI Chat/Responses API, Anthropic Messages и Otari-native API. Есть sandboxed Python REPL, web search через SearXNG/Brave/Tavily adapters и prompt-injection guardrails в режимах block/monitor.

Значение для AI-Ready

infrastructure component / Test now. Риски: gateway видит prompts, usage и metadata; нужны key isolation, log policy, auth, network hardening и проверка latency/cost. Вердикт: Test now.

Риски

  • Gateway видит prompts, responses, ключи и usage metadata.
  • Routing, fallback и web-search adapters могут менять стоимость, latency и границы данных.

Граница вывода

Первый тест - отдельный self-hosted контур без клиентского трафика; не включать fallback, web search или production credentials до security review.

Ключевые риски

  • Gateway видит prompts, responses, ключи и usage metadata.
  • Routing, fallback и web-search adapters могут менять стоимость, latency и границы данных.

Разберите эту страницу со своей LLM

Скопируйте контекст страницы в ChatGPT, Claude, Gemini или другую LLM и попросите применить эту схему к вашему бизнесу.

Можно спросить:

  • Какую ограниченную задачу AI-Ready разумно проверить с помощью Otari?
  • Какие риски и условия нужно закрыть перед пилотом Otari?
Открыть каталог