AI Ops

Как работает prompt caching у Claude, OpenAI, Gemini и DeepSeek: множители цен, TTL, формула окупаемости, замеры через OpenRouter и причины промахов кэша.

Что такое context rot: почему ответы LLM ухудшаются задолго до лимита окна, что показали Chroma, NoLiMa и RULER, замер на Claude Haiku 5.5 и что с этим делать.

Нужен ли субагент в Claude Code: цена запуска и размер результата по замерам автора, что снижает стартовый контекст, выбор модели и случаи, когда он мешает.

Что такое токен в нейросети, сколько токенов в слове и странице на русском и английском, как посчитать их до и после запроса и сколько они стоят.

Сравнение Claude Opus 5.5 и Sonnet 5.5: цены, adaptive thinking, общий токенайзер, use cases. Decision framework для выбора модели под задачу.

Как спроектировать память AI-агента без data swamp: session state, durable facts, retrieval, provenance, conflicts, privacy, deletion и evaluation.

Практический гайд по безопасности MCP: OAuth и audience binding, least privilege для tools, защита от prompt injection, sandbox, audit logs и тесты.

Практическая архитектура production LLM: контракты, роутинг моделей, инструменты, валидация, наблюдаемость, evals, бюджеты и безопасные релизы.

Практический подход к тестированию ИИ-агентов: контракты сценариев, проверка инструментов и результата, лимиты, модельная оценка и гейт релиза в CI.

Глубокое сравнение context engineering и RAG: когда long context заменяет retrieval, когда нужен RAG, decision framework и современный стек 2026.

Полное руководство по AI агентам: архитектура, фреймворки (LangGraph, CrewAI, OpenAI Agents SDK, Google ADK, Pydantic AI, MCP), use cases и пошаговый туториал.

5-компонентный шаблон промптов для переиспользуемой библиотеки. Структура, примеры для разных задач, организация и версионирование prompt library.

Снижаем LLM spend без скрытой потери качества: cost attribution, output budgets, проверка smaller models, безопасный cache, batch и контроль retries.

Проверяемый разбор KAOS v0.3.0: durable turns, память, MCP tools, governance, поведенческие evals, перенос состояния и безопасные defaults.

Проектируем human oversight для AI: risk tiers, state machine согласования, routing signals, reviewer UX, queue SLA, audit logs и метрики релиза.

Сначала проверьте промпт на фиксированном датасете, затем запустите canary двух версий в Langfuse. Sticky assignment, guardrails и протестированный fixture.

Практический workflow Langfuse для Python: get_prompt(), compile(), labels, eval-датасеты, trace linking, canary и безопасный rollback.

Как построить мультиагентную систему: паттерны оркестрации (Sequential, Parallel, Classifier+Router), маршрутизация задач, специализация агентов, примеры кода.

Проектируем LLM judge: узкие rubrics, human calibration, deterministic checks, bias tests, CI gates, production sampling и защита от untrusted output.