Когда LLM-приложение из прототипа становится продакшеном, наблюдаемость перестаёт быть «приятным дополнением» и превращается в условие операционной устойчивости. Трассировка цепочек, отладка регрессий после смены модели, оценка качества на регрессионных датасетах — всё это требует инструментов, выходящих за рамки обычной APM-стека.

К маю 2026 года рынок LLM-observability консолидировался вокруг трёх продуктов: LangSmith от LangChain, Helicone и Langfuse. Все они закрывают сходный набор задач, но различаются философией дизайна, моделью лицензирования и операционным следом.

LangSmith: глубокая интеграция с LangChain

LangSmith — это closed-source SaaS, поставляемый той же командой, что и LangChain. Главное преимущество — нулевая обвязка при использовании внутри LangChain-пайплайнов: трассировки собираются автоматически, как только в окружении установлена переменная LANGSMITH_API_KEY.

Сильные стороны: продвинутые dataset-инструменты для regression-тестирования, A/B-сравнение версий промтов, готовая интеграция с LangChain Evaluators. Слабые: цена ($39 в месяц за seat плюс плата за объём трассировок выше квоты), отсутствие self-hosted-варианта для большинства тарифов, привязанность к LangChain как фреймворку. Для проектов вне LangChain интеграция возможна, но менее естественна.

Helicone: лёгкий proxy-подход

Helicone выбрал другой архитектурный подход — это HTTP-proxy, через который проходят запросы к OpenAI/Anthropic/любому совместимому API. Интеграция сводится к замене base_url в SDK на адрес Helicone, остальное собирается автоматически.

Этот подход даёт минимальную инвазивность и независимость от языка/фреймворка. Helicone виден всё — запрос, ответ, латентность, стоимость — без необходимости что-либо инструментировать в коде. Слабая сторона — невозможность собрать данные о шагах внутри пайплайна, если они не оформлены как отдельные API-вызовы. Для сложных агентов это ограничение становится заметным.

Helicone доступен и в SaaS, и в self-hosted-форме (Apache 2.0). SaaS бесплатен до 100K запросов в месяц, далее $20-200 в месяц в зависимости от объёма.

Langfuse: open-source-фундамент с SaaS-надстройкой

Langfuse занимает промежуточную позицию — это MIT-лицензированный продукт с полноценной self-hosted-инсталляцией и SaaS-поверх него. Архитектурно ближе к LangSmith (требует инструментирования в коде), но с большей переносимостью между фреймворками.

Главное преимущество — гибкость моделей наблюдаемости. Langfuse поддерживает иерархические traces, prompt management с версионированием, evaluators (как встроенные, так и кастомные), регрессионные dataset-ы. На уровне фичей он сейчас наиболее близок к LangSmith среди open-source-альтернатив.

SaaS-предложение Langfuse — $59 в месяц за стартовый платный план или бесплатно до 50K observations. Self-hosted распространяется через Docker-образы и Helm chart-ы, эксплуатация требует Postgres и Redis.

Что выбрать команде

Решение определяется тремя факторами: используется ли LangChain, есть ли требования по self-hosting и насколько сложна агентная архитектура.

  • LangChain + готовы к SaaS + не нужен self-hosting → LangSmith.
  • Простые API-вызовы без сложных пайплайнов, нужна минимальная инвазивность → Helicone.
  • Любой фреймворк + требования по self-hosting или предпочтение open-source-фундамента → Langfuse.

Главное наблюдение последних месяцев — функциональный разрыв между этими тремя продуктами сокращается. Каждый из них в течение 2025 года переписал собственное предложение, ориентируясь на сильные стороны конкурентов. Выбор всё чаще определяется не уникальными фичами, а близостью продуктовой философии к команде и предпочтениями по лицензированию.