Quando uma aplicação com IA erra em produção, sem observabilidade você fica no escuro. O Langfuse é a plataforma open source que ilumina isso: rastreia cada chamada de modelo e agente, com custo, latência e tokens, além de avaliação e gestão de prompts. É a alternativa aberta ao LangSmith.
O que é o Langfuse?
O Langfuse oferece tracing aninhado de chamadas de LLM e agentes, gestão de prompts com versionamento, playground e ferramentas de dataset e experimento para avaliação. Tem SDKs em Python e JS e integração via OpenTelemetry, e é auto-hospedável.
Recursos principais
- Tracing de chamadas de LLM e agentes com custo, latência e tokens
- Gestão de prompts com versionamento e playground
- Avaliação com LLM-as-judge, feedback e métricas próprias
- SDKs Python/JS e integração OpenTelemetry, auto-hospedável
- Extremamente ativo, com centenas de releases
Como a Reche usa
Observabilidade desde a primeira sprint é um princípio do RecheOS. A Reche instrumenta os produtos que constrói com ferramentas como o Langfuse, para que a IA em produção seja monitorável e melhorável, não uma caixa-preta.