L
LLMTrace
Know which commit blew up your LLM bill
3.8editorial
Kostenlos
Gestartet in 2026
Sobre
Every LLM observability tool shows you that costs spiked. None of them tell you which deploy caused it. LLMTrace is a self-hosted Go proxy that sits in front of your Anthropic/OpenAI calls and logs every request with cost, user, and deploy SHA into your own Postgres. When your bill jumps, you can point to the exact commit. No SaaS, no data leaving your infra. Drop in the docker-compose and you're logging in under 5 minutes.
Casos de uso
- →Monitoramento de custos de LLMs por commit
- →Identificação de picos de gastos
- →Otimização de uso de modelos
Como funciona
Conecte seu repositório e chaves de API para ver custos por commit.
Exemplo de uso
Mostre-me os commits que mais aumentaram meus custos de LLM.
Vorteile
- +Registra requisições de LLM com custo, usuário e commit SHA
- +Fácil implementação com Docker Compose em menos de 5 minutos
- +Total controle dos dados, sem vazamento para terceiros
Nachteile
- −Depende de banco PostgreSQL próprio
- −Suporte apenas para Anthropic e OpenAI
Perguntas frequentes
O que é o LLMTrace?
O LLMTrace é uma ferramenta de inteligência artificial especializada em open-source e developer-tools. Every LLM observability tool shows you that costs spiked. None of them tell you which deploy caused it. LLMTrace is a self-hosted Go proxy that sits in front of your Anthropic/OpenAI calls and logs every request with cost, user, and deploy SHA into your own Postgres. When your bill jumps, you can point to the exact commit. No SaaS, no data leaving your infra. Drop in the docker-compose and you're logging in under 5 minutes.
O LLMTrace é gratuito?
Sim, o LLMTrace é totalmente gratuito para usar.