Como monitorar custo, latência e desempenho dos Agentes CrewAI usando o Langtrace, uma ferramenta externa de observabilidade.
O Langtrace é uma ferramenta externa e open-source que auxilia na configuração de observabilidade e avaliações para Modelos de Linguagem de Grande Porte (LLMs), frameworks de LLM e Bancos de Dados Vetoriais. Apesar de não ser integrado diretamente ao CrewAI, o Langtrace pode ser utilizado em conjunto com o CrewAI para fornecer uma visibilidade aprofundada sobre o custo, latência e desempenho dos seus Agentes CrewAI. Essa integração permite o registro de hiperparâmetros, o monitoramento de regressões de desempenho e o estabelecimento de um processo de melhoria contínua dos seus Agentes.
Crie uma conta no Langtrace
Cadastre-se acessando https://langtrace.ai/signup.
Crie um projeto
Defina o tipo do projeto como CrewAI
e gere uma chave de API.
Instale o Langtrace no seu projeto CrewAI
Use o seguinte comando:
Importe o Langtrace
Importe e inicialize o Langtrace no início do seu script, antes de quaisquer imports do CrewAI:
Rastreamento de Token e Custo do LLM
Gráfico de Trace para Etapas de Execução
Curadoria de Dataset com Anotação Manual
Versionamento e Gerenciamento de Prompt
Playground de Prompt com Comparações de Modelos
Testes e Avaliações