> ## Documentation Index
> Fetch the complete documentation index at: https://docs.crewai.com/llms.txt
> Use this file to discover all available pages before exploring further.

# Conecte-se a qualquer LLM

> Guia abrangente sobre como integrar o CrewAI a diversos Large Language Models (LLMs) usando o LiteLLM, incluindo provedores compatíveis e opções de configuração.

## Conecte o CrewAI a LLMs

O CrewAI conecta-se a LLMs por meio de integrações nativas via SDK para os provedores mais populares (OpenAI, Anthropic, Google Gemini, Azure e AWS Bedrock), e usa o LiteLLM como alternativa flexível para todos os demais provedores.

> [!NOTE]
>
> Por padrão, o CrewAI usa o modelo `gpt-4o-mini`. Isso é determinado pela variável de ambiente `OPENAI_MODEL_NAME`, que tem como padrão "gpt-4o-mini" se não for definida.
> Você pode facilmente configurar seus agentes para usar um modelo ou provedor diferente, conforme descrito neste guia.

## Provedores Compatíveis

O LiteLLM oferece suporte a uma ampla gama de provedores, incluindo, mas não se limitando a:

* OpenAI
* Anthropic
* Google (Vertex AI, Gemini)
* Azure OpenAI
* AWS (Bedrock, SageMaker)
* Cohere
* VoyageAI
* Hugging Face
* Ollama
* Mistral AI
* Replicate
* Together AI
* AI21
* Cloudflare Workers AI
* DeepInfra
* Groq
* SambaNova
* [NVIDIA NIMs](https://docs.api.nvidia.com/nim/reference/models-1)
* E muitos outros!

Para uma lista completa e sempre atualizada dos provedores suportados, consulte a [documentação de Provedores do LiteLLM](https://docs.litellm.ai/docs/providers).

> [!NOTE]
>
> Para usar qualquer provedor não coberto por uma integração nativa, adicione o LiteLLM como dependência ao seu projeto:
>
> ```bash theme={null}
> uv add 'crewai[litellm]'
> ```
>
> Provedores nativos (OpenAI, Anthropic, Google Gemini, Azure, AWS Bedrock) usam seus próprios extras de SDK — consulte os [Exemplos de Configuração de Provedores](https://docs.crewai.com/pt-BR/concepts/llms.md#exemplos-de-configuração-de-provedores).

## Alterando a LLM

Para utilizar uma LLM diferente com seus agentes CrewAI, você tem várias opções:

> [tab] Usando um Identificador de String
>
> Passe o nome do modelo como uma string ao inicializar o agente:
>
> ```python Code theme={null}
> from crewai import Agent
>
> # Usando o GPT-4 da OpenAI
> openai_agent = Agent(
>     role='OpenAI Expert',
>     goal='Provide insights using GPT-4',
>     backstory="An AI assistant powered by OpenAI's latest model.",
>     llm='gpt-4'
> )
>
> # Usando o Claude da Anthropic
> claude_agent = Agent(
>     role='Anthropic Expert',
>     goal='Analyze data using Claude',
>     backstory="An AI assistant leveraging Anthropic's language model.",
>     llm='claude-2'
> )
> ```

> [tab] Usando a Classe LLM
>
> Para uma configuração mais detalhada, utilize a classe LLM:
>
> ```python Code theme={null}
> from crewai import Agent, LLM
>
> llm = LLM(
>     model="gpt-4",
>     temperature=0.7,
>     base_url="https://api.openai.com/v1",
>     api_key="your-api-key-here"
> )
>
> agent = Agent(
>     role='Customized LLM Expert',
>     goal='Provide tailored responses',
>     backstory="An AI assistant with custom LLM settings.",
>     llm=llm
> )
> ```

## Opções de Configuração

Ao configurar uma LLM para o seu agente, você tem acesso a uma variedade de parâmetros:

| Parâmetro | Tipo | Descrição |
| :- | :-: | :- |
| **model** | `str` | O nome do modelo a ser utilizado (ex.: "gpt-4", "claude-2") |
| **temperature** | `float` | Controla o grau de aleatoriedade nas respostas (0.0 a 1.0) |
| **max\_tokens** | `int` | Número máximo de tokens a serem gerados |
| **top\_p** | `float` | Controla a diversidade das respostas (0.0 a 1.0) |
| **frequency\_penalty** | `float` | Penaliza novos tokens com base na frequência em que já apareceram no texto |
| **presence\_penalty** | `float` | Penaliza novos tokens com base na presença deles no texto até o momento |
| **stop** | `str`, `List[str]` | Sequência(s) que interrompem a geração do texto |
| **base\_url** | `str` | URL base do endpoint da API |
| **api\_key** | `str` | Sua chave de API para autenticação |

Para uma lista completa de parâmetros e suas respectivas descrições, consulte a documentação da classe LLM.

## Conectando-se a LLMs Compatíveis com OpenAI

Você pode se conectar a LLMs compatíveis com a OpenAI usando variáveis de ambiente ou definindo atributos específicos na classe LLM:

> [tab] Usando Variáveis de Ambiente
>
> ```python Generic theme={null}
> import os
>
> os.environ["OPENAI_API_KEY"] = "your-api-key"
> os.environ["OPENAI_API_BASE"] = "https://api.your-provider.com/v1"
> os.environ["OPENAI_MODEL_NAME"] = "your-model-name"
> ```
>
> ```python Google theme={null}
> import os
>
> # Exemplo usando a API compatível com OpenAI do Gemini.
> os.environ["OPENAI_API_KEY"] = "your-gemini-key"  # Deve começar com AIza...
> os.environ["OPENAI_API_BASE"] = "https://generativelanguage.googleapis.com/v1beta/openai/"
> os.environ["OPENAI_MODEL_NAME"] = "openai/gemini-3.7-flash"  # Adicione aqui seu modelo do Gemini, sob openai/
> ```

> [tab] Usando Atributos da Classe LLM
>
> ```python Generic theme={null}
> llm = LLM(
>     model="custom-model-name",
>     api_key="your-api-key",
>     base_url="https://api.your-provider.com/v1"
> )
> agent = Agent(llm=llm, ...)
> ```
>
> ```python Google theme={null}
> # Exemplo usando a API compatível com OpenAI do Gemini
> llm = LLM(
>     model="openai/gemini-3.7-flash",
>     base_url="https://generativelanguage.googleapis.com/v1beta/openai/",
>     api_key="your-gemini-key",  # Deve começar com AIza...
> )
> agent = Agent(llm=llm, ...)
> ```

## Utilizando Modelos Locais com Ollama

Para modelos locais como os oferecidos pelo Ollama:

**1. Baixe e instale o Ollama**

[Clique aqui para baixar e instalar o Ollama](https://ollama.com/download)

**2. Puxe o modelo desejado**

Por exemplo, execute `ollama pull llama3.2` para baixar o modelo.

**3. Configure seu agente**

```python Code theme={null}
    agent = Agent(
        role='Local AI Expert',
        goal='Process information using a local model',
        backstory="An AI assistant running on local hardware.",
        llm=LLM(model="ollama/llama3.2", base_url="http://localhost:11434")
    )
```

## Alterando a URL Base da API

Você pode alterar a URL base da API para qualquer provedor de LLM definindo o parâmetro `base_url`:

```python Code theme={null}
llm = LLM(
    model="custom-model-name",
    base_url="https://api.your-provider.com/v1",
    api_key="your-api-key"
)
agent = Agent(llm=llm, ...)
```

Isso é particularmente útil ao trabalhar com APIs compatíveis com a OpenAI ou quando você precisa especificar um endpoint diferente para o provedor escolhido.

## Conclusão

Ao utilizar o LiteLLM, o CrewAI oferece integração transparente com uma vasta gama de LLMs. Essa flexibilidade permite que você escolha o modelo mais adequado para sua necessidade específica, seja priorizando desempenho, custo-benefício ou implantação local. Lembre-se de consultar a [documentação do LiteLLM](https://docs.litellm.ai/docs/) para obter as informações mais atualizadas sobre modelos suportados e opções de configuração.


This documentation is built and hosted on [Mintlify](https://mintlify.com), a developer documentation platform.