O gateway de IA mais rápido e leve. Núcleo em Rust com SDK em Python. Chame mais de 100 APIs LLM no formato OpenAI (ou nativo) com rastreamento de custos, barreiras de proteção, balanceamento de carga e registro [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
Acesse e gerencie mais de 100 modelos de IA através de uma única interface para seus projetos.
Reivindique a sua pagina: indexada seja qual for a posicao, traduzida em seis linguas e enriquecida com as suas palavras.
Receba um alerta por e-mail no próximo lançamento ou quando começar a bombar.
Grátis · sem cartão · cancele quando quiserO gateway de IA mais rápido e leve. Núcleo em Rust com SDK em Python. Chame mais de 100 APIs LLM no formato OpenAI (ou nativo) com rastreamento de custos, barreiras de proteção, balanceamento de carga e registro [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
litellm tem 54.9k estrelas no GitHub. Foi bifurcado 10.2k vezes. litellm é escrito principalmente em Python. Está em desenvolvimento ativo desde 2023. Os seus principais temas são: ai-gateway, anthropic, azure-openai, bedrock.
Read the full guideO gateway de IA mais rápido e leve. Núcleo em Rust com SDK em Python. Chame mais de 100 APIs LLM no formato OpenAI (ou nativo) com rastreamento de custos, barreiras de proteção, balanceamento de carga e registro [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
litellm é um projeto de código aberto.
Sim. litellm é gratuito e de código aberto — você pode usá-lo, modificá-lo e hospedá-lo por conta própria.
litellm é escrito principalmente em Python.
Adicione este badge ao vivo ao seu README — suas estrelas do GitHub e classificação no diretório, atualizadas diariamente.
[](https://opensourceai.tech/project/berriai-litellm.html)
Medido a partir dos topics do GitHub comuns aos dois projetos, ponderados pela sua raridade.