OpenLLM
Execute quaisquer LLMs de código aberto, como DeepSeek e Llama, como um endpoint de API compatível com OpenAI na nuvem.
Do README
pip install openllm # or pip3 install openllm openllm hello
- The API host address: By default, the LLM is hosted at http://localhost:3000.
- The model name: The name can be different depending on the tool you use.
- The API key: The API key used for client authentication. This is optional.
Trechos do README do projeto em GitHub. Os direitos autorais e as licenças permanecem com os respectivos autores.
Reivindique a sua pagina: indexada seja qual for a posicao, traduzida em seis linguas e enriquecida com as suas palavras.
Receba um alerta por e-mail no próximo lançamento ou quando começar a bombar.
Grátis · sem cartão · cancele quando quiserExecute quaisquer LLMs de código aberto, como DeepSeek e Llama, como um endpoint de API compatível com OpenAI na nuvem.
OpenLLM tem 12.5k estrelas no GitHub. Foi bifurcado 837 vezes. OpenLLM é escrito principalmente em Python. Está em desenvolvimento ativo desde 2023. OpenLLM está disponível sob a licença Apache-2.0. Os seus principais temas são: bentoml, fine-tuning, llama, llama2.
Read the full guideO que é OpenLLM?
Execute quaisquer LLMs de código aberto, como DeepSeek e Llama, como um endpoint de API compatível com OpenAI na nuvem.
OpenLLM é de código aberto?
OpenLLM é um projeto de código aberto. É distribuído sob a licença Apache-2.0.
OpenLLM é gratuito?
Sim. OpenLLM é gratuito e de código aberto — você pode usá-lo, modificá-lo e hospedá-lo por conta própria.
Sob que licença está OpenLLM?
OpenLLM está disponível sob a licença Apache-2.0.
Em que linguagem OpenLLM está escrito?
OpenLLM é escrito principalmente em Python.
Adicione este badge ao vivo ao seu README — suas estrelas do GitHub e classificação no diretório, atualizadas diariamente.
[](https://olud.ai/project/bentoml-openllm.html)
Medido a partir dos topics do GitHub comuns aos dois projetos, ponderados pela sua raridade.