OpenLLM
Führen Sie beliebige Open-Source-LLMs wie DeepSeek und Llama als OpenAI-kompatible API-Endpunkte in der Cloud aus.
Aus der README
pip install openllm # or pip3 install openllm openllm hello
- The API host address: By default, the LLM is hosted at http://localhost:3000.
- The model name: The name can be different depending on the tool you use.
- The API key: The API key used for client authentication. This is optional.
Auszüge aus der Projekt-README zu GitHub. Das Urheberrecht und die Lizenzen verbleiben bei den jeweiligen Autoren.
Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.
Erhalten Sie eine E-Mail-Benachrichtigung beim nächsten Release oder wenn es durchstartet.
Kostenlos · ohne Karte · jederzeit abbestellbarFühren Sie beliebige Open-Source-LLMs wie DeepSeek und Llama als OpenAI-kompatible API-Endpunkte in der Cloud aus.
OpenLLM hat 12.5k Sterne auf GitHub. Es wurde 837-mal geforkt. OpenLLM ist hauptsächlich in Python geschrieben. Es wird seit 2023 aktiv entwickelt. OpenLLM ist unter der Apache-2.0-Lizenz verfügbar. Die Hauptthemen sind: bentoml, fine-tuning, llama, llama2.
Read the full guideWas ist OpenLLM?
Führen Sie beliebige Open-Source-LLMs wie DeepSeek und Llama als OpenAI-kompatible API-Endpunkte in der Cloud aus.
Ist OpenLLM Open Source?
OpenLLM ist ein Open-Source-Projekt. Es wird unter der Apache-2.0-Lizenz veröffentlicht.
Ist OpenLLM kostenlos?
Ja. OpenLLM ist kostenlos und Open Source — Sie können es nutzen, anpassen und selbst hosten.
Unter welcher Lizenz steht OpenLLM?
OpenLLM ist unter der Apache-2.0-Lizenz verfügbar.
In welcher Sprache ist OpenLLM geschrieben?
OpenLLM ist hauptsächlich in Python geschrieben.
Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.
[](https://olud.ai/project/bentoml-openllm.html)
Ermittelt aus gemeinsamen GitHub-Topics beider Projekte, gewichtet nach ihrer Seltenheit.