Um sistema de inferência LLM pequeno, mas poderoso, adaptado para fins de pesquisa. Desempenho equivalente ao vLLM com apenas 2k linhas de código (2% do vLLM).
Reivindique a sua pagina: indexada seja qual for a posicao, traduzida em seis linguas e enriquecida com as suas palavras.
Receba um alerta por e-mail no próximo lançamento ou quando começar a bombar.
Grátis · sem cartão · cancele quando quiserUm sistema de inferência LLM pequeno, mas poderoso, adaptado para fins de pesquisa. Desempenho equivalente ao vLLM com apenas 2k linhas de código (2% do vLLM).
swiftLLM tem 330 estrelas no GitHub. Foi bifurcado 37 vezes. swiftLLM é escrito principalmente em Python. Está em desenvolvimento ativo desde 2024. swiftLLM está disponível sob a licença Apache-2.0. Os seus principais temas são: cuda, gpt, inference, inference-engine.
Um sistema de inferência LLM pequeno, mas poderoso, adaptado para fins de pesquisa. Desempenho equivalente ao vLLM com apenas 2k linhas de código (2% do vLLM).
swiftLLM é um projeto de código aberto. É distribuído sob a licença Apache-2.0.
Sim. swiftLLM é gratuito e de código aberto — você pode usá-lo, modificá-lo e hospedá-lo por conta própria.
swiftLLM está disponível sob a licença Apache-2.0.
swiftLLM é escrito principalmente em Python.
Adicione este badge ao vivo ao seu README — suas estrelas do GitHub e classificação no diretório, atualizadas diariamente.
[](https://olud.ai/project/interestinglsy-swiftllm.html)
Medido a partir dos topics do GitHub comuns aos dois projetos, ponderados pela sua raridade.