Alternativas ao vLLM
Ordenadas pelo quanto se parecem com vLLM e depois pela nota.
Alternativas, ranqueadas
-
Ollama
Runtime para baixar e executar modelos de linguagem localmente, com CLI e API REST.
Atualizado há 2 dias3 93,8 = Comparar -
llama.cpp
Motor de inferência em C/C++ para LLMs em CPU e GPU, com formato GGUF e quantização.
Atualizado há 1 dia9 92,6 = Comparar -
LocalAI
API auto-hospedada compatível com a OpenAI que roda modelos de texto, imagem e áudio em hardware local.
Atualizado há 2 dias54 89,1 = Comparar