Alternativas a LocalAI
Ordenadas por cuánto se parecen a LocalAI y luego por puntuación.
Alternativas, clasificadas
-
Ollama
Entorno para descargar y ejecutar modelos de lenguaje de forma local, con CLI y API REST.
Actualizado hace 2 días3 93,8 = Comparar -
llama.cpp
Motor de inferencia en C/C++ para LLM en CPU y GPU, con formato GGUF y cuantización.
Actualizado hace 1 día9 92,6 = Comparar -
vLLM
Motor de servicio de LLM de alto rendimiento, con paged attention y servidor compatible con la API de OpenAI.
Actualizado hace 2 días22 91,3 = Comparar