Alternativas ao LocalAI
Ordenadas pelo quanto se parecem com LocalAI e depois pela nota.
Alternativas, ranqueadas
-
Ollama
Runtime para baixar e executar modelos de linguagem localmente, com CLI e API REST.
Atualizado há 62 dias5 93,5 = Comparar -
llama.cpp
Motor de inferência em C/C++ para LLMs em CPU e GPU, com formato GGUF e quantização.
Atualizado há 61 dias6 93,0 = Comparar -
vLLM
Motor de serviço de LLMs com alta vazão, paged attention e servidor compatível com a API da OpenAI.
Atualizado há 62 dias92 80,3 = Comparar