Alternativas ao LocalAI
Ordenadas pelo quanto se parecem com LocalAI e depois pela nota.
Alternativas, ranqueadas
-
Ollama
Runtime para baixar e executar modelos de linguagem localmente, com CLI e API REST.
Atualizado há 2 dias3 93,8 = Comparar -
llama.cpp
Motor de inferência em C/C++ para LLMs em CPU e GPU, com formato GGUF e quantização.
Atualizado há 1 dia9 92,6 = Comparar -
vLLM
Motor de serviço de LLMs com alta vazão, paged attention e servidor compatível com a API da OpenAI.
Atualizado há 2 dias22 91,3 = Comparar