Alternativas a LocalAI

Ordenadas por cuánto se parecen a LocalAI y luego por puntuación.

Alternativas, clasificadas

  1. Ollama

    Entorno para descargar y ejecutar modelos de lenguaje de forma local, con CLI y API REST.

    • Puntuación más alta
    • Funciona en más plataformas
    • Ninguna función en común
    Actualizado hace 2 días
    3 93,8 = Comparar
  2. llama.cpp

    Motor de inferencia en C/C++ para LLM en CPU y GPU, con formato GGUF y cuantización.

    • Versión más reciente
    • Puntuación más alta
    • Funciona en más plataformas
    • Ninguna función en común
    Actualizado hace 1 día
    9 92,6 = Comparar
  3. vLLM

    Motor de servicio de LLM de alto rendimiento, con paged attention y servidor compatible con la API de OpenAI.

    • Puntuación más alta
    • Ninguna función en común
    Actualizado hace 2 días
    22 91,3 = Comparar