Alternativas a Ollama

Ordenadas por cuánto se parecen a Ollama y luego por puntuación.

Alternativas, clasificadas

  1. llama.cpp

    Motor de inferencia en C/C++ para LLM en CPU y GPU, con formato GGUF y cuantización.

    • Versión más reciente
    • Ninguna función en común
    Actualizado hace 61 días
    6 93,0 = Comparar
  2. LocalAI

    API autoalojada compatible con OpenAI que ejecuta modelos de texto, imagen y audio en hardware local.

    • Ninguna función en común
    Actualizado hace 62 días
    64 85,2 = Comparar
  3. vLLM

    Motor de servicio de LLM de alto rendimiento, con paged attention y servidor compatible con la API de OpenAI.

    • Ninguna función en común
    Actualizado hace 62 días
    92 80,3 = Comparar
  4. LM Studio

    Descubra, descargue y ejecute LLM locales sin conexión en Mac, Windows y Linux con interfaz amigable y servidor local compatible con OpenAI.

    • Funciona en más plataformas
    • Ninguna función en común
    Detenido: 646 días sin versión
    367 40,0 = Comparar