MySoftRank
Entrar

Ferramentas de IA

Execução de LLMs

4 listagens são ranqueadas por atualização de versões e adoção até chegarem avaliações verificadas; depois, qualidade e volume de avaliações e resposta do fornecedor entram na nota. Abra qualquer linha para ver o recibo. Ver a fórmula

  • 4 em dia versão nos últimos 90 dias
  • 0 envelhecendo sem versão de 90 a 179 dias
  • 0 parados sem versão há 180 dias ou mais

4 listagens ranqueadas

  1. Ollama

    Runtime para baixar e executar modelos de linguagem localmente, com CLI e API REST.

    Ollama Nenhuma avaliação ainda Código aberto
    Atualizado há 2 dias
    1 93,8 =
    Ver como esta posição é calculada
    Recibo do ranking: Ollama
    #3 no geral · #1 na categoria
    93,8/100
    1. Atualização de versões +50,0 100,0 × 50%
    2. Sinais de adoção +43,8 87,6 × 50%
    Dados de GitHub Última sincronização Calculado em Peso de patrocínio 0%, nunca conta Ler a fórmula completa

  2. llama.cpp

    Motor de inferência em C/C++ para LLMs em CPU e GPU, com formato GGUF e quantização.

    ggml.ai Nenhuma avaliação ainda Código aberto
    Atualizado há 1 dia
    2 92,6 =
    Ver como esta posição é calculada
    Recibo do ranking: llama.cpp
    #9 no geral · #2 na categoria
    92,6/100
    1. Atualização de versões +50,0 100,0 × 50%
    2. Sinais de adoção +42,6 85,2 × 50%
    Dados de GitHub Última sincronização Calculado em Peso de patrocínio 0%, nunca conta Ler a fórmula completa

  3. vLLM

    Motor de serviço de LLMs com alta vazão, paged attention e servidor compatível com a API da OpenAI.

    vLLM Project Nenhuma avaliação ainda Código aberto
    Atualizado há 2 dias
    3 91,3 =
    Ver como esta posição é calculada
    Recibo do ranking: vLLM
    #22 no geral · #3 na categoria
    91,3/100
    1. Atualização de versões +50,0 100,0 × 50%
    2. Sinais de adoção +41,4 82,7 × 50%
    Dados de GitHub Última sincronização Calculado em Peso de patrocínio 0%, nunca conta Ler a fórmula completa

  4. LocalAI

    API auto-hospedada compatível com a OpenAI que roda modelos de texto, imagem e áudio em hardware local.

    LocalAI Nenhuma avaliação ainda Código aberto
    Atualizado há 2 dias
    4 89,1 =
    Ver como esta posição é calculada
    Recibo do ranking: LocalAI
    #54 no geral · #4 na categoria
    89,1/100
    1. Atualização de versões +50,0 100,0 × 50%
    2. Sinais de adoção +39,1 78,2 × 50%
    Dados de GitHub Última sincronização Calculado em Peso de patrocínio 0%, nunca conta Ler a fórmula completa