vLLM Project

Ainda não verificado vllm.ai

1 listagem

  1. vLLM

    Motor de serviço de LLMs com alta vazão, paged attention e servidor compatível com a API da OpenAI.

    vLLM Project Nenhuma avaliação ainda Código aberto Linux Somente API
    Atualizado há 62 dias
    92 80,3 =
    Ver como esta posição é calculada
    Recibo do ranking: vLLM
    #92 no geral · #4 na categoria
    80,3/100
    1. Prontidão de uso +28,0 70,0 × 40%
    2. Atualização de versões +31,6 90,4 × 35%
    3. Sinais de adoção +20,7 82,7 × 25%
    Dados de GitHub Última sincronização Calculado em Peso de patrocínio 0%, nunca conta Ler a fórmula completa