AI工具

sglang

sgl-project/sglang

SGLang是一个高性能的大语言模型推理引擎，提供高效的LLM推理服务，支持多种模型和优化技术。

去 GitHub 看仓库

标签

  • attention
  • blackwell
  • cuda
  • deepseek
  • diffusion
  • glm
  • gpt-oss
  • inference

同类项目