AI工具

mesh-llm

mesh-llm/mesh-llm

跨机器聚合GPU和内存,提供OpenAI兼容API的分布式LLM推理框架