OpenLLM

OpenLLM让开发者通过一条命令即可自托管任何开源LLM并生成OpenAI兼容的API，提供内置聊天界面和云部署支持。