其他

vllm-omni

vllm-project/vllm-omni

一个扩展vLLM以支持全模态模型(文本、图像、音频、视频、动作)推理和服务的框架