colibri

在消费级硬件上运行超大MoE模型的高效推理引擎，通过流式专家调度实现内存分级管理。