bifrost

高性能开源大模型网关，通过统一接口聚合多家模型并提供容灾、缓存、治理与可观测能力。