Agent 基础设施
标签
同类项目
krasis525面向 消费 级 显存 的 混合 大模型 推理 运行 时， 用 GPU 预填 充解码 与 冷热 专家 管理 实现 超 大 模型 本 地 运行。 
ai-engineering-from-scratch77.1k从零实现 模型 与 智 能体 的 开源 课程， 含五百余课时、 实验 项目 与 学习 路径。 
RWKV-LM14.8k融合RNN与 Transformer 优点 的 RWKV线性 注意力 大模型 系列， 发布权重 与 训练 推理 实现。 
FedML4.1k统一 可 扩展 的 机器 学 习库， 支撑 大 规模 分 布式 训练、 模型 服务、 联邦 学习 与 跨云 GPU 调度。 
onnxruntime22.3k跨平台高性 能 机器 学习 推理 训练 加速 引擎， 兼容 多 框架 模型 并 利用 硬件 加速 优化 执行。 
web-llm19.4k浏览器端 高性 能 大模型 推理 引擎， 基于 图形 加速且 兼容 开放 接口， 开发者 可用 软件 包集 成构 建本 地化 AI 应用。