Agent 基础设施
标签
同类项目
mlx-serve2.4k苹果芯片 本 地 大模型 推理 服务 与 多 模态 AI 平台， 兼容 开放 接口 并 提供 聊天 与 智 能 体 应用。 
sglang38.7k面向 大模型 与 多 模态 模型 的 高性 能 推理 服务 框架， 优化 智 能 体 负载、 大规模 serving 与 强化 学习 rollout。 
magpie29.7k本地 LLM/Agent 网关 与 模型 管理 应用， 在 菜单 栏 为 Claude Code、 Codex 等 任意 Agent 统 一切 换 模型、 账户 与 订阅， 并 支持 故障 转移。 
fastapi_mcp12k将FastAPI 接口 一 键 暴露 为 MCP 工具 的 Python库， 原生 支持 认证 与 鉴权。 
lean-ctx3.9kAI系统 的 上下 文 网关， 做 任务 相关 上 下文 选择、 权限 过滤 与 用量 取证， 跑 在 本地 经MCP 接入。 
karpathy-llm-wiki2.7k构建Karpathy式 LLM 知识库 的 可复 用 技能， 将 原始 资料 编译 为 可 引用 维基 页面 并 支持 问答 与 健康 巡检。