Agent 基础设施
标签
同类项目
koboldcpp12.3k单文件免 安装 的 本地 大 模型 一体 应用， 内置 聊 天角色 扮演 与 多 模态生成界面。 
llamafile26.6k将大模型 打包 为 单文件 可 执行 程序， 无 需 安装即 可 在 多 系统本 地 运行 LLM 与 语音识别。 
lmdeploy8.1k面向 LLM 的 压缩部署 推理 工具包， 提供 高吞吐 推理 引擎、 量化 与 多机 服务 能力， 支持众 多 开源 模型。 
lemonade6.2k在自有 电脑 上 运行 与 服务 优化 大 模型 的 本地 AI 服务器， 支持 聊天、 代码、 语音 与 图像 模型， 对 外 提供 标准 推理 接口。 
OGAM3.3k手机和 Mac 上 的 离线 AI 套件， 集成 本 地 大 模型、 图像 生成、 视觉、 语音 转写、 工具 调用 和 知识库。 
AGiXT3.2k综合性AI 自动化 平台， 通过 自然 语言集 中 控制智 能 家 居、 企业 流程 与 加密 交易 等， 提供 多 模型 与 扩展 生态。