WhimRead 需要 JavaScript 才能使用站内搜索。
Whim
Read
随手一翻
发现
全部工具
推荐
惊喜
关于
搜索
English
AI 应用
mtplx
youssofal/mtplx
在
Mac
上
本
地
运行
Qwen
等
大模型
的
应用
与
推理
服务,
带聊
天
仪
表盘
与
兼容
API。
去 GitHub 看仓库
复制链接
标签
apple-silicon
local-ai
mlx
mtp
openai-compatible
qwen
speculative-decoding
anthropic-compatible
同类项目
omlx
23.6k
面
向
Mac
的
本地
大模型
推理
服务器,
支持
连续
批
处理
与
菜单栏
管理
供智
能
体
调用。
claude-code-local
3.5k
让
Claude Code
在
Apple Silicon
或
普通
PC
上
完全
本
地
运行
的
方案,
通过
MLX/llama.cpp
提供
Anthropic API
兼容
服务
并
自动
选
择
本
地
模型。
lucebox
3k
面
向
消费
级
显卡
的
快速
大模型
推理
服务器,
采用
推测
解码
与
定制
内核
提升
吞吐
降低
显存。
qwen38-27b-rtx3090
2.6k
让
Qwen
大模型
在
单张
消费
级
显卡上
高速
推理
的
vLLM
补丁
与量化
部
署
方案。
Web
666
面
向
macOS
的
原生
浏
览器,
提供
Glance
快速
查询
与
可
选本
地
AI
页面
问答,
核心
仍
是
网页
浏览。
VoiceStudio
107.1k
本
地
优先
的
开源
语音
工作
台
桌面
应用,
提供
克隆配
音
转写
与
有
声
书制
作
能力。
2683
apple-silicon,local-ai,mlx
在Mac上本地运行Qwen等大模型的应用与推理服务,带聊天仪表盘与兼容API。
←
上一个
npatch
下一个
→
self-hosted