库 / 框架
标签
同类项目
whisper.cpp55.1kWhisper模型 的 纯C /C++ 高性 能 推理 实现， 无 依赖 跨 平台， 支持量化 与 多 硬件 加速 及 多 语言 绑定。 
vosk-api15.2k支持20 多 种 语言 的 离线语 音识 别工 具包， 提供 多 语言SDK 绑定， 可跑 在 手机 与 服务器 上。 
speech-to-text-benchmark699用于评测 不同 语音 转文字 引擎 的 轻量 可 扩展 Python 框架， 在 标准 数 据 集上 比较 准确率、 延迟、 内存 与 算力 消耗。 
nano-vllm16.3k从零实现 的 轻量 vLLM 推理 引擎， 代码 精简 可读， 推理 速度 可 比肩 原版vLLM。 
whisper-ctranslate21.4k基于CTranslate2 的 Whisper 兼容命令 行 客户端， 转录 更快， 支持 说话 人区 分、 VAD 过滤 与 实时 转录。 
willow-inference-server511开源自托 管语言 推理 服务器， 针对 CUDA 优化， 通过 REST/WebRTC/WS 提供 Whisper 语 音识别、 TTS 与 LLM 推理 服务。