Insanely Fast Whisper：本地 GPU 98 秒转录 150 分钟音频

语音转文字是播客、会议记录、研究访谈等场景的常见需求。传统方案往往依赖 OpenAI API 或云端服务，不仅需要上传文件等待处理，还存在隐私泄露和费用累积的问题。本地转录工具虽然能解决隐私顾虑，但速度往往难以令人满意。Insanely Fast Whisper 正是针对这一痛点，将 OpenAI 的 Whisper-large-v3 模型与 Flash Attention 2 技术结合，在本地 GPU 上实现了近乎实时的转录体验。

核心内容

Insanely Fast Whisper 的核心优化在于使用 Flash Attention 2 加速 Whisper-large-v3 的注意力计算。在 A100 GPU 上，150 分钟的音频仅需 98 秒即可完成转录，速度提升约 19 倍。该工具完全离线运行，无需任何 API 依赖，所有处理均在本地完成。

功能方面，Insanely Fast Whisper 支持：

• 转录与翻译任务，自动检测数十种语言；
• 说话人分离（diarization），自动区分音频中的不同说话人；
• 词级与段落级时间戳，支持精确回溯任意时刻的语音内容；
• CLI 一键操作，支持本地文件或 URL 输入，输出为 JSON 格式。

兼容性方面，工具支持 NVIDIA GPU、Apple Silicon Mac，甚至可以在 Google Colab 免费版上运行。用户可通过调整 batch size 和选择不同模型（如 distil-whisper）来避免显存溢出（OOM）问题。

安装过程极为简洁，仅需一条命令：

pipx install insanely-fast-whisper

运行示例：

insanely-fast-whisper --file-name your_audio.mp3

价值与影响

Insanely Fast Whisper 将高性能语音转文字能力下放到本地硬件，显著降低了使用门槛和成本。对于播客制作者、会议记录员、研究人员和法律从业者而言，它提供了一种快速、私密且无需联网的解决方案。该项目在 GitHub 上已获得 12.6K 星标，反映了社区对其性能与实用性的认可。

---