不花钱的同声传译
内容提要
最近参加技术会议，发现ChatGPT和Kimi的使用量减少，聊天界面仍然不理想。在飞书等场景中使用LLM频率较高。现有解决方案存在安全和灵活性问题。推荐使用Rogue Amoeba的Loopback和Audio Hijack，或者使用ffmpeg和VB-Cable。安装whisper-cpp处理音频文件，或者使用stream处理音频流。转文字后可进一步处理，如总结会议内容。相信大模型的帮助下，端侧场景会更可用。
延伸解读
本地化语音转写的安全与灵活优势
文章指出，现有云端语音转文本方案存在安全和灵活性问题。将音频交给第三方，尤其是国内厂商，可能引发隐私担忧；而依赖特定服务（如YouTube字幕）则缺乏灵活性。本地处理方案如whisper-cpp，让用户完全掌控音频数据，避免隐私泄露，同时不受网络或服务限制，可自由处理任何音频源。
硬件加速显著提升本地转写效率
在Mac上，whisper-cpp通过Core ML利用Apple Neural Engine（ANE）可提速至少三倍。文章详细说明了编译支持Core ML的步骤，包括安装依赖、生成Core ML模型和启用编译开关。成功加载后，转写速度大幅提升，使本地实时处理音频流成为可能，增强了端侧场景的可用性。
从转写到智能处理的扩展可能
音频转文字后，可进一步利用大模型进行总结、提纯等处理。例如，会议内容转写后交给模型归纳，能快速生成纪要。文章认为，随着开源大模型发展，端侧场景将从可玩过渡到可用，未来在本地实现同声传译、实时转录等应用会更加普遍。
Q&A
为什么ChatGPT和Kimi的使用量减少？
用户在使用这些产品时面临压力，聊天界面体验不佳，导致活跃度下降。
有哪些推荐的音频处理工具？
推荐使用Rogue Amoeba的Loopback和Audio Hijack，或ffmpeg和VB-Cable。
如何使用whisper-cpp处理音频文件？
安装whisper-cpp后，可以使用命令行参数组合处理音频文件，如翻译和生成字幕。
音频处理的安全性和灵活性问题是什么？
现有解决方案在安全性上存在隐患，特别是将音频交给第三方处理，灵活性不足。
如何在会议中实现实时转录？
可以通过设置VB-Cable转发音频流，并使用whisper-cpp进行实时转录。
音频转文字后可以进行哪些处理？
转文字后可以进行记录、总结或翻译等进一步处理。
