WhisperKit是一个开源项目,旨在赋能开发者和企业在用户设备上部署商业级别的计算负载。它提供了Swift包、示例App和Python工具,以实现Whisper推理功能。该项目的目标是在苹果硅芯片上实现最低延迟和最高吞吐量。通过优化音频编码器和文本解码器,WhisperKit在iPhone和Mac上实现了速度提升。计划在稳定版本发布前引入更多功能和改进。
完成下面两步后,将自动完成登录并继续当前操作。