WhisperKit是一个开源项目，旨在赋能开发者和企业在用户设备上部署商业级别的计算负载。它提供了Swift包、示例App和Python工具，以实现Whisper推理功能。该项目的目标是在苹果硅芯片上实现最低延迟和最高吞吐量。通过优化音频编码器和文本解码器，WhisperKit在iPhone和Mac上实现了速度提升。计划在稳定版本发布前引入更多功能和改进。