OpenAI语音转录工具被曝严重幻觉：转录100小时，一半儿在瞎扯
原文中文，约2100字，阅读约需5分钟。
📝
内容提要
OpenAI的Whisper语音转录工具被发现存在严重幻觉问题，转录100小时的内容中约有一半不准确。尽管OpenAI警告不应在高风险领域使用，但已有多家医疗机构在使用该工具。研究显示，Whisper在背景噪音下更易产生幻觉。OpenAI表示将改进模型以减少此问题。
🔎
延伸解读
幻觉问题的严重性
Whisper工具在转录过程中产生幻觉的比例高达50%，这意味着用户在依赖该工具时可能会面临信息失真的风险。尤其在医疗领域，错误的转录可能导致误诊或治疗失误，因此使用时需格外谨慎。
高风险领域的警告
OpenAI已明确警告Whisper不应在高风险领域使用，但许多医疗机构仍在使用该工具。这种情况引发了公众对AI工具在关键决策中可靠性的担忧，用户应关注其适用性和潜在后果。
背景噪音的影响
研究表明，Whisper在背景噪音环境下更容易产生幻觉。这提示用户在使用该工具时，尽量选择安静的环境进行录音，以提高转录的准确性，减少错误信息的产生。
❓
Q&A
Whisper语音转录工具的主要问题是什么？
Whisper语音转录工具存在严重的幻觉问题，转录100小时的内容中约有一半不准确。
OpenAI对Whisper的使用有什么警告？
OpenAI警告不应在高风险领域使用Whisper，因为其准确性缺陷可能导致明显偏差。
Whisper工具在医疗领域的应用情况如何？
超过30000名临床医生和40个医疗系统已使用基于Whisper的工具，转录约700万次医疗就诊。
Whisper产生幻觉的原因是什么？
Whisper在背景噪音、停顿或音乐播放时更易产生幻觉，但具体原因尚不明确。
Nabla公司如何应对Whisper的幻觉问题？
Nabla表示正在解决Whisper产生幻觉的问题，但由于数据安全原因，无法将生成的文本与原始录音进行比较。
Whisper的技术背景是什么？
Whisper是开源自动语音识别系统，采用编码器-解码器Transformer架构，经过68万小时的多语言训练。
🏷️
