研究人员指出OpenAI Whisper转录工具存编造疑虑

近日，美联社披露了一则关于OpenAI的Whisper转录技术引发广泛关注的报道。软件工程师、开发人员及学术研究人员纷纷对该技术的准确性表示深切忧虑，指出其存在严重的“幻觉”问题。

据悉，尽管生成式人工智能的编造倾向一直备受讨论，但Whisper在转录过程中竟也频繁出现此类问题，令人诧异。研究人员发现，Whisper的转录结果中常常混入与原始音频无关的内容，如种族评论和虚构的医疗治疗等。

特别是在医疗环境中，Whisper的错误转录可能带来严重后果。密歇根大学的研究人员在公开会议中发现，高达80%的音频转录存在幻觉问题。另一名机器学习工程师在研究了超过100个小时的Whisper转录后，也发现了类似的问题。

一名开发人员报告称，在使用Whisper创建的26,000份转录中，几乎每一份都出现了幻觉。对此，OpenAI发言人表示，公司正致力于提高模型的准确性，并明确指出其使用政策禁止在高风险决策环境中使用Whisper。