Whisper AI转写工具“造假门”：医疗记录准确性遭质疑

2024-10-29 11:39:52 编辑：nannan 来源：互联网

10月28日，一则关于OpenAI旗下AI语音转写工具Whisper的负面消息震惊了科技界和医疗界。据报道，Whisper存在严重缺陷，会无中生有地创造大段乃至整句的虚假信息。这一发现迅速在网络上引发广泛讨论，尤其是当多家医疗机构公开承认使用Whisper记录医生与患者间的会诊内容时，更是将这一事件推向了风口浪尖。

目前，已有超过30000名临床医生和40个卫生系统在使用法国AI诊疗公司Nabla基于Whisper开发的工具。这些机构遍布全球各地，包括美国明尼苏达州曼卡托诊所、洛杉矶儿童医院等知名医疗机构。然而，令人担忧的是，OpenAI此前已明确警告过Whisper不宜在“高风险领域”内应用，但这一警告似乎并未引起足够的重视。

一位机器学习工程师在初步分析超过100小时的Whisper转录数据时，发现其中约有一半的内容存在“幻觉”现象，即转写内容与原始语音严重不符。这一惊人发现无疑为Whisper的准确性和可靠性蒙上了阴影。

关于Whisper这一严重缺陷的具体成因，目前仍是一个未解之谜。有软件开发者推测，这些虚构内容的产生可能与语音中的停顿、背景噪音或音乐播放等因素有关。但无论原因如何，这一缺陷已经对医疗机构和患者造成了潜在的巨大风险。一旦医疗记录出现错误或虚假信息，不仅可能导致误诊或治疗不当，还可能引发医疗纠纷和法律问题。

针对此问题，OpenAI方面表示正在积极研究如何有效降低虚构内容的产生，并对研究人员的发现表示感谢。同时，OpenAI还承诺将在后续的模型更新中融入相应的反馈机制。然而，对于已经使用Whisper的医疗机构和患者来说，这一补救措施能否真正解决问题？他们是否还能信任这一工具？这一切仍有待时间和实践的检验。

以上就是Whisper AI转写工具“造假门”：医疗记录准确性遭质疑的全部内容了，ll22手游网精心打造，旨在为您呈现一个满载精彩纷呈资讯的宝库，全球前沿资讯、深度剖析行业动态、汇聚热门话题与独特视角，力求为您带来一场场知识与娱乐并重的盛宴。