OpenAI語音轉(zhuǎn)錄工具被曝嚴(yán)重幻覺:轉(zhuǎn)錄100小時,一半兒在瞎扯

AIGC動態(tài)歡迎閱讀
原標(biāo)題:OpenAI語音轉(zhuǎn)錄工具被曝嚴(yán)重幻覺:轉(zhuǎn)錄100小時,一半兒在瞎扯
關(guān)鍵字:轉(zhuǎn)錄,幻覺,美聯(lián)社,工具,模型
文章來源:量子位
內(nèi)容字?jǐn)?shù):0字
內(nèi)容摘要:
西風(fēng) 發(fā)自 凹非寺量子位 | 公眾號 QbitAIOpenAI的AI語音轉(zhuǎn)寫工具,那個號稱近乎“人類水平”的Whisper,被曝幻覺嚴(yán)重——
100多小時轉(zhuǎn)錄,被工程師發(fā)現(xiàn)約一半都在瞎扯。
更嚴(yán)重的是,美聯(lián)社還爆料有醫(yī)療機(jī)構(gòu)利用Whisper來轉(zhuǎn)錄醫(yī)生與患者的會診,瞬間引發(fā)大量網(wǎng)友關(guān)注。
據(jù)悉,明尼蘇達(dá)州的曼卡托診所和洛杉磯兒童醫(yī)院在內(nèi)的超過30000名臨床醫(yī)生和40個衛(wèi)生系統(tǒng)已開始使用法國AI診療公司Nabla基于Whisper打造的工具。
而且他們已經(jīng)轉(zhuǎn)錄了大概700萬次醫(yī)療就診。
網(wǎng)友紛紛表示這就有點(diǎn)嚇人了。
值得一提的是,OpenAI之前早就警告過,該工具不應(yīng)在“高風(fēng)險領(lǐng)域”中使用。
針對最新爆料,有OpenAI發(fā)言人回應(yīng),OpenAI會在模型更新中加入相應(yīng)的反饋機(jī)制。
OpenAI被督促趕緊解決此問題Whisper是OpenAI老早前推出的開源自動語音識別(ASR)系統(tǒng),于2022年9月發(fā)布。
它采用簡單的端到端方式,基于編碼器-解碼器Transformer架構(gòu)。輸入音頻將被分成30秒的塊,轉(zhuǎn)化為梅爾倒譜(音頻特征提取方式之一,log-Mel spectrogram),然后傳
原文鏈接:OpenAI語音轉(zhuǎn)錄工具被曝嚴(yán)重幻覺:轉(zhuǎn)錄100小時,一半兒在瞎扯
聯(lián)系作者
文章來源:量子位
作者微信:
作者簡介:

粵公網(wǎng)安備 44011502001135號