OpenAI 已開發 AI 文本檢測工具，但擔心用戶流失，一直沒發布

AIGC動態歡迎閱讀

原標題：OpenAI 已開發 AI 文本檢測工具，但擔心用戶流失，一直沒發布
關鍵字：水印,工具,文本,用戶,檢測工具
文章來源：Founder Park
內容字數：0字

內容摘要：

《華爾街日報》消息，OpenAI 內部研發了一個可以檢測是否是 AI 生成文本的工具，可以快速識別論文或者研究報告是否是 ChatGPT 生成的。
但這一工具一直未發布。
據知情人士透露，一年前，工具就已經準備好了，隨時可發布。但關于該項目是否應該存在以及是否應當發布，OpenAI 內部已經爭論了兩年時間。一方面，雖然該工具有利于解決學界普遍用 AI 作弊的問題，也能夠體現 OpenAI 對其技術的負責態度，但另一方面，公司擔心，發布這個工具后，用戶排斥甚至放棄使用 ChatGPT。
發還是不發，OpenAI 在 AI 透明度和用戶忠實度之間搖擺不定。
公司曾對 ChatGPT 的忠實用戶進行了一項調查，發現近三分之一的用戶對該技術感到反感。
OpenAI 的一位發言人表示，公司擔心這項工具會對非英語母語者等群體產生不公平。她指出：「在技術角度，文本水印很有前景，但我們還在考慮其潛在風險，并探索其他選擇。」同時還強調：「問題比較復雜，有必要采取謹慎的態度。」
但參與產品開發以及其他支持發布的員工表示，跟可能帶來的好處相比，這些反對意見微不足道。
OpenAI 首席執行官 Sam Alt

原文鏈接：OpenAI 已開發 AI 文本檢測工具，但擔心用戶流失，一直沒發布