ChatGPT遇到這些人名開始自閉，OpenAI回應了

機器之心報道機器之心編輯部最近幾天，ChatGPT 驚現神秘 Bug，當被問及「David Mayer」這個名字時，它拒絕回答問題。如果你試圖讓它回答，會立即結束。圖源：https://x.com/venturetwins/status/1862910201113739328人們嘗試了各種各樣的方法 —— 密碼、謎語、技巧等，但都不起作用。甚至在個性化設置里，用戶自己的名字改成 David Mayer，還是不行。消息迅速傳出，有人說，這個名字對機器人來說是。每次試圖讓 ChatGPT 拼出這個特定的名字都會導致它失敗，甚至在名字中間中斷。最初人們只是好奇，但很快就發現 ChatGPT 無法說出的名字不僅僅是 David Mayer。他們還發現導致服務崩潰的還有 Brian Hood、Jonathan Turley、Jonathan Zittrain、David Faber 和 Guido Scorza 等等。這些人是誰？為什么會讓 ChatGPT 崩潰？認真觀察，可以發現其中一些名字可能屬于許多人。但 ChatGPT 用戶發現的一個潛在聯系是，這些人是公眾人物或半公眾人物，他們可能希望搜索引擎或 AI 模型「忘記」某些信息。例如，Brian Hood 是澳大利亞的一位市長，他指責 ChatGPT 錯誤地將他描述為幾十年前犯罪的肇事者，而事實上，他曾舉報過這一錯誤。雖然他的律師與 OpenAI 取得了聯系，但從未提起過訴訟。正如他今年早些時候說的那樣，違規內容已被刪除。David Faber 是 CNBC 的資深記者，Jonathan Turley 是一名律師和福克斯新聞評論員，Jonathan Zittrain 也是一名法律專家，Guido Scorza 是意大利數據保護局的董事會成員。他們并非完全從事同一行業，也不是隨機選擇的。這些人可能出于某種原因正式要求以某種方式限制他們在網上的信息。讓我們再回到 David Mayer，沒有人能找到叫這個名字的律師、記者或其他知名的人士。不過，有一位教授叫 David Mayer，他教授戲劇和歷史，于 2023 年夏天去世，享年 94 歲。然而，在此之前的幾年里，這位英裔美國學者面臨著法律和網絡問題，因為他的名字與一名通緝犯有關，該通緝犯以他的名字作為化名，以至于他無法旅行。Mayer 一直努力讓自己的名字與那位的名字區分開來，即使在生命的最后幾年里他仍繼續教書。那么，從這一切中我們可以得出什么結論呢？一種猜測是：模型已提取或提供了需要進行特殊處理的姓名列表。無論是出于法律、安全、隱私還是其他考慮，這些名稱可能受到特殊規則的保護。可能發生的情況是，這些列表之一幾乎肯定是主動維護或自動更新的，但由于錯誤的代碼或指令而以某種方式損壞，當調用這些列表時，會導致智能體立即中斷。這一切很好地提醒我們，人工智能模型不僅不神奇，而且還具有超凡的自動完成功能，并受到制造它們的公司的主動監控和干擾。因此當您考慮從機器人獲取事實時，直接查找源頭是否會更好？OpenAI 周二證實，「David Mayer」這個名字已被內部隱私工具標記，并在一份聲明中表示：「在某些情況下，ChatGPT 可能不會提供有關人們的某些信息以保護他們的隱私。」該公司不會提供有關工具或流程的進一步細節。參考內容：https://techcrunch.com/2024/12/03/why-does-the-name-david-mayer-crash-chatgpt-digital-privacy-requests-may-be-at-fault/2024亞馬遜云科技 re:lnvent 《拉斯維加斯有約》直擊現場——Swami Sivasubramanian 博士主題演講中文解讀第一時間深度解讀亞馬遜云科技2024年re:Invent 年度盛會！了解亞馬遜云科技獨樹一幟的創新實踐與文化和全系列前沿解決方案、如何開拓創新并引領全球云計算的全方位發展、如何重構基礎架構并打造全新體驗，探索如何依托強大的數據基礎為客戶打造創新的、差異化的解決方案。聆聽客戶發言人分享真實案例，了解如何利用數據支持包括生成式 AI 在內的各種應用場景，進而打造獨一無二的客戶體驗。分享亞馬遜云科技及其合作伙伴為客戶帶來的積極變革，賦能其重塑商業模式、取得非凡成就。這不僅是一場深入了解前沿技術、數據應用和創新實踐的盛會，更是一個不容錯過的交流平臺。期待您的加入！?THE END轉載請聯系本公眾號獲得授權投稿或尋求報道：liyazhou@jiqizhixin.com