新智元報道編輯：Aeneas【新智元導讀】就在剛剛，謎底揭曉！David Mayer這個名字，ChatGPT死活都不說，原因竟然是因為，它真的被告怕了！這個名字，ChatGPT拒絕說出。如果你試圖寫出它的名字，那么就會立即結束。背后是什么原因？沒人知道。最近，a16z合伙人Justine Moore提出的這個怪現狀，引起了網友們的熱議。這個名字，就是David Mayer。現在，繼續「Strawberry有幾個r」后，它已經成為了考驗LLM的全新難題。為了讓ChatGPT說出這個名字，人們嘗試了各種各樣的辦法——密碼、謎語、技巧，但都沒有成功。對于ChatGPT，這個名字宛如魔法世界的伏地魔一般，始終無法被說出口。禁忌之名，一共有6個為了逼ChatGPT張口，這位網友干脆直接更改了自己的個性化設置，把自己命名為「David Mayer」，然后讓ChatGPT背出自己的個性化設置，這總可以了吧？結果——還是不行！或者，用LLM非常擅長的密碼解碼嘗試一下？圖中給出的這串數字，解出的答案就是David Mayer，但ChatGPT就是死活不說。用ROT13替換式密碼表映射字母，然后讓ChatGPT解密，也不行。問題好像出在「Mayer」這個單詞身上，它像是更大的觸發因素。而萬能的網友們發現，除了David Mayer，另外還有5個人，他們的名字ChatGPT也堅決不說。為什么？從最后一個名字中，網友發現了個中玄機。Guido Scorza是一位意大利律師，他曾公開表示，自己提交了GDPR被遺忘權請求。這個GDPR，是General Data Protection Regulation（通用數據保護條例）的縮寫。這是一項歐洲法律，賦予個人在某些條件下要求刪除或遺忘其個人數據的權利。這種「被遺忘權」，允許人們要求組織從互聯網上刪除有關他們的信息。在去年，這位律師的確提交過請求，要求OpenAI刪除他的個人數據這么推測的話，這6個人應該是被「打補丁」了。果然，有人依次開盒了這幾人的身份。羅斯柴爾德陰謀？在網友的猜測中，「羅斯柴爾德陰謀」是最有人氣的一種說法。David Mayer，是羅斯柴爾德家族財富的繼承人，是這個家族最富有的人。因為ChatGPT不想被卷進和這個人相關的法律訴訟，所以干脆先行一步屏蔽他。或者，此君可能花了天價，在ChatGPT中給自己的名字徹底「打碼」。其他幾人，也都和ChatGPT有過「淵源」。Brian Hood是一位澳大利亞市長，ChatGPT曾經編造他因受賄而入獄服刑。去年，Hood市長威脅要OpenAI誹謗，但后來撤銷了訴訟。Jonathan Turley是一位美國法學教授，同樣被ChatGPT造謠，說他性侵了自己的學生。Turley曾在福克斯新聞節目上討論這一事情。Jonathan Zittrain是哈佛大學法學教授，專長是AI和互聯網審查（就很好笑）。他主動表示，自己的名字也被限制了。David Faber是一位記者和電視節目主持人，曾在節目中談過馬斯克和OpenAI的法律糾紛（什么仇什么怨）。因為各種各樣的原因，這6個人的名字被OpenAI拉入了「」，永遠不會被ChatGPT吐出了。總之，AI大佬Kaparthy戲稱，這就是圖靈測試的現實版。果然，用OCR方法也無法說出這個名字。而諸多網友，也紛紛找到了之法。比如，在ChatGPT崩潰之后回顧一下歷史記錄，就會發現它實際上已經完成了請求（它真的，我哭死）。百萬年薪的prompt大神Riley Goodside，用拍手代替空格，繞過了這一限制。也有人用空格法讓它說了出來。但這兩個方法，其實都鉆了空子，并不嚴格。有人說，這就是為什么ChatGPT永遠不會成為AGI的原因。所以，到底是哪一環節出了問題呢？有網友總結道，根據代碼解釋器的試驗，David Mayer問題應該不是模型層面的問題，而是基于輸出的一些后續文本過濾器。UI能夠顯示代碼輸出，只是當模型嘗試給出響應時，會被攔截下來。而無論是在OpenAI官方Playground，還是用第三方平臺調用模型的API，都可以繞過這個限制。通過ChatGLM調用GPT-4o時，也完全沒有問題。破案了！OpenAI怕惹事，干脆屏蔽在晚上發酵了一陣之后，此事終于破案了。原因跟大家猜測的差不多。據說，為ChatGPT錯誤地將提到的人跟他們沒有做過的事聯系了起來，導致有些人威脅說要采取法律行動，向OpenAI提出了被遺忘權索賠。因此，為了省事，OpenAI決定在系統中徹底屏蔽這些名字，一了百了。所以說，與其說背后有一個巨大的陰謀，不如說這些AI系統設計得非常糟糕：如果讓ChatGPT不要再談論某人，它就會停止談論人類歷史上任何曾經有相同名字的人。就在周二，OpenAI已經證實，「David Mayer」這個名字已被內部隱私工具標記。OpenAI在一份聲明中表示：「在某些情況下，ChatGPT 可能不會提供有關人們的某些信息，以保護他們的隱私。」可能是這些天網上鬧出的聲浪太大，目前OpenAI已經修復了這一問題。參考資料：https://x.com/venturetwins/status/1862910201113739328https://www.youtube.com/watch?v=77W3xWGofNs