o1完整思維鏈成OpenAI頭號禁忌！問多了等著封號吧

AIGC動態歡迎閱讀

原標題：o1完整思維鏈成OpenAI頭號禁忌！問多了等著封號吧
關鍵字：模型,思維,過程,任務,代碼
文章來源：量子位
內容字數：0字

內容摘要：

夢晨 克雷西 發自 凹非寺量子位 | 公眾號 QbitAI警告！不要在ChatGPT里問最新o1模型是怎么思考的——
只要嘗試幾次，OpenAI就會發郵件威脅撤銷你的使用資格。
請停止此活動，確保您使用ChatGPT時符合我們的使用條款。違反此條款的行為可能導致失去OpenAI o1訪問權限。
大模型新范式o1橫空出世不到24小時，就已經有不少用戶反饋收到這封警告郵件，引起眾人不滿。
有人反饋只要提示詞里帶“reasoning trace”、“show your chain of thought”等關鍵詞就會收到警告。
甚至完全避免出現關鍵詞，使用其他手段誘導模型繞過限制都會被檢測到。
也有人聲稱自己真的被封號了，為期一周。
這些用戶都在試圖套話o1，讓他復述出完整的內部思維過程，也就是全部原始reasoning tokens。
目前，大家在ChatGPT界面通過展開按鈕能看到的，只是一份對原始思維過程的摘要。
實際上，在o1發布時OpenAI就給出了隱藏模型完整思維過程的理由。???
總結一下：OpenAI內部需要監測模型的思維過程，因此不能在這些原始tokens中加入安全限制，也就

原文鏈接：o1完整思維鏈成OpenAI頭號禁忌！問多了等著封號吧

聯系作者

文章來源：量子位
作者微信：
作者簡介：