AI太強，驗證碼全失效？新南威爾士全新設計：GPT傻傻認不出，人類一致好評

原標題：AI太強，驗證碼全失效？新南威爾士全新設計：GPT傻傻認不出，人類一致好評
文章來源：新智元
內容字數：7345字

新型驗證碼IllusionCAPTCHA：利用視覺錯覺對抗AI攻擊

隨著人工智能技術的飛速發展，傳統的驗證碼越來越難以抵御AI的攻擊。為了解決這一問題，新南威爾士大學、南洋理工大學等機構的研究人員提出了一種新型驗證碼——IllusionCAPTCHA，它巧妙地利用了人類與AI在視覺感知上的差異，有效提高了驗證碼的安全性，同時提升了用戶體驗。

1. 傳統驗證碼的困境

傳統的驗證碼主要依賴文本扭曲、圖像分類或邏輯推理來區分人類和機器。然而，隨著大型語言模型（LLM）如GPT-4和Gemini的出現，這些方法逐漸失效。LLM能夠以高成功率傳統的驗證碼，導致驗證碼的安全性嚴重下降，同時，復雜的驗證碼也給用戶帶來了糟糕的體驗。

2. IllusionCAPTCHA的工作原理

IllusionCAPTCHA的設計靈感來源于人類視覺錯覺。它通過一個三階段的生成框架來創建驗證碼：

1. 創建視覺錯覺：將基礎圖像與用戶定義的提示詞融合，生成一種視覺錯覺圖像。該圖像看起來像提示詞描述的物體，從而隱藏了基礎圖像的真實內容。人類可以輕松識別，而AI則容易被誤導。
2. 生成選項：基于修改后的圖像生成多個選項，形成一個多項選擇題。這避免了僅僅依賴錯覺圖像可能導致的不足。
3. 引入誘導性提示：設計誘導性提示，引導基于LLM的攻擊者選擇預設的錯誤選項。這進一步提高了驗證碼的安全性。

IllusionCAPTCHA的生成過程利用了ControlNet等技術，確保生成的圖像既便于人類識別，又令自動系統難以解釋。為了提高可識別性，研究人員設計了基于文本和基于圖像兩種類型的驗證碼。

3. 選項設計與誘導策略

IllusionCAPTCHA的選項設計經過精心策劃，以防范基于LLM的攻擊。四個選項中，一個為正確答案，一個為生成圖像的提示詞，其余兩個為對提示詞的詳細描述，但刻意避免包含正確答案。這種設計使得用戶更容易識別正確答案，提升了用戶體驗。

誘導性提示的設計基于實證研究，利用LLM容易產生冗長且詳細描述的特性，引導其選擇描述視覺錯覺元素的選項，從而提高其選擇錯誤答案的概率。

4. 實驗結果與結論

實驗結果表明，LLM在識別帶有視覺錯覺的文本和圖像時的成功率均為0%。而人類的識別率則高達83%（文本錯覺）和88%（圖像錯覺）。誘導性話術也成功地引導了LLM選擇錯誤答案。IllusionCAPTCHA的用戶通過率分析顯示，86.95%的用戶能夠在首次嘗試時成功通過CAPTCHA，表明該驗證碼在安全性與可用性上均優于現有方法。

IllusionCAPTCHA為驗證碼技術提供了新的思路，它有效地利用了人類和AI在認知能力上的差異，為對抗日益強大的AI攻擊提供了新的武器。

聯系作者

文章來源：新智元
作者微信：
作者簡介：智能+中國主平臺，致力于推動中國從互聯網+邁向智能+新紀元。重點關注人工智能、機器人等前沿領域發展，關注人機融合、人工智能和機器人對人類社會與文明進化的影響，領航中國新智能時代。