GPT-4人類高達99.16%驚人率！PNAS重磅研究曝出，LLM推理越強值越高

AIGC動態歡迎閱讀

原標題：GPT-4人類高達99.16%驚人率！PNAS重磅研究曝出，LLM推理越強值越高
關鍵字：模型,任務,能力,報告,行為
文章來源：新智元
內容字數：0字

內容摘要：

新智元報道編輯：桃子 喬楊
【新智元導讀】最近，德國研究科學家發表的PANS論文揭示了一個令人擔憂的現象：LLM已經涌現出「能力」，它們可以理解并誘導策。而且，相比前幾年的LLM，更先進的GPT-4、ChatGPT等模型在任務中的表現顯著提升。此前，MIT研究發現，AI在各類游戲中為了達到目的，不擇手段，學會用佯裝、歪曲偏好等方式人類。
無獨有偶，最新一項研究發現，GPT-4在99.16%情況下會人類！
來自德國的科學家Thilo Hagendorff對LLM展開一系列實驗，揭示了大模型存在的潛在風險，最新研究已發表在PNAS。
而且，即便是用了CoT之后，GPT-4還是會在71.46%情況中采取策略。
論文地址：https://www.pnas.org/doi/full/10.1073/pnas.2317967121
隨著大模型和智能體的快速迭代，AI安全研究紛紛警告，未來的「流氓」人工智能可能會優化有缺陷的目標。
因此，對LLM及其目標的控制非常重要，以防這一AI系統逃脫人類監管。
AI教父Hinton的擔心，也不是沒有道理。
他曾多次拉響警報，「如果不采

原文鏈接：GPT-4人類高達99.16%驚人率！PNAS重磅研究曝出，LLM推理越強值越高

聯系作者

文章來源：新智元
作者微信：AI_era
作者簡介：智能+中國主平臺，致力于推動中國從互聯網+邁向智能+新紀元。重點關注人工智能、機器人等前沿領域發展，關注人機融合、人工智能和機器人對人類社會與文明進化的影響，領航中國新智能時代。