AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：GPT-4人類高達(dá)99.16%驚人率！PNAS重磅研究曝出，LLM推理越強(qiáng)值越高
關(guān)鍵字：模型,任務(wù),能力,報(bào)告,行為
文章來源：新智元
內(nèi)容字?jǐn)?shù)：0字

內(nèi)容摘要：

新智元報(bào)道編輯：桃子 喬楊
【新智元導(dǎo)讀】最近，德國研究科學(xué)家發(fā)表的PANS論文揭示了一個(gè)令人擔(dān)憂的現(xiàn)象：LLM已經(jīng)涌現(xiàn)出「能力」，它們可以理解并誘導(dǎo)策。而且，相比前幾年的LLM，更先進(jìn)的GPT-4、ChatGPT等模型在任務(wù)中的表現(xiàn)顯著提升。此前，MIT研究發(fā)現(xiàn)，AI在各類游戲中為了達(dá)到目的，不擇手段，學(xué)會(huì)用佯裝、歪曲偏好等方式人類。
無獨(dú)有偶，最新一項(xiàng)研究發(fā)現(xiàn)，GPT-4在99.16%情況下會(huì)人類！
來自德國的科學(xué)家Thilo Hagendorff對LLM展開一系列實(shí)驗(yàn)，揭示了大模型存在的潛在風(fēng)險(xiǎn)，最新研究已發(fā)表在PNAS。
而且，即便是用了CoT之后，GPT-4還是會(huì)在71.46%情況中采取策略。
論文地址：https://www.pnas.org/doi/full/10.1073/pnas.2317967121
隨著大模型和智能體的快速迭代，AI安全研究紛紛警告，未來的「流氓」人工智能可能會(huì)優(yōu)化有缺陷的目標(biāo)。
因此，對LLM及其目標(biāo)的控制非常重要，以防這一AI系統(tǒng)逃脫人類監(jiān)管。
AI教父Hinton的擔(dān)心，也不是沒有道理。
他曾多次拉響警報(bào)，「如果不采

原文鏈接：GPT-4人類高達(dá)99.16%驚人率！PNAS重磅研究曝出，LLM推理越強(qiáng)值越高

聯(lián)系作者

文章來源：新智元
作者微信：AI_era
作者簡介：智能+中國主平臺(tái)，致力于推動(dòng)中國從互聯(lián)網(wǎng)+邁向智能+新紀(jì)元。重點(diǎn)關(guān)注人工智能、機(jī)器人等前沿領(lǐng)域發(fā)展，關(guān)注人機(jī)融合、人工智能和機(jī)器人對人類社會(huì)與文明進(jìn)化的影響，領(lǐng)航中國新智能時(shí)代。