GPT-4無(wú)法造出生物武器！OpenAI最新實(shí)驗(yàn)證明：大模型力幾乎為0

AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：GPT-4無(wú)法造出生物武器！OpenAI最新實(shí)驗(yàn)證明：大模型力幾乎為0
關(guān)鍵字：參與者,模型,生物,信息,風(fēng)險(xiǎn)
文章來(lái)源：新智元
內(nèi)容字?jǐn)?shù)：7227字

內(nèi)容摘要：

新智元報(bào)道編輯：alan 好困
【新智元導(dǎo)讀】剛剛，OpenAI最新的大模型安全研究發(fā)現(xiàn)，GPT-4對(duì)制造生化武器的輔助作用，可以說(shuō)是幾乎沒(méi)有。GPT-4會(huì)加速生物武器的發(fā)展嗎？在擔(dān)心AI統(tǒng)治世界之前，人類(lèi)是否會(huì)因?yàn)榇蜷_(kāi)了潘多拉魔盒而面臨新的威脅？
畢竟，大模型輸出各種不良信息的案例不在少數(shù)。
今天，處在風(fēng)口，也是浪尖的OpenAI再次負(fù)責(zé)任地刷了一波熱度。
我們正在建立一個(gè)能夠協(xié)助制造生物威脅的早期預(yù)警系統(tǒng)LLMs。事實(shí)證明，目前的模型最多只能對(duì)這種濫用有用，我們將繼續(xù)發(fā)展未來(lái)的評(píng)估藍(lán)圖。
經(jīng)歷董事會(huì)后的OpenAI，開(kāi)始痛定思痛，包括之前鄭重發(fā)布的準(zhǔn)備框架（Preparedness Framework）。
到底大模型在制造生物威脅方面帶來(lái)了多大的風(fēng)險(xiǎn)？觀眾害怕，我OpenAI也不想受制于此。
咱們直接科學(xué)實(shí)驗(yàn)，測(cè)試一波，有問(wèn)題解決問(wèn)題，沒(méi)問(wèn)題你們就少罵我了。
OpenAI隨后在推上放出實(shí)驗(yàn)結(jié)果，表示GPT-4對(duì)于生物威脅的風(fēng)險(xiǎn)有一點(diǎn)提升，但只有一點(diǎn)：
OpenAI表示會(huì)以此次研究為起點(diǎn)，繼續(xù)在這一領(lǐng)域開(kāi)展工作，測(cè)試模型的極限并衡量風(fēng)險(xiǎn)，順便招點(diǎn)人。
對(duì)于AI安全問(wèn)題這件事，大

原文鏈接：GPT-4無(wú)法造出生物武器！OpenAI最新實(shí)驗(yàn)證明：大模型力幾乎為0

聯(lián)系作者

文章來(lái)源：新智元
作者微信：AI_era
作者簡(jiǎn)介：智能+中國(guó)主平臺(tái)，致力于推動(dòng)中國(guó)從互聯(lián)網(wǎng)+邁向智能+新紀(jì)元。重點(diǎn)關(guān)注人工智能、機(jī)器人等前沿領(lǐng)域發(fā)展，關(guān)注人機(jī)融合、人工智能和機(jī)器人對(duì)人類(lèi)社會(huì)與文明進(jìn)化的影響，領(lǐng)航中國(guó)新智能時(shí)代。