AIGC動態歡迎閱讀

原標題：GPT-4無法造出生物武器！OpenAI最新實驗證明：大模型力幾乎為0
關鍵字：參與者,模型,生物,信息,風險
文章來源：新智元
內容字數：7227字

內容摘要：

新智元報道編輯：alan 好困
【新智元導讀】剛剛，OpenAI最新的大模型安全研究發現，GPT-4對制造生化武器的輔助作用，可以說是幾乎沒有。GPT-4會加速生物武器的發展嗎？在擔心AI統治世界之前，人類是否會因為打開了潘多拉魔盒而面臨新的威脅？
畢竟，大模型輸出各種不良信息的案例不在少數。
今天，處在風口，也是浪尖的OpenAI再次負責任地刷了一波熱度。
我們正在建立一個能夠協助制造生物威脅的早期預警系統LLMs。事實證明，目前的模型最多只能對這種濫用有用，我們將繼續發展未來的評估藍圖。
經歷董事會后的OpenAI，開始痛定思痛，包括之前鄭重發布的準備框架（Preparedness Framework）。
到底大模型在制造生物威脅方面帶來了多大的風險？觀眾害怕，我OpenAI也不想受制于此。
咱們直接科學實驗，測試一波，有問題解決問題，沒問題你們就少罵我了。
OpenAI隨后在推上放出實驗結果，表示GPT-4對于生物威脅的風險有一點提升，但只有一點：
OpenAI表示會以此次研究為起點，繼續在這一領域開展工作，測試模型的極限并衡量風險，順便招點人。
對于AI安全問題這件事，大

原文鏈接：GPT-4無法造出生物武器！OpenAI最新實驗證明：大模型力幾乎為0

聯系作者

文章來源：新智元
作者微信：AI_era
作者簡介：智能+中國主平臺，致力于推動中國從互聯網+邁向智能+新紀元。重點關注人工智能、機器人等前沿領域發展，關注人機融合、人工智能和機器人對人類社會與文明進化的影響，領航中國新智能時代。