OpenAI首席科學家：尋找方法控制超級人工智能

AIGC動態歡迎閱讀

原標題：OpenAI首席科學家：尋找方法控制超級人工智能

關鍵字：人工智能,報告,模型,研究人員,系統

文章來源：人工智能學家

內容字數：4769字

內容摘要：來源：科技世代千高原早在OpenAI成立之初，便承諾構建有益于全人類的人工智能，即使這些人工智能有可能比其創造者更聰明。自ChatGPT首次亮相以來，OpenAI的商業野心逐漸凸顯。最近，該公司宣布成立了一個致力于研究未來超級人工智能的新研究團隊，并已經開始取得一些成果。OpenAI的研究人員利奧波德·阿森布倫納（Leopold Aschenbrenner）指出：“通用人工智能（AGI）正在迅速接近，我們將看到具有巨大能力但也可能非常危險的超智能模型，而我們還沒有找到控制它們的方法。”他參與了今年7月成立的“超級對齊”（Superalignment）研究團隊。OpenAI表示，將把其可用算力的五分之一用于“超級對齊”項目，以探索如何確保超級人工智能的安全性和可控性。OpenAI最近發布了一篇研究論文，介紹了一項實驗結果。該實驗旨在測試一種方法，讓一個較差的人工智能模型在不降低智能的情況下指…

原文鏈接：點此閱讀原文：OpenAI首席科學家：尋找方法控制超級人工智能

聯系作者

文章來源：人工智能學家

作者微信：AItists

作者簡介：致力成為權威的人工智能科技媒體和前沿科技研究機構