曝Bengio新動向：世界模型+數學證明，確保AI系統正常運作

AIGC動態歡迎閱讀

原標題：曝Bengio新動向：世界模型+數學證明，確保AI系統正常運作
關鍵字：模型,世界,風險,系統,人類
文章來源：量子位
內容字數：0字

內容摘要：

西風發自凹非寺量子位 | 公眾號 QbitAI深度學習三巨頭之一Yoshua Bengio的下一步動向公開了，關于AI安全——
加入了一個名為Safeguarded AI（受保護的人工智能）的項目，擔任科學總監。
據介紹，Safeguarded AI旨在：
通過結合科學的世界模型和數學證明，構建一個負責理解和降低其它AI Agent風險的AI系統。
主打的就是一個量化安全保障。
該項目由英國高級研究與發明局（ARIA）提供支持，據說未來ARIA將投入共5900萬英鎊（約合RMB5.37億）。
Bengio表示：
如果你計劃部署某種技術，鑒于AI行為異常或誤用可能帶來非常嚴重的后果，你需要提出充分的理由，最好能提供強有力的數學保證，確保你的AI系統將正常運作。
“受保護的AI”Safeguarded AI項目被劃分為三個技術領域，每個領域都有特定的目標和預算：
支架（Scaffolding），構建一個可擴展、可互操作的語言和平臺，用于維護現實世界模型/規范并檢查證明文件。
機器學習（Machine Learning），使用前沿AI幫助領域專家構建一流的復雜現實世界動力學的數學模型，并

原文鏈接：曝Bengio新動向：世界模型+數學證明，確保AI系統正常運作