全球關(guān)注！Bengio評選揭曉：首份《人工智能安全指數(shù)報告》中國公司驚艷上榜！

原標題：圖靈獎得主Bengio親自打分，首份《人工智能安全指數(shù)報告》發(fā)布，中國一家公司上榜
文章來源：人工智能學(xué)家
內(nèi)容字數(shù)：13710字

人工智能安全性報告概述

近年來，人工智能（AI）行業(yè)的安全問題備受關(guān)注，尤其是在大型語言模型（LLM）如GPT-4問世后，業(yè)內(nèi)專家呼吁暫停更強大模型的訓(xùn)練。生命未來研究所（Future of Life Institute）發(fā)起了一封公開信，數(shù)千人支持，包括馬斯克在內(nèi)的眾多專家均參與其中。

安全指數(shù)報告發(fā)布

生命未來研究所日前發(fā)布了《人工智能安全指數(shù)報告》（FLI AI Safety Index 2024），評估了六家主要AI公司的安全實踐。這些公司包括Anthropic、Google DeepMind、Meta、OpenAI、x.AI和智譜。盡管Anthropic獲得了最高的安全評級，但其分數(shù)僅為“C”，顯示出整體安全實踐仍有提升空間。

評估維度與結(jié)果

報告從六個關(guān)鍵維度評估了這些公司的安全性：風(fēng)險評估、當(dāng)前危害、安全框架、生存性安全策略、治理和問責(zé)制、以及透明度與溝通。各維度的評估結(jié)果如下：

1. 風(fēng)險評估：OpenAI、Google DeepMind和Anthropic在識別潛在危險方面表現(xiàn)較好，但仍有局限。

2. 當(dāng)前危害：Anthropic的系統(tǒng)在安全中表現(xiàn)最佳，而Meta因開放模型權(quán)重受到批評。

3. 安全框架：僅OpenAI、Anthropic和Google DeepMind公布了相關(guān)框架，Anthropic的框架內(nèi)容最為詳盡。

4. 生存性安全策略：只有Google DeepMind、OpenAI和Anthropic進行了嚴肅的研究，其他公司缺乏有效策略。

5. 治理和問責(zé)制：Anthropic在治理結(jié)構(gòu)方面的努力受到認可，而OpenAI的近期變化引發(fā)安全重要性下降的擔(dān)憂。

6. 透明度和溝通：所有公司在透明度方面均有待提高，特別是x.AI在風(fēng)險評估信息共享方面表現(xiàn)不足。

評估過程與方法

在評估過程中，研究團隊使用了42項關(guān)鍵指標，確保評估的科學(xué)性與可靠性。評審專家根據(jù)絕對標準為公司打分，并提供改進建議，以促進未來的安全標準提升。

總結(jié)與展望

這份報告強調(diào)了AI行業(yè)在安全性方面的緊迫性，鼓勵公司采取更強有力的措施，以提高人工智能的安全性與可信度。隨著技術(shù)的發(fā)展，AI的安全治理將成為一個持續(xù)關(guān)注的焦點。

聯(lián)系作者

文章來源：人工智能學(xué)家
作者微信：
作者簡介：致力成為權(quán)威的人工智能科技媒體和前沿科技研究機構(gòu)