全球關注！Bengio評選揭曉：首份《人工智能安全指數報告》中國公司驚艷上榜！

原標題：圖靈獎得主Bengio親自打分，首份《人工智能安全指數報告》發布，中國一家公司上榜
文章來源：人工智能學家
內容字數：13710字

人工智能安全性報告概述

近年來，人工智能（AI）行業的安全問題備受關注，尤其是在大型語言模型（LLM）如GPT-4問世后，業內專家呼吁暫停更強大模型的訓練。生命未來研究所（Future of Life Institute）發起了一封公開信，數千人支持，包括馬斯克在內的眾多專家均參與其中。

安全指數報告發布

生命未來研究所日前發布了《人工智能安全指數報告》（FLI AI Safety Index 2024），評估了六家主要AI公司的安全實踐。這些公司包括Anthropic、Google DeepMind、Meta、OpenAI、x.AI和智譜。盡管Anthropic獲得了最高的安全評級，但其分數僅為“C”，顯示出整體安全實踐仍有提升空間。

評估維度與結果

報告從六個關鍵維度評估了這些公司的安全性：風險評估、當前危害、安全框架、生存性安全策略、治理和問責制、以及透明度與溝通。各維度的評估結果如下：

1. 風險評估：OpenAI、Google DeepMind和Anthropic在識別潛在危險方面表現較好，但仍有局限。

2. 當前危害：Anthropic的系統在安全中表現最佳，而Meta因開放模型權重受到批評。

3. 安全框架：僅OpenAI、Anthropic和Google DeepMind公布了相關框架，Anthropic的框架內容最為詳盡。

4. 生存性安全策略：只有Google DeepMind、OpenAI和Anthropic進行了嚴肅的研究，其他公司缺乏有效策略。

5. 治理和問責制：Anthropic在治理結構方面的努力受到認可，而OpenAI的近期變化引發安全重要性下降的擔憂。

6. 透明度和溝通：所有公司在透明度方面均有待提高，特別是x.AI在風險評估信息共享方面表現不足。

評估過程與方法

在評估過程中，研究團隊使用了42項關鍵指標，確保評估的科學性與可靠性。評審專家根據絕對標準為公司打分，并提供改進建議，以促進未來的安全標準提升。

總結與展望

這份報告強調了AI行業在安全性方面的緊迫性，鼓勵公司采取更強有力的措施，以提高人工智能的安全性與可信度。隨著技術的發展，AI的安全治理將成為一個持續關注的焦點。

聯系作者

文章來源：人工智能學家
作者微信：
作者簡介：致力成為權威的人工智能科技媒體和前沿科技研究機構