圖靈獎得主Bengio親自打分，首份《人工智能安全指數報告》發布，中國一家公司上榜

原標題：圖靈獎得主Bengio親自打分，首份《人工智能安全指數報告》發布，中國一家公司上榜
文章來源：人工智能學家
內容字數：13710字

生命未來研究所發布《人工智能安全指數報告》，Anthropic安全性最高，Meta墊底

生命未來研究所（FLI）近期發布了首份《人工智能安全指數報告》（FLI AI Safety Index 2024），對Anthropic、Google DeepMind、Meta、OpenAI、x.AI和智譜6家公司在人工智能安全方面的實踐進行了評估。報告顯示，雖然Anthropic獲得了最高的安全性評級，但分數僅為“C”，所有公司在安全實踐方面均有提升空間。該報告引發廣泛關注，Max Tegmark在X平臺上直言Anthropic排名第一，Meta排名最后，但強調此舉旨在激勵公司改進。

1. **報告評估維度：**報告從六個關鍵維度評估了這些公司，包括：風險評估、當前危害、安全框架、生存性安全策略、治理和問責制以及透明度和溝通。

2. **風險評估：**OpenAI、Google DeepMind和Anthropic在識別潛在危險方面表現較好，但AGI相關風險尚未被充分理解。Meta對自治、謀劃和說服相關威脅模型的覆蓋不足，智譜和x.AI的風險評估相對薄弱。

3. **當前危害：**Anthropic的人工智能系統在安全性與信任度基準測試中得分最高，Google DeepMind緊隨其后。Meta因公開前沿模型權重而被批評，增加了濫用風險。對抗性攻擊仍然是一個主要問題，OpenAI的模型尤為脆弱。

4. **安全框架：**所有公司都簽署了《前沿人工智能安全承諾》，但只有OpenAI、Anthropic和Google DeepMind公布了相關框架，其中Anthropic的框架最為詳盡。專家強調安全框架需要強有力的外部審查和監督。

5. **生存性安全策略：**Google DeepMind、OpenAI和Anthropic在控制與安全性方面開展了較為嚴肅的研究，但目前沒有公司提出官方策略以確保高級人工智能系統可控并符合人類價值觀。

6. **治理和問責制：**Anthropic在建立負責任的治理結構方面表現突出，而OpenAI最近的變化引發了對安全重要性下降的擔憂。Meta的開放源代碼策略增加了濫用風險，削弱了其問責制。

7. **透明度和溝通：**OpenAI、Google DeepMind和Meta在安全法規游說方面的努力引發了擔憂，而x.AI因支持加強人工智能安全的監管措施而受到表揚。Anthropic在風險溝通和支持行業透明度方面表現突出。

8. **評分方法：**報告基于42項關鍵指標，結合公開信息和公司問卷調查，由專家小組進行評估。評分過程注重結構化標準化評估，也保留了專家專業判斷的靈活性。

9. **報告結論：**報告指出，盡管Anthropic在安全實踐方面表現最佳，但所有公司仍然有很大的改進空間。 這份報告旨在促進人工智能安全領域的進步，而非單純的排名比較。 FLI強調，未來報告可能會關注不同的公司，以反映不斷變化的競爭格局。

10. **未來展望：** 這份報告不僅展現了當前人工智能安全實踐的現狀，也為各公司提供了改進方向，促進行業共同努力，提升人工智能的安全性和可靠性，最終造福人類。

聯系作者

文章來源：人工智能學家
作者微信：
作者簡介：致力成為權威的人工智能科技媒體和前沿科技研究機構