AI安全問題刻不容緩。

原標題：Bengio參與的首個《AI安全指數報告》出爐，最高分僅C、國內一家公司上榜
文章來源：機器之心
內容字數：8542字

人工智能安全話題引發關注

隨著大型語言模型（LLM）如GPT-4的出現，人工智能（AI）行業的安全問題受到越來越多的關注。專家們呼吁暫停訓練比GPT-4更強大的模型，生命未來研究所（Future of Life Institute）發起了一封公開信，得到了包括馬斯克在內的數千人的支持。該機構致力于引導技術變革以造福人類，同時避免大規模風險。

AI安全指數報告發布

生命未來研究所邀請了多位人工智能和治理專家，評估6家人工智能公司的安全實踐，并發布了《人工智能安全指數報告》（FLI AI Safety Index 2024）。報告顯示，盡管Anthropic公司獲得了最高的安全性評級，但所有公司在安全實踐方面仍有提升空間。

安全評估的六大維度

評審專家從六大維度評估各家公司：風險評估、當前危害、安全框架、生存性安全策略、治理和問責制、透明度和溝通。

1. 風險評估：OpenAI、Google DeepMind和Anthropic在潛在危險識別方面表現突出，但仍有局限性。
2. 當前危害：Anthropic在安全性基準測試中得分最高，Meta因模型權重公開受到批評。
3. 安全框架：僅有OpenAI、Anthropic和Google DeepMind公布了安全框架，Anthropic的框架內容最為詳盡。
4. 生存性安全策略：僅有三家公司在控制與安全性方面進行了嚴肅研究，現有策略仍顯不足。
5. 治理和問責制：Anthropic在治理結構方面的努力獲得好評，但OpenAI的營利模式引發了安全擔憂。
6. 透明度和溝通：所有公司在透明度方面均有待提高，尤其是x.AI的風險評估信息共享不足。

專家評分與改進建議

評分過程中，專家組依據42項關鍵指標進行評估，確保評價的科學性與可靠性。報告不僅展示了當前安全實踐的現狀，還提出了可行的改進方向，旨在激勵公司在未來達成更高的安全標準。

聯系作者

文章來源：機器之心
作者微信：
作者簡介：專業的人工智能媒體和產業服務平臺