美國務院委托報告：AI或帶來滅絕威脅，應禁止大規模AI訓練

AIGC動態歡迎閱讀

原標題：美國務院委托報告：AI或帶來滅絕威脅，應禁止大規模AI訓練
關鍵字：報告,政策,美國,芯片,模型
文章來源：AI范兒
內容字數：3490字

內容摘要：

點擊上方藍字關注我們“美國委托的報告警告，人工智能（AI）發展可能對國家安全構成“滅絕級威脅”。報告建議立法禁止高計算能力的AI模型訓練，并要求AI公司在新模型訓練和部署時獲得許可。此外，提議禁止公布強大AI模型的內部工作機制，并對AI芯片制造和出口實施更嚴格控制。這些措施旨在防止AI技術的潛在濫用，并確保全球安全。美國面臨著來自人工智能（AI）帶來的國家安全風險，這些風險可能在最極端的情況下構成“滅絕級威脅”。這是根據美國委托并于本周一發布的一份報告所警告的。
報告指出，當前的AI前沿開發正對國家安全構成緊迫且不斷增長的威脅，并認為先進AI和通用人工智能（AGI）的發展可能會對全球安全造成破壞，類似于核武器的問世。盡管AGI尚未問世，但頂尖的AI實驗室正在努力朝這個目標邁進，許多人預計在未來五年內或更短的時間內可能實現。
報告的作者們花費了一年多的時間與200多位官員、專家以及前沿AI公司的員工進行了交流，包括OpenAI、谷歌DeepMind、Anthropic和Meta等公司。一些交流內容揭示了一個令人不安的現實：許多在尖端實驗室工作的AI安全人員擔心，公司高

原文鏈接：美國務院委托報告：AI或帶來滅絕威脅，應禁止大規模AI訓練

聯系作者

文章來源：AI范兒
作者微信：AI_Insights
作者簡介：AI領域四大媒體之一。 智能未來，始于Prompt！