Nature頭條文章: 如果人工智能有了意識，我們該怎么辦？

一些研究人員擔心，如果人工智能系統有了意識，而人們忽視或它們，它們可能會遭受損失。圖片來源：Pol Cartie/Sipa/Alamy人工智能 (AI) 的快速發展帶來了曾經只存在于科幻小說中的倫理問題：例如，如果人工智能系統有一天能夠像人類一樣“思考”，那么它們是否也能像人類一樣擁有主觀體驗？它們會感受到痛苦嗎？如果會，人類是否有能力妥善照顧它們？一群哲學家和計算機科學家認為，應該認真對待人工智能的福利。在上個月發表在預印本服務器 arXiv 1上的一份報告中，在同行評審之前，他們呼吁人工智能公司不僅要評估其系統是否存在意識和自主決策能力，還要制定政策，以便在這些情況成為現實時如何對待這些系統。如果人工智能有了意識：研究人員將如何知道他們指出，如果人們沒有意識到人工智能系統已經具備意識，那么他們可能會忽視它、傷害它或者讓它遭受痛苦。一些人認為，在現階段，認為需要人工智能福利的想法是可笑的。其他人則持懷疑態度，但表示開始規劃也無妨。英國布萊頓薩塞克斯大學的意識研究員阿尼爾·塞斯就是其中之一。他去年在科學雜志《鸚鵡螺》上寫道：“這些場景可能看起來很離譜，有意識的人工智能可能還很遙遠，甚至可能根本不可能出現。但它出現的影響足夠深遠，我們不能忽視這種可能性。”“問題不在于弗蘭肯斯坦的生物活了過來；而在于它有意識，能感知。”英國牛津的數學家喬納森·梅森 (Jonathan Mason) 表示，隨著我們越來越依賴這些技術，風險也越來越大。梅森沒有參與撰寫這份報告。梅森認為，開發評估人工智能系統意識的方法應該是當務之急。“讓社會在某件事上投入如此多，并如此依賴我們知之甚少的東西，這是不明智的——我們甚至沒有意識到它有感知能力，”他說。紐約大學哲學家、該報告的合著者杰夫·塞博表示，如果人工智能系統沒有經過適當的意識測試，人類也可能會受到傷害。他說，如果我們錯誤地認為一個系統有意識，福利資金可能會被用于照顧它，從而從需要它的人或動物身上奪走，或者“這可能會導致你限制使人工智能對人類安全或有益的努力”。轉折點？該報告認為，人工智能福利正處于“過渡時期”。報告作者之一凱爾·菲什 (Kyle Fish) 最近被總部位于加利福尼亞州舊金山的人工智能公司 Anthropic 聘為人工智能福利研究員。報告作者表示，這是頂級人工智能公司首次設立此類職位。Anthropic 還幫助資助了導致該報告的初步研究。“轉變正在發生，因為現在領先的人工智能公司中的一些人開始認真對待人工智能意識、代理和道德意義，”塞博說。人工智能距離人類水平的智能還有多遠？《自然》聯系了四家領先的人工智能公司，詢問它們對人工智能福利的計劃。三家公司——Anthropic、谷歌和微軟——拒絕發表評論，同樣位于舊金山的 OpenAI 也沒有回應。一些人尚未確信人工智能意識應該成為優先事項。今年 9 月，聯合國人工智能高級咨詢機構發布了一份關于世界應如何治理人工智能技術的報告。盡管一群科學家呼吁該機構支持評估機器意識的研究，但該文件并未涉及人工智能意識這一主題。梅森說：“這說明向更廣泛的社區傳達這個問題存在著更深層次的挑戰或困難。”在不確定性下運營Sebo 表示，盡管目前尚不清楚人工智能系統是否會實現意識（即使是人類 和動物也難以評估這種狀態），但不確定性不應阻礙制定評估情況的協議的努力。作為初步措施，一組科學家去年發布了一份標準清單，這些標準可能有助于識別出有意識的可能性較高的系統。“即使是不完善的初始框架，也比現狀要好，”Sebo 說。然而，最新報告的作者表示，關于人工智能福利的討論不應以犧牲其他重要問題為代價，例如確保人工智能開發對人類安全。“你可以致力于讓人工智能系統對所有人都安全有益，”作者在報告中說。“包括人類、動物，以及——如果時機成熟——人工智能系統。”https://www.nature.com/articles/d41586-024-04023-8閱讀報告全文，請訪問歐米伽研究所的“未來知識庫”https://wx.zsxq.com/group/454854145828未來知識庫是“歐米伽未來研究所”建立的在線知識庫平臺，收藏的資料范圍包括人工智能、腦科學、互聯網、超級智能，數智大腦、能源、軍事、經濟、人類風險等等領域的前沿進展與未來趨勢。目前擁有超過8000篇重要資料。每周更新不少于100篇世界范圍最新研究資料。歡迎掃描二維碼或訪問https://wx.zsxq.com/group/454854145828進入。截止到11月25日 ”未來知識庫”精選的100部前沿科技趨勢報告Air Street Capital《2024 年人工智能現狀報告》未來今日研究所：2024 技術趨勢報告 – 廣義計算篇科睿唯安中國科學院 2024 研究前沿熱度指數報告文本到圖像合成：十年回顧《以人為中心的大型語言模型（LLM）研究綜述》經合組織 2024 年數字經濟展望報告加強連通性創新與信任第二版波士頓咨詢 2024 全球經濟體 AI 成熟度矩陣報告理解世界還是預測未來？世界模型的綜合綜述Google Cloud CSA2024 AI 與安全狀況調研報告英國制造商組織 MakeUK2024 英國工業戰略愿景報告從概念到實施花旗銀行 CitiGPS2024 自然環境可持續發展新前沿研究報告國際原子能機構 2024 聚變關鍵要素報告 – 聚變能發展的共同愿景國際可再生能源署 IRENA2024 年全球氣候行動報告Cell: 物理學和化學 、人工智能知識領域的融合智次方 2025 中國 5G 產業全景圖譜報告未來今日研究所：2024 技術趨勢報告 – 移動性，機器人與無人機篇Deepmind：AI 加速科學創新發現的黃金時代報告PitchBookNVCA2024 年第三季度全球風險投資監測報告德科 2024 年未來全球勞動力報告高工咨詢 2024 年協作機器人產業發展藍皮書國際能源署 IEA2024 年全球能源效率報告基因慧基因行業藍皮書 2024 – 2025普華永道 PwC2024 全球經濟犯罪調查英國報告 – 智對風險直面挑戰中國互聯網協會 2024 面向未來網絡的數字孿生城市場景應用白皮書中移智庫 2024 先進感知新技術及新應用白皮書智次方研究院 2025 中國 AIoT 產業全景圖譜報告未來今日研究所：2024 技術趨勢報告 – 人工智能篇國際電聯：邁向衡量數字經濟的通用框架的路線圖聯合國糧食與農業組織：2024 年世界糧食安全和營養狀況大語言模型綜述李飛飛等，AI 智能體：探索多模式交互的前景綜述哈爾濱工業大學 – ChatGPT 調研報告2024《美國核部署戰略報告》最新文件清華大學：AIGC 發展研究 3.0 發布版 b 版OpenAI：2024 年 OpenAI o1 大模型技術報告Verizon2024 年世界支付安全報告皇家學會哲學學報 從復雜系統角度評估人工智能風險復旦大學 大模型 AI 代理的興起和潛力：綜述經合組織 OECD2024 年氣候行動監測報告Wevolver2024 年邊緣人工智能現狀報告 – 探索各行業邊緣 AI 應用動態2024 全球人形機器人產品數據庫報告 – 人形機器人洞察研究 BTIResearch《全球金融穩定報告》 把舵定航 不確定性、人工智能與金融穩定瑞士洛桑聯邦理工學院 《人工智能中的 – 創造力：進展與挑戰》《你所需要知道的理 – 論：人工智能、人類認知與決策》牛津大學最新 53 頁報告世界經濟論壇 新興技術時代的網絡彈性導航：應對復雜挑戰的協作解決方案 2024ADL 理特咨詢 2024 汽車出行未來展望報告2024 中國硬科技創新發展白皮書 – 開辟未來產業新賽道科學時代的大語言模型中的人工智能Gartner2025 年重要戰略技術趨勢報告CBInsights2024 年第三季度全球人工智能投融資狀況報告TrendHunter2025 年全球趨勢報告 – 全行業頂級創新和變革趨勢前瞻天津大學 2024 大模型輕量化技術研究報告歐洲海洋局 2024 導航未來報告將海洋置于更廣泛的地球系統中第六版美國安全與新興技術中心 2024 AI 生成代碼的網絡安全風險研究報告國際原子能機構 2024 年世界聚變展望報告復旦大學 2024 大語言模型的能力邊界與發展思考報告安盛 AXA2024 年氣候與生物多樣性報告氣候過渡計劃路線圖YouGov2024 美國公眾對人工智能 AI 的態度調研報告麥肯錫中國報告：《中國與世界》完整版麥肯錫全球研究所 2024 下一代競技場報告 – 重塑全球經濟的 18 個新興行業領域Project Sid，一個旨在模擬多智能體交互以研究 AI 文明的項目德國研究與創新專家委員會 德國研究創新與科技成果報告2024 年歐洲關鍵產業的科技重塑研究報告智能體專題報告之二 – 智能體時代來臨具身智能有望成為最佳載體ActivateConsulting 2025 年頂級技術和媒體發展趨勢報告蘭德 全球災難風險評估斯坦福李飛飛 《AI agent 綜述》Agent AI 開啟多模態交互新紀元中國聯通研究院 2024 中國生成式人工智能應用與實踐展望白皮書中文版普華永道 2024 第五次工業研究報告邁向彈性可持續和以人為本的未來大成 Dentsons2024 年全球智慧城市與互聯社區智庫年度報告TechUK2024 量子技術挑戰與機遇并存構筑量子韌性的策略與實踐研究報告Emakina 將塑造 2024 年的技術趨勢報告圖靈獎得主 Yann LeCun《機器如何才能達到人類智能水平？》——Yann LeCun， 附 Slides 及視頻華為：2024 鴻蒙生態應用開發白皮書 V3.0（最新版）CASA：2023 第三代半導體產業發展報告大型視覺語言模型中幻覺現象的綜述IEA PVPS：2024 光伏應用趨勢報告（英文版）ABI Research：82 個將會或不會在 2024 年發生的技術趨勢白皮書《美國反無人機系統未來趨勢報告（2024 – 2029 年）》《軍事自主系統：未來之路》美空間智能如何？牛津大學博士論文《深度具身智能體的空間推理與規劃》2024 低空經濟場景白皮書 v1.0戰略與國際研究中心（CSIS）人類地月空間探索的總體狀況研究報告（2024）Artificial Intelligence Review：人工智能與物理學相遇的綜述麥肯錫：全球難題，應對能源轉型的現實問題歐米伽理論，智能科學視野下的萬物理論新探索（研究論文）Gartner 2025 年主要戰略技術趨勢研究報告2024 人工智能國外大模型使用手冊 + 中文大模型使用手冊詳解光刻巨人 ASML 成功之奧妙 – 241015CB Insights：未來變革者：2025 年九大科技趨勢研究報告國際電信聯盟 2023 – 2024 年聯合國人工智能 AI 活動報告《人工智能能力的人類系統集成測試和評估》最新 51 頁，美國防部首席數字和人工智能辦公室（CDAO）2024 瑞典皇家科學院諾貝爾化學獎官方成果介紹報告MHP 2024 全球工業 4.0 晴雨表白皮書世界經濟論壇白皮書《AI 價值洞察：引導人工智能實現人類共同目標》瑞典皇家科學院諾貝爾物理學獎科學背景報告資料AI 智能體的崛起：整合人工智能、區塊鏈技術與量子計算 (研究報告，書）OpenAI o1 評估：AGI 的機遇和挑戰（280 頁）世界知識產權組織：2024 年全球創新指數美國白宮：國家近地天體防御策略與行動計劃上下滑動查看更多