原標題：奧特曼驚呼奇點臨近！95%人類飯碗將被AI搶走，2028年百萬AI上崗
文章來源：新智元
內容字數：12272字

AGI臨近：95%人類工作或將被取代？

近期，OpenAI CEO奧特曼和谷歌文檔之父等業內人士接出意味深長的信號，引發了新一輪關于AGI（通用人工智能）的討論和擔憂。文章的核心觀點是：AGI的臨近可能導致95%以上的人類工作被取代，同時帶來巨大的經濟增長或災難性風險。

1. AGI臨近的信號與預測

奧特曼的“奇點臨近；不知身處何方”的六字箴言，以及OpenAI安全研究員的感慨，都暗示著AGI的快速發展。谷歌文檔之父Steve Newman預測，AGI將取代95%的人類工作，包括未來新創造的工作。Apollo Research聯創Marius Hobbhahn則給出了更具體的AGI時間表，預測2027年AI將取代頂級AI研究員，2028年AI公司將擁有大量自動化AI研究員，大部分知識型工作將被自動化，2029年95%以上經濟價值的任務將被AI自動化。

2. AGI的定義與潛在影響

Newman認為，AGI指的是AI能夠以成本效益的方式取代超95%經濟活動中的人類，包括未來新創造的工作。這將是世界顯著改變的時刻。AGI的實現可能帶來以下影響：

1. 經濟超增長：AI推動科學和工程快速進步，大幅降低任務成本，提高決策效率，甚至使GDP一年內翻倍。
2. 災難性風險：AI可能引發毀滅性網絡攻擊、致命流行病，或被用于加強統治，甚至失控摧毀人類。
3. 人類淘汰（經濟領域）：AI可能終結資源稀缺，但前提是公平分配資源。
4. 技術突破：AI可能實現治愈衰老、太空殖民等科幻技術。

Newman強調，“可能發生”不等于“肯定發生”。技術突破可能變難，“奇點”不一定會出現。人類可能更傾向于人際互動，從而不會完全被AI取代。

3. AGI實現的條件與閾值效應

文章指出，經濟超增長需要AI能夠完成幾乎所有經濟活動，并能適應工作環境，而非反過來調整工作適應AI。 Dean Ball提出的“閾值效應”指出，技術進步可能在達到某個關鍵閾值時，突然引發巨大影響。對于AGI而言，這個閾值就是AI能夠完成幾乎所有經濟價值任務，且無需調整任務來適應自動化。

4. 實現AGI的策略與挑戰

Hobbhahn認為，AGI研發需要明確的風險評估、多層次防御和計劃一致性。他強調了“忠實且人類可讀的CoT（思維鏈）”的重要性，建議更多地關注模型推理過程的可理解性和可監控性，并減少“移除CoT”的研究。他提出了一系列監控模型和控制模型的策略，包括使用黑箱和白箱，以及對模型“圖謀”行為的研究和評估。

文章最后總結，目前對如何實現AGI，研究者們幾乎沒有頭緒，各種流派爭論不休。但無論如何，AGI的潛在影響巨大，需要謹慎對待，并積極探索安全可控的研發路徑。

聯系作者

文章來源：新智元
作者微信：
作者簡介：智能+中國主平臺，致力于推動中國從互聯網+邁向智能+新紀元。重點關注人工智能、機器人等前沿領域發展，關注人機融合、人工智能和機器人對人類社會與文明進化的影響，領航中國新智能時代。