Yoshua Bengio獨家專訪：我不想把大模型未來押注在Scaling Law上，AGI路上要“注意安全”

AIGC動態1年前 (2024)發布人工智能學家

AIGC動態歡迎閱讀

原標題：Yoshua Bengio獨家專訪：我不想把大模型未來押注在Scaling Law上，AGI路上要“注意安全”
關鍵字：神經網絡,人類,模型,問題,人工智能
文章來源：人工智能學家
內容字數：26155字

內容摘要：

來源：智源社區
導讀漫長的30年間，數度從主流方向的超然出走，是Bengio的制勝秘訣。這種不盲從主流的風格體現在他研究生涯的方方面面。
90年代末期，神經網絡被打入冷宮，Bengio的論文多次遭拒，連學生們也開始擔心，和他一起研究神經網絡會導致畢業后找不到工作。
“那場有關神經網絡的文化沙漠可能‘勸退’了很多研究者，但我有點固執，堅信我們應該堅持下去。”而時過境遷，如今神經網絡早已成為主流，審稿人的看法也發生了翻天覆地的變化。
此時，Bengio卻已經開始研究新方向，尋找新問題。“我認為不能把所有雞蛋放在一個籃子里，我們應該探索更多不同的方法。在過去的七年里，我一直在努力探索當前神經網絡方法的局限性，這樣才能讓未來的人工智能具備當前缺乏的能力。”
談及現如今Scaling Law催生的模型性能大爆發，Bengio依然保持著客觀審慎的思考，他認為“Scaling Law并不是理論定律，只是基于經驗性觀察總結的規律。為了解決大模型目前存在的問題，我們需要探索Scaling Law之外的新方法。”
在OpenAI等巨頭紛紛為AGI的到來摩拳擦掌之時，Bengio更關心的是如何應對AI對人類

原文鏈接：Yoshua Bengio獨家專訪：我不想把大模型未來押注在Scaling Law上，AGI路上要“注意安全”