谷歌起草“機器人憲法”，以確保 AI 機器人不會傷害人類

AIGC動態(tài)歡迎閱讀

原標(biāo)題：谷歌起草“機器人憲法”，以確保 AI 機器人不會傷害人類
關(guān)鍵字：報告,機器人,系統(tǒng),模型,任務(wù)
文章來源：人工智能學(xué)家
內(nèi)容字?jǐn)?shù)：2370字

內(nèi)容摘要：

來源：工業(yè)機器人
隨著機器人在生活、工作中的普及，機器人與人的協(xié)調(diào)共生、安全共存愈發(fā)引起大家的關(guān)注。谷歌DeepMind機器人團隊2024年1月4日公布了三項新進展，稱這些進展將幫助機器人在做出更快、更好、更安全的決策。此次更新引入了AutoRT、SARA-RT和RT-Trajectory三個系統(tǒng)，分別改進了機器人的數(shù)據(jù)收集、速度和泛化。其中較為引人注目的是，DeepMind起草了“機器人憲法”，并將其引入數(shù)據(jù)收集系統(tǒng)AutoRT，以確保機器人助理不會傷害到人類。“機器人憲法”的靈感來自美國科幻小說家艾薩克·阿西莫夫（Isaac Asimov）提出的“機器人三定律”，它被描述為一組“以安全為重點的提示”，指示LLM避免選擇涉及人類、動物、尖銳物體甚至電器的任務(wù)。AutoRT是一個數(shù)據(jù)收集系統(tǒng)，幫助訓(xùn)練機器人適應(yīng)現(xiàn)實世界，它具有安全護欄。
機器人憲法
AutoRT是一個數(shù)據(jù)收集系統(tǒng)，可以使用視覺語言模型（VLM）和大型語言模型（LLM）協(xié)同工作，以了解環(huán)境、適應(yīng)陌生環(huán)境、并決定適當(dāng)?shù)娜蝿?wù)。
該系統(tǒng)設(shè)有安全護欄，其中之一是為其決策者提供“機器人憲法”——一套以安全為重點的提示，以便在為機器

原文鏈接：谷歌起草“機器人憲法”，以確保 AI 機器人不會傷害人類

聯(lián)系作者

文章來源：人工智能學(xué)家
作者微信：AItists
作者簡介：致力成為權(quán)威的人工智能科技媒體和前沿科技研究機構(gòu)