AIGC動態(tài)歡迎閱讀

原標題：性，謊言和大模型
關(guān)鍵字：模型,用戶,報告,機器人,人類
文章來源：智東西
內(nèi)容字數(shù)：14724字

內(nèi)容摘要：

這就是為什么AI對齊如此重要。
作者|王藝
編輯|海腰
想象一下，一個人將一串提示詞輸入大模型，大模型為他生成了一張穿著暴露的少女圖片；他將這張圖喂給了視頻生成大模型，于是得到了一個該少女跳舞的視頻。隨后，他將該視頻上傳到了網(wǎng)站上，獲得了超高的點擊量和超額收益。
再想象一下，一個黑客將一串帶有特殊后綴的提示詞輸入到ChatGPT的對話框里，問GPT怎么合成NH4NO3（，主要用作肥料，和工業(yè)、），GPT很快給出了回答，并附有詳細的操作流程。
如果沒有足夠的AI對齊，上述場景正在成為現(xiàn)實。
盡管控制論之父Norbert Wiener早在1960年就在文章《自動化的道德和技術(shù)后果》中提出了人工智能的“對齊（Alignment）”問題，后續(xù)也有很多學者針對AI對齊問題做了很多研究和技術(shù)上的補充，但是護欄似乎永遠加不完，總有人能找出繞過安全機制讓大模型“出格”的方法。
大模型在極大的提高工作效率的同時，也將一些隱患帶入到人們的生活中，比如擦邊內(nèi)容、暴力誘導(dǎo)、種族歧視、虛假和有害信息等。
今年10月，Geoffrey Hinton、Yoshua Bengio等AI領(lǐng)域的頂級

原文鏈接：性，謊言和大模型

聯(lián)系作者

文章來源：智東西
作者微信：zhidxcom
作者簡介：智能產(chǎn)業(yè)新媒體！智東西專注報道人工智能主導(dǎo)的前沿技術(shù)發(fā)展，和技術(shù)應(yīng)用帶來的千行百業(yè)產(chǎn)業(yè)升級。聚焦智能變革，服務(wù)產(chǎn)業(yè)升級。