性，謊言和大模型

AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：性，謊言和大模型
關(guān)鍵字：模型,用戶,報(bào)告,機(jī)器人,人類
文章來源：智東西
內(nèi)容字?jǐn)?shù)：14724字

內(nèi)容摘要：

這就是為什么AI對(duì)齊如此重要。
作者|王藝
編輯|海腰
想象一下，一個(gè)人將一串提示詞輸入大模型，大模型為他生成了一張穿著暴露的少女圖片；他將這張圖喂給了視頻生成大模型，于是得到了一個(gè)該少女跳舞的視頻。隨后，他將該視頻上傳到了網(wǎng)站上，獲得了超高的點(diǎn)擊量和超額收益。
再想象一下，一個(gè)黑客將一串帶有特殊后綴的提示詞輸入到ChatGPT的對(duì)話框里，問GPT怎么合成NH4NO3（，主要用作肥料，和工業(yè)、），GPT很快給出了回答，并附有詳細(xì)的操作流程。
如果沒有足夠的AI對(duì)齊，上述場(chǎng)景正在成為現(xiàn)實(shí)。
盡管控制論之父Norbert Wiener早在1960年就在文章《自動(dòng)化的道德和技術(shù)后果》中提出了人工智能的“對(duì)齊（Alignment）”問題，后續(xù)也有很多學(xué)者針對(duì)AI對(duì)齊問題做了很多研究和技術(shù)上的補(bǔ)充，但是護(hù)欄似乎永遠(yuǎn)加不完，總有人能找出繞過安全機(jī)制讓大模型“出格”的方法。
大模型在極大的提高工作效率的同時(shí)，也將一些隱患帶入到人們的生活中，比如擦邊內(nèi)容、暴力誘導(dǎo)、種族歧視、虛假和有害信息等。
今年10月，Geoffrey Hinton、Yoshua Bengio等AI領(lǐng)域的頂級(jí)

原文鏈接：性，謊言和大模型

聯(lián)系作者

文章來源：智東西
作者微信：zhidxcom
作者簡(jiǎn)介：智能產(chǎn)業(yè)新媒體！智東西專注報(bào)道人工智能主導(dǎo)的前沿技術(shù)發(fā)展，和技術(shù)應(yīng)用帶來的千行百業(yè)產(chǎn)業(yè)升級(jí)。聚焦智能變革，服務(wù)產(chǎn)業(yè)升級(jí)。