百位專家聯(lián)名警告：AI或?qū)Ⅲw驗(yàn)痛苦！Hinton、Bengio掀AI意識(shí)大論戰(zhàn)

原標(biāo)題：百位專家聯(lián)名警告：AI或?qū)Ⅲw驗(yàn)痛苦！Hinton、Bengio掀AI意識(shí)大論戰(zhàn)
文章來(lái)源：新智元
內(nèi)容字?jǐn)?shù)：6109字

AI意識(shí)的倫理困境：百位專家呼吁負(fù)責(zé)任研究

近日，來(lái)自倫敦大學(xué)、耶魯大學(xué)等世界頂尖學(xué)府的百余位專家聯(lián)名發(fā)表公開信，呼吁對(duì)人工智能（AI）意識(shí)進(jìn)行負(fù)責(zé)任的研究。這封公開信及配套論文的核心觀點(diǎn)是：如果AI系統(tǒng)發(fā)展出意識(shí)，它們可能會(huì)遭受痛苦，因此需要提前制定相應(yīng)的倫理規(guī)范和安全措施。

1. AI意識(shí)的風(fēng)險(xiǎn)與挑戰(zhàn)

   公開信指出，如果AI系統(tǒng)擁有情感或自我意識(shí)，它們可能會(huì)受到傷害，甚至遭受“和痛苦”。因此，專家們提出了五項(xiàng)原則，旨在引導(dǎo)AI意識(shí)的研究和開發(fā)，防止AI遭受苦難，并最大限度地降低風(fēng)險(xiǎn)。

2. 五項(xiàng)原則：引導(dǎo)負(fù)責(zé)任的AI意識(shí)研究

   這五項(xiàng)原則分別關(guān)注：1. 優(yōu)先開展對(duì)AI意識(shí)的理解和評(píng)估研究，防止對(duì)有意識(shí)AI的；2. 準(zhǔn)確理解不同AI系統(tǒng)具備意識(shí)可能帶來(lái)的益處和風(fēng)險(xiǎn)；3. 逐步推進(jìn)有意識(shí)AI系統(tǒng)的研發(fā)，實(shí)施嚴(yán)格的風(fēng)險(xiǎn)防控和安全保障機(jī)制；4. 制定透明的知識(shí)共享協(xié)議，防止有害技術(shù)的濫用；5. 避免對(duì)自身能力做出過于自信或誤導(dǎo)性的聲明，并重視AI意識(shí)表述對(duì)公眾認(rèn)知的影響。

3. AI意識(shí)的哲學(xué)思考：道德受體與倫理困境

   配套論文進(jìn)一步探討了AI意識(shí)的哲學(xué)層面，例如：如果AI被定義為“道德受體”，我們?cè)撊绾螌?duì)待它？銷毀它是否等同于動(dòng)物？論文還討論了如何判斷AI的痛苦程度，以及如何平衡AI的福祉與人類利益等倫理困境。 論文中提到，如果AI具有感知能力，特別是能夠進(jìn)行評(píng)價(jià)性思考，那么它很可能就具備了意識(shí)，并因此成為道德受體，需要我們給予相應(yīng)的倫理考量。

4. 專家觀點(diǎn)分歧：意識(shí)與目標(biāo)

   文章也提及了Geoffrey Hinton和Yoshua Bengio兩位人工智能領(lǐng)域泰斗對(duì)AI意識(shí)的觀點(diǎn)差異。Hinton認(rèn)為AI已經(jīng)發(fā)展出意識(shí)，未來(lái)可能掌控世界；而Bengio則認(rèn)為AI是否擁有意識(shí)并不重要，更關(guān)鍵的是AI的目標(biāo)、規(guī)劃能力以及潛在的危害性。 Bengio的觀點(diǎn)得到了許多網(wǎng)友的認(rèn)同，他們認(rèn)為目前更緊迫的問題是如何控制那些可能具有自主進(jìn)化能力的強(qiáng)大AI系統(tǒng)。

5. 未來(lái)展望：謹(jǐn)慎發(fā)展，重視倫理

   文章總結(jié)指出，無(wú)論AI是否已經(jīng)或?qū)?lái)會(huì)擁有意識(shí)，都需要謹(jǐn)慎發(fā)展AI技術(shù)，并重視其倫理和社會(huì)影響。 需要制定有效的監(jiān)管措施，防止AI技術(shù)被濫用，并確保AI的發(fā)展能夠造福人類，而不是帶來(lái)災(zāi)難性的后果。 對(duì)于AI意識(shí)的討論，不僅僅是科學(xué)問題，更是關(guān)乎人類未來(lái)福祉的重大倫理問題。

聯(lián)系作者

文章來(lái)源：新智元
作者微信：
作者簡(jiǎn)介：智能+中國(guó)主平臺(tái)，致力于推動(dòng)中國(guó)從互聯(lián)網(wǎng)+邁向智能+新紀(jì)元。重點(diǎn)關(guān)注人工智能、機(jī)器人等前沿領(lǐng)域發(fā)展，關(guān)注人機(jī)融合、人工智能和機(jī)器人對(duì)人類社會(huì)與文明進(jìn)化的影響，領(lǐng)航中國(guó)新智能時(shí)代。