AI教父支持OpenAI。

原標(biāo)題：AI教父、諾獎(jiǎng)得主Hinton支持OpenAI，阻止「轉(zhuǎn)營利」
文章來源：機(jī)器之心
內(nèi)容字?jǐn)?shù)：3981字

OpenAI轉(zhuǎn)型引發(fā)的爭議：非營利轉(zhuǎn)向營利引擔(dān)憂

OpenAI宣布將拆分為營利機(jī)構(gòu)和非營利機(jī)構(gòu)的計(jì)劃，引發(fā)了人工智能社區(qū)的強(qiáng)烈爭議。此舉不僅遭到與OpenAI對簿公堂的馬斯克的反對，也得到了包括諾貝爾獎(jiǎng)得主Geoffrey Hinton在內(nèi)眾多人士的支持。

1. 馬斯克訴訟及外部支持

   馬斯克于11月提訟，尋求禁令阻止OpenAI轉(zhuǎn)型，并獲得了越來越多的支持。青年倡導(dǎo)組織Encode提交法庭之友陳述，支持馬斯克的訴訟，認(rèn)為OpenAI的轉(zhuǎn)型將損害其“以安全和有益于公眾的方式開發(fā)和部署變革性技術(shù)”的使命。Encode創(chuàng)始人Sneha Revanur指責(zé)OpenAI將人工智能的利潤內(nèi)部化，卻將后果外部化給全人類。該陳述得到了Geoffrey Hinton和加州大學(xué)伯克利分校教授Stuart Russell等人的支持。

2. OpenAI的轉(zhuǎn)型歷程與爭議焦點(diǎn)

   OpenAI于2015年作為非營利研究實(shí)驗(yàn)室成立，但隨著發(fā)展逐漸變得資本密集，2019年轉(zhuǎn)變?yōu)榛旌辖Y(jié)構(gòu)：由非營利組織控制的營利性機(jī)構(gòu)。此次轉(zhuǎn)型計(jì)劃將現(xiàn)有的營利性公司轉(zhuǎn)變?yōu)樘乩A州公共利益公司(PBC)，非營利組織部分將放棄控制權(quán)換取PBC股份。馬斯克認(rèn)為OpenAI放棄了最初的慈善使命，并通過反競爭手段剝奪競爭對手的資本。OpenAI則反駁稱馬斯克的抱怨“毫無根據(jù)”。

3. Encode的擔(dān)憂與論據(jù)

   Encode的律師認(rèn)為，OpenAI的轉(zhuǎn)型將削弱其對安全的承諾。OpenAI的非營利組織曾承諾停止與任何“價(jià)值一致、具有安全意識(shí)的項(xiàng)目”競爭，但營利性組織則不然。此外，轉(zhuǎn)型后，非營利組織董事會(huì)將無法再根據(jù)安全需要取消投資者的股權(quán)。OpenAI最近持續(xù)出現(xiàn)高級(jí)人才外流，部分原因也是擔(dān)心公司以犧牲安全為代價(jià)優(yōu)先考慮商業(yè)產(chǎn)品。Encode認(rèn)為，OpenAI對人類的責(zé)任將消失，因?yàn)樘乩A州法律規(guī)定，PBC的董事對公眾不承擔(dān)任何責(zé)任。

4. 后續(xù)發(fā)展與展望

   OpenAI對轉(zhuǎn)型的回應(yīng)是，PBC的公共利益將是OpenAI的使命。但Encode認(rèn)為，將一個(gè)以安全為中心的非營利組織的控制權(quán)交給一個(gè)對安全沒有可執(zhí)行承諾的營利性企業(yè)，將損害公共利益。關(guān)于初步禁令的聽證會(huì)定于2025年1月14日舉行。這場訴訟的最終結(jié)果將對人工智能領(lǐng)域的發(fā)展產(chǎn)生深遠(yuǎn)影響，也關(guān)乎公眾對人工智能安全和倫理的擔(dān)憂。

聯(lián)系作者

文章來源：機(jī)器之心
作者微信：
作者簡介：專業(yè)的人工智能媒體和產(chǎn)業(yè)服務(wù)平臺(tái)