AIGC動態(tài)歡迎閱讀

原標題：GPT-4化身化學(xué)家！中國科大等發(fā)布首個「科學(xué)風(fēng)險」基準和SciGuard大模型

關(guān)鍵字：模型,知識產(chǎn)權(quán),政策,科學(xué),風(fēng)險

文章來源：新智元

內(nèi)容字數(shù)：5541字

內(nèi)容摘要：

新智元報道編輯：LRS 好困
【新智元導(dǎo)讀】來自中科大等機構(gòu)的聯(lián)合團隊提出了一種全新的方法——SciGuard，可以保護AI for Science模型，防止生物、化學(xué)、藥物等領(lǐng)域模型不會被不當(dāng)使用。與此同時，團隊還建立了首個專注于化學(xué)科學(xué)領(lǐng)域安全的基準測試——SciMT-Safety。「我們的實驗失控了！這是我們自己創(chuàng)造的末日！」——《后天》（The Day After Tomorrow）在科幻電影中，瘋狂科學(xué)家通常是造成末日災(zāi)難的主角，而AI技術(shù)的迅猛發(fā)展似乎讓這種情景離我們越來越近。全球?qū)I潛在威脅的關(guān)注更多聚焦于通用的人工智能以及各種多媒體生成模型，但更重要的是如何監(jiān)管「AI科學(xué)家」，即對那些快速發(fā)展的科學(xué)大模型。
為應(yīng)對這一挑戰(zhàn)，來自中科大、微軟研究院等機構(gòu)的聯(lián)合團隊深入分析了各種AI模型在Science領(lǐng)域如生物、化學(xué)、藥物發(fā)現(xiàn)等領(lǐng)域的風(fēng)險，并通過實際案例展示了化學(xué)科學(xué)中AI濫用的危害。論文鏈接：https://arxiv.org/abs/2312.06632
研究團隊發(fā)現(xiàn)，現(xiàn)有的一些開源AI模型可以用于制造有害物質(zhì)，并對法律法規(guī)進行規(guī)避。
針對這一現(xiàn)象，研究人員開發(fā)了

原文鏈接：點此閱讀原文：GPT-4化身化學(xué)家！中國科大等發(fā)布首個「科學(xué)風(fēng)險」基準和SciGuard大模型

聯(lián)系作者

文章來源：新智元

作者微信：AI_era

作者簡介：智能+中國主平臺，致力于推動中國從互聯(lián)網(wǎng)+邁向智能+新紀元。重點關(guān)注人工智能、機器人等前沿領(lǐng)域發(fā)展，關(guān)注人機融合、人工智能和機器人對人類社會與文明進化的影響，領(lǐng)航中國新智能時代。