GPT-4化身化學家！中國科大等發布首個「科學風險」基準和SciGuard大模型

AIGC動態歡迎閱讀

原標題：GPT-4化身化學家！中國科大等發布首個「科學風險」基準和SciGuard大模型

關鍵字：模型,知識產權,政策,科學,風險

文章來源：新智元

內容字數：5541字

內容摘要：

新智元報道編輯：LRS 好困
【新智元導讀】來自中科大等機構的聯合團隊提出了一種全新的方法——SciGuard，可以保護AI for Science模型，防止生物、化學、藥物等領域模型不會被不當使用。與此同時，團隊還建立了首個專注于化學科學領域安全的基準測試——SciMT-Safety。「我們的實驗失控了！這是我們自己創造的末日！」——《后天》（The Day After Tomorrow）在科幻電影中，瘋狂科學家通常是造成末日災難的主角，而AI技術的迅猛發展似乎讓這種情景離我們越來越近。全球對AI潛在威脅的關注更多聚焦于通用的人工智能以及各種多媒體生成模型，但更重要的是如何監管「AI科學家」，即對那些快速發展的科學大模型。
為應對這一挑戰，來自中科大、微軟研究院等機構的聯合團隊深入分析了各種AI模型在Science領域如生物、化學、藥物發現等領域的風險，并通過實際案例展示了化學科學中AI濫用的危害。論文鏈接：https://arxiv.org/abs/2312.06632
研究團隊發現，現有的一些開源AI模型可以用于制造有害物質，并對法律法規進行規避。
針對這一現象，研究人員開發了

原文鏈接：點此閱讀原文：GPT-4化身化學家！中國科大等發布首個「科學風險」基準和SciGuard大模型

聯系作者

文章來源：新智元

作者微信：AI_era

作者簡介：智能+中國主平臺，致力于推動中國從互聯網+邁向智能+新紀元。重點關注人工智能、機器人等前沿領域發展，關注人機融合、人工智能和機器人對人類社會與文明進化的影響，領航中國新智能時代。