AIGC-X官網,國內首個AI生成內容檢測工具

什么是AIGC-X?

傳播內容認知全國重點實驗室、中國科學技術大學、合肥綜合性國家科學中心人工智能研究院聯合推出的AI生成內容檢測工具，可以快速分辨出內容是機器生成還是人工生成的。AIGC技術的突破，將會大大推動人工智能在內容領域的全面變革。然而，AIGC在虛假信息、學術造假、網絡釣魚等任務中的濫用，嚴重阻礙新技術在媒體和教育等領域的應用。AIGC-X官網: http://ai.sklccc.com/AIGC-X/#/

AIGC-X起源

AIGC-X是實驗室研究AI自我治理機制的重要成果，是探索如何從技術角度解決AIGC安全問題的初步嘗試。結合內容識別、內容溯源等技術，AIGC-X能夠有效的推動AI風險管理、安全審查和評估技術的發展，為建立安全可信AIGC生態的基礎提供技術方案與支撐。近年來，隨著人工智能生成內容（AIGC）技術的迅速發展，從AI繪畫、AI作曲到虛擬人，再到最近爆火的ChatGPT，內容生產方式迎來了巨大的變革。在這個不斷增長的互聯網內容世界中，找到一種明確虛實、分辨真假的技術標尺成為行業長遠健康發展的關鍵。為了應對這一挑戰，人民日報社傳播內容認知全國重點實驗室、中國科學技術大學和合肥綜合性國家科學中心人工智能研究院聯合推出了國內首個AI生成內容檢測工具——AIGC-X。該工具于今天正式開始全網公測.

AIGC-X怎么樣?

據介紹，AIGC-X能夠快速區分機器生成的文本和人工生成的文本，目前對中文文本的檢測準確率已超過90%。人民日報社傳播內容認知全國重點實驗室首席科學家張勇東表示，由于ChatGPT等AIGC技術在對話咨詢、文章寫作和內容潤色等方面具有廣泛的應用場景，這一技術迎來了新的發展階段。然而，倫理規范、內容侵權和信息造假等風險挑戰也變得不容忽視，因此迫切需要推出針對性的檢測產品，提升對內容生產新范式的監管治理技術能力。他介紹說，AIGC-X采用了算法融合與知識驅動的人工智能框架，通過深度建模來捕捉困惑度和突現頻次等隱式特征。AIGC-X能夠檢測AI技術生成的假新聞、內容抄襲和垃圾郵件，具有廣闊的應用前景，可應用于內容版權、網絡釣魚、虛假信息和學術造假檢測等內容安全和內容風控領域。未來，AIGC-X還將擴展為對人工智能生成的文本、圖像甚至視頻的通用智能識別模型。
“對AIGC的適當引導和規范勢在必行。”人民日報社傳播內容認知全國重點實驗室研究員靳國慶特別強調，我們必須重視防范AIGC在虛假信息、學術造假和網絡釣魚等灰色領域的濫用。他表示，“AIGC-X將推動AI風險管理和安全評測技術的發展，為建立安全可控的AIGC生態提供技術支持。”據介紹，在推出AIGC-X之前，人民日報社傳播內容認知全國重點實驗室已經推出了基于人工智能的“智曉助”和“白澤”兩個內容風控系統，并在百余家機構中得到應用。人民網信息技術公司，專注于內容風控業務，已開發了“捕獲AIGC”產品，并通過“人民審校”微信公眾號進行發布。
根據工業和信息化部公布的數據顯示，我國AI核心產業規模目前已超過4000億元，企業數量接近4000家，帶動相關產業規模超過數萬億元，并將繼續快速增長。行業專家預測，作為數字經濟和實體經濟深度融合的新模式，AIGC將在產業創新發展方面發揮重要作用。張勇東表示，“AIGC-X不是一個靜態的技術，而是隨著AIGC的發展而不斷發展的。”目前受限于時間和資源，AIGC-X在支持非常規問題和場景方面仍有待改進。例如，AIGC-X目前僅支持中文內容的檢測，對英文的支持有待提高。此外，還需要進一步完善對圖像、音視頻等內容的檢測能力，以支持全媒體內容的檢測，為AIGC的健康發展提供保障。