AIGC動態(tài)歡迎閱讀

原標題：西湖大學提出AIGC檢測框架，精準識別AI撰寫的文稿
關(guān)鍵字：模型,上下文,解讀,句子,文章
文章來源：夕小瑤科技說
內(nèi)容字數(shù)：0字

內(nèi)容摘要：

夕小瑤科技說 原創(chuàng)作者 | Richard近年來人工智能技術(shù)突飛猛進，尤其是大語言模型的出現(xiàn)，讓AI具備了創(chuàng)作文章、小說、劇本等內(nèi)容的能力。
AI代寫，已經(jīng)逃不過老師、編輯、審稿人的火眼金睛了。但讓AI僅改寫部分片段，就安全了么？
針對檢測AI改寫的片段，西湖大學發(fā)布了一種叫做”篡改文本片段檢測”(PTD)的新方法，它能精確識別文本中哪些片段是由AI生成或改寫的，讓AI改寫的文本無處遁形！
傳統(tǒng)的AI文本檢測通常只能判斷整篇文章是否出自AI之手，但PTD可以更細粒度地定位到文章的特定片段。文章通過實驗表明，即使AI擅長模仿人類的寫作風格，經(jīng)過訓練的檢測模型仍然能從上下文線索中識別出機器的”筆跡”。這一方法不僅在已知模型上取得了超過95%的識別準確率，在未知模型上的表現(xiàn)也令人驚喜。通過細致的統(tǒng)計和實驗分析，研究者發(fā)現(xiàn)改寫句子與原文及上下文存在顯著差異，這為檢測提供了重要線索。此外，該方法還能有效抵御各類對抗性攻擊，為傳統(tǒng)的AI文本檢測模型保駕護航。這一研究為我們提供了透過AI改寫文本的完美偽裝，看清其中潛藏風險的利器。
這項研究引發(fā)了一個有趣的思考：在AI主導內(nèi)容生產(chǎn)的時代，人類原創(chuàng)的價

原文鏈接：西湖大學提出AIGC檢測框架，精準識別AI撰寫的文稿

聯(lián)系作者

文章來源：夕小瑤科技說
作者微信：xixiaoyaoQAQ
作者簡介：專業(yè)、有趣、深度價值導向的科技媒體。聚集30萬AI工程師、研究員，覆蓋500多家海內(nèi)外機構(gòu)投資人，互聯(lián)網(wǎng)大廠中高管和AI公司創(chuàng)始人。一線作者來自清北、國內(nèi)外頂級AI實驗室和大廠，兼?zhèn)涿翡J的行業(yè)嗅覺和洞察深度。商務合作：zym5189