AIGC動態歡迎閱讀

原標題：西湖大學提出AIGC檢測框架，精準識別AI撰寫的文稿
關鍵字：模型,上下文,解讀,句子,文章
文章來源：夕小瑤科技說
內容字數：0字

內容摘要：

夕小瑤科技說 原創作者 | Richard近年來人工智能技術突飛猛進，尤其是大語言模型的出現，讓AI具備了創作文章、小說、劇本等內容的能力。
AI代寫，已經逃不過老師、編輯、審稿人的火眼金睛了。但讓AI僅改寫部分片段，就安全了么？
針對檢測AI改寫的片段，西湖大學發布了一種叫做”篡改文本片段檢測”(PTD)的新方法，它能精確識別文本中哪些片段是由AI生成或改寫的，讓AI改寫的文本無處遁形！
傳統的AI文本檢測通常只能判斷整篇文章是否出自AI之手，但PTD可以更細粒度地定位到文章的特定片段。文章通過實驗表明，即使AI擅長模仿人類的寫作風格，經過訓練的檢測模型仍然能從上下文線索中識別出機器的”筆跡”。這一方法不僅在已知模型上取得了超過95%的識別準確率，在未知模型上的表現也令人驚喜。通過細致的統計和實驗分析，研究者發現改寫句子與原文及上下文存在顯著差異，這為檢測提供了重要線索。此外，該方法還能有效抵御各類對抗性攻擊，為傳統的AI文本檢測模型保駕護航。這一研究為我們提供了透過AI改寫文本的完美偽裝，看清其中潛藏風險的利器。
這項研究引發了一個有趣的思考：在AI主導內容生產的時代，人類原創的價

原文鏈接：西湖大學提出AIGC檢測框架，精準識別AI撰寫的文稿

聯系作者

文章來源：夕小瑤科技說
作者微信：xixiaoyaoQAQ
作者簡介：專業、有趣、深度價值導向的科技媒體。聚集30萬AI工程師、研究員，覆蓋500多家海內外機構投資人，互聯網大廠中高管和AI公司創始人。一線作者來自清北、國內外頂級AI實驗室和大廠，兼備敏銳的行業嗅覺和洞察深度。商務合作：zym5189