本綜述有助于將深度偽造檢測模型與其在實際案例中的潛在應用聯系起來。

原標題：ACM Computing Surveys | 港大等基于可靠性視角的深度偽造檢測綜述，覆蓋主流基準庫、模型
文章來源：機器之心
內容字數：4759字

深度偽造檢測：從可靠性視角的全面綜述

近年來，深度偽造技術發展迅速，其便利性與對隱私安全的潛在危害并存。雖然已有許多深度偽造檢測模型被提出，但實際應用于司法判決的案例卻很少，這凸顯了該領域亟待解決的問題。機器之心報道了一篇發表在ACM Computing Surveys上的綜述論文，該論文從可靠性視角出發，對深度偽造檢測領域進行了全面回顧，并指出了未來研究方向。

1. 深度偽造檢測的挑戰

這篇由香港大學、齊魯工業大學、湖南大學和圭爾夫大合發布的綜述論文指出，目前深度偽造檢測模型面臨三大挑戰：遷移性、可解釋性和魯棒性。

1.1 遷移性：現有模型通常在特定數據集上訓練，缺乏對未見過的數據和篡改算法的泛化能力。理想的模型應該能夠在不同數據集和篡改方法下保持穩定準確率，避免不斷增加模型訓練成本。

1.2 可解釋性：大多數模型只能給出真假判斷，缺乏可信的證據和易于理解的解釋。對于非專業人士來說，提供偽造區域定位或可視化偽造痕跡等信息至關重要，以增強模型的可信度和應用價值。

1.3 魯棒性：深度偽造素材在傳播過程中會遭受各種質量損失（例如壓縮、修改等），以及攻擊者有意添加的干擾噪聲。魯棒性強的模型應該能夠克服這些干擾，準確判斷素材真偽。

2. 可靠性評估方法

為了解決上述挑戰，論文提出了一種新的可靠性評估方法。該方法模擬真實世界深度偽造數據的整體情況，利用統計學中的隨機采樣方法，對模型的可靠性進行科學評估，并提供統計學指標，作為潛在的法庭證據。

3. 實際案例分析

論文將七個深度偽造檢測模型應用于多個實際案例，這些案例的受害者包括明星、政客和普通人。實驗結果表明，現有模型在遷移性、可解釋性和魯棒性方面各有優勢，但在兼顧多個方面時，性能會受到影響。理想的模型應該同時具備這三個方面的良好性能。

4. 未來研究方向

論文總結了深度偽造檢測領域的挑戰和未來研究方向，強調了開發兼具遷移性、可解釋性和魯棒性的可靠模型的重要性，以更好地保護個人隱私和信息安全。 這項研究為該領域的研究者提供了新的研究思路和挑戰。

5. 作者信息

第一作者王天一，本科畢業于美國華盛頓大學，博士畢業于香港大學，現為南洋理工大學博士后研究員。

聯系作者

文章來源：機器之心
作者微信：
作者簡介：專業的人工智能媒體和產業服務平臺