本綜述有助于將深度偽造檢測(cè)模型與其在實(shí)際案例中的潛在應(yīng)用聯(lián)系起來(lái)。

原標(biāo)題：ACM Computing Surveys | 港大等基于可靠性視角的深度偽造檢測(cè)綜述，覆蓋主流基準(zhǔn)庫(kù)、模型
文章來(lái)源：機(jī)器之心
內(nèi)容字?jǐn)?shù)：4759字

深度偽造檢測(cè)：從可靠性視角的全面綜述

近年來(lái)，深度偽造技術(shù)發(fā)展迅速，其便利性與對(duì)隱私安全的潛在危害并存。雖然已有許多深度偽造檢測(cè)模型被提出，但實(shí)際應(yīng)用于司法判決的案例卻很少，這凸顯了該領(lǐng)域亟待解決的問(wèn)題。機(jī)器之心報(bào)道了一篇發(fā)表在A(yíng)CM Computing Surveys上的綜述論文，該論文從可靠性視角出發(fā)，對(duì)深度偽造檢測(cè)領(lǐng)域進(jìn)行了全面回顧，并指出了未來(lái)研究方向。

1. 深度偽造檢測(cè)的挑戰(zhàn)

這篇由香港大學(xué)、齊魯工業(yè)大學(xué)、湖南大學(xué)和圭爾夫大合發(fā)布的綜述論文指出，目前深度偽造檢測(cè)模型面臨三大挑戰(zhàn)：遷移性、可解釋性和魯棒性。

1.1 遷移性：現(xiàn)有模型通常在特定數(shù)據(jù)集上訓(xùn)練，缺乏對(duì)未見(jiàn)過(guò)的數(shù)據(jù)和篡改算法的泛化能力。理想的模型應(yīng)該能夠在不同數(shù)據(jù)集和篡改方法下保持穩(wěn)定準(zhǔn)確率，避免不斷增加模型訓(xùn)練成本。

1.2 可解釋性：大多數(shù)模型只能給出真假判斷，缺乏可信的證據(jù)和易于理解的解釋。對(duì)于非專(zhuān)業(yè)人士來(lái)說(shuō)，提供偽造區(qū)域定位或可視化偽造痕跡等信息至關(guān)重要，以增強(qiáng)模型的可信度和應(yīng)用價(jià)值。

1.3 魯棒性：深度偽造素材在傳播過(guò)程中會(huì)遭受各種質(zhì)量損失（例如壓縮、修改等），以及攻擊者有意添加的干擾噪聲。魯棒性強(qiáng)的模型應(yīng)該能夠克服這些干擾，準(zhǔn)確判斷素材真?zhèn)巍?/p>

2. 可靠性評(píng)估方法

為了解決上述挑戰(zhàn)，論文提出了一種新的可靠性評(píng)估方法。該方法模擬真實(shí)世界深度偽造數(shù)據(jù)的整體情況，利用統(tǒng)計(jì)學(xué)中的隨機(jī)采樣方法，對(duì)模型的可靠性進(jìn)行科學(xué)評(píng)估，并提供統(tǒng)計(jì)學(xué)指標(biāo)，作為潛在的法庭證據(jù)。

3. 實(shí)際案例分析

論文將七個(gè)深度偽造檢測(cè)模型應(yīng)用于多個(gè)實(shí)際案例，這些案例的受害者包括明星、政客和普通人。實(shí)驗(yàn)結(jié)果表明，現(xiàn)有模型在遷移性、可解釋性和魯棒性方面各有優(yōu)勢(shì)，但在兼顧多個(gè)方面時(shí)，性能會(huì)受到影響。理想的模型應(yīng)該同時(shí)具備這三個(gè)方面的良好性能。

4. 未來(lái)研究方向

論文總結(jié)了深度偽造檢測(cè)領(lǐng)域的挑戰(zhàn)和未來(lái)研究方向，強(qiáng)調(diào)了開(kāi)發(fā)兼具遷移性、可解釋性和魯棒性的可靠模型的重要性，以更好地保護(hù)個(gè)人隱私和信息安全。 這項(xiàng)研究為該領(lǐng)域的研究者提供了新的研究思路和挑戰(zhàn)。

5. 作者信息

第一作者王天一，本科畢業(yè)于美國(guó)華盛頓大學(xué)，博士畢業(yè)于香港大學(xué)，現(xiàn)為南洋理工大學(xué)博士后研究員。

聯(lián)系作者

文章來(lái)源：機(jī)器之心
作者微信：
作者簡(jiǎn)介：專(zhuān)業(yè)的人工智能媒體和產(chǎn)業(yè)服務(wù)平臺(tái)