原本促進(jìn)科技進(jìn)步的人工智能（AI）技術(shù)，近期卻變成了新型詐騙的“狼外婆”。隨著AI換臉、合成語音等技術(shù)的發(fā)展，普通人接觸到各種先進(jìn)生成工具變得不費(fèi)吹灰之力，制作出越發(fā)難以識別的高質(zhì)量deepfake（深度造偽技術(shù)，簡稱“深偽”）視頻也越來越容易。不少網(wǎng)友擔(dān)憂，若這些技術(shù)運(yùn)用到金融詐騙案件中，后果不堪設(shè)想。
這些AI詐騙對金融行業(yè)將產(chǎn)生怎樣的影響？金融領(lǐng)域如何AI防深偽？5月31日，新京報(bào)貝殼財(cái)經(jīng)記者采訪的多位金融科技專家表示，近些年，隨著deepfake技術(shù)的不斷成熟，以及圖像視頻生成技術(shù)的流行，這種利用深偽技術(shù)繞過人臉識別流程的趨勢有所增長，對金融機(jī)構(gòu)一直以來使用的實(shí)名認(rèn)證系統(tǒng)造成了一定的威脅。
“AI技術(shù)并非無懈可擊?！倍刃M數(shù)據(jù)智能部總經(jīng)理、度小滿技術(shù)委員會執(zhí)行主席楊青表示，金融領(lǐng)域的AI防深偽，應(yīng)該針對整個(gè)閉環(huán)、每個(gè)節(jié)點(diǎn)的安全性進(jìn)行鞏固和創(chuàng)新。當(dāng)前，金融行業(yè)應(yīng)對deepfake已有了比較成熟的技術(shù)方法和方案，可以幫助金融機(jī)構(gòu)識別相關(guān)攻擊。
眼見不為實(shí)？Deepfake視頻對實(shí)名認(rèn)證系統(tǒng)造成威脅
近期，包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局破獲的一起電信詐騙的案件將AI詐騙推向熱搜。在該案件中，福州市某科技公司法人代表郭先生10分鐘內(nèi)被騙430萬元，幸運(yùn)的是336.84萬元被騙資金已經(jīng)被攔截，而其中用到的便是“智能AI換臉和擬聲技術(shù)”。
有業(yè)內(nèi)人士表示，如今AIGC技術(shù)的大爆發(fā)，更使得制作難以識別的deepfake視頻越來越容易，這對金融機(jī)構(gòu)一直以來使用的實(shí)名認(rèn)證系統(tǒng)造成了一定的威脅。因此，對人臉識別應(yīng)用普遍的金融行業(yè)來說，防深偽攻擊也顯得尤為重要。
楊青告訴貝殼財(cái)經(jīng)記者，在金融行業(yè)，由deepfake產(chǎn)生的欺詐主要是身份欺詐，即通過深度偽造的虛假圖像和視頻來冒充他人身份，騙過金融信貸流程中的身份核驗(yàn)系統(tǒng)，進(jìn)而實(shí)施盜刷和惡意注冊等。
馬上消費(fèi)人工智能研究院智能核身專家馮月表示，活體防偽、中介識別等技術(shù)的核心功能便是能夠避免人臉識別的自身缺陷，有效識別照片、視頻、面具、仿真模型等，如在包頭市這起案件中出現(xiàn)的換臉、變聲欺詐行為。
“如果聚焦到換臉技術(shù)和擬聲技術(shù)兩個(gè)關(guān)鍵問題上，它主要的難題就是基礎(chǔ)數(shù)據(jù)的獲取、訓(xùn)練框架、實(shí)時(shí)渲染三項(xiàng)?！瘪T月表示，數(shù)據(jù)層面上，從社交媒體等社工庫可以獲取冒充對象的影音信息，亦或者是從丟失的黑產(chǎn)手機(jī)的相冊、聊天記錄中提取。訓(xùn)練框架上，目前國內(nèi)幾個(gè)主流的短視頻平臺的剪輯軟件中都支持換臉特效，并且沒有警示信息，國外的開源框架中合成方法超過30種。在實(shí)時(shí)渲染上，通過對手機(jī)刷機(jī)、安裝侵入軟件等攻擊操作也可以實(shí)現(xiàn)劫持渲染。
詐騙100%成功率？金融機(jī)構(gòu)已有成熟“防深偽”技術(shù)落地
用deepfake技術(shù)來攻擊金融機(jī)構(gòu)，是否可以100%成功？多位受訪的業(yè)內(nèi)人士告訴記者，這些技術(shù)本身并非毫無破綻。目前，許多金融機(jī)構(gòu)已有相關(guān)的落地舉措與相關(guān)技術(shù)應(yīng)用。比如活體防偽、中介識別等技術(shù)在金融業(yè)務(wù)場景中也已得以應(yīng)用。
“要識別認(rèn)證內(nèi)容是否造假，最好的辦法是交給AI去解決，研發(fā)‘反deepfake’檢測算法。”在楊青看來，隨著新的deepfake工具不斷涌現(xiàn)，金融行業(yè)要應(yīng)對的深偽攻擊會更多。未來更多的鑒偽技術(shù)應(yīng)該集中去挖掘語義特征、跨模態(tài)特征等，讓模型利用可解釋性強(qiáng)的高層語義去鑒偽。
楊青介紹，度小滿防深偽檢測模型的算法策略從三個(gè)維度入手。首先生成瑕疵，檢測模型則能將“基本肉眼可見”的特征都提取出來，設(shè)計(jì)特定的分析算子，從而進(jìn)行分析研判。其次是固有屬性，由于不同攝像機(jī)擁有不同的設(shè)備指紋，類似GAN這種模型在生成人臉時(shí)也會留下獨(dú)特的用于識別生成器的指紋，因此經(jīng)過對比就能發(fā)現(xiàn)端倪。最后，高層語義，指的是檢測面部動(dòng)作單元（肌肉群）協(xié)調(diào)性、面部各區(qū)域朝向一致性、視頻微觀連續(xù)性等方面的問題，由于這些細(xì)節(jié)建模困難、難以復(fù)制，很容易抓到把柄。
馮月亦表示，馬上消費(fèi)金融基于此類技術(shù)創(chuàng)新，目前已經(jīng)能夠做到將99%的批量欺詐攻擊攔截在外，有效防范偽造信息、中介代辦、偽冒申請、多頭借貸、電信詐騙等風(fēng)險(xiǎn)。而相較于處于整體環(huán)節(jié)末端的金融機(jī)構(gòu)，更前一步的，社交軟件有義務(wù)引入鑒偽機(jī)制，并實(shí)時(shí)對用戶進(jìn)行通話鑒真提醒，標(biāo)記對端用戶是否有行為異常、圖像偽造異常、聲音偽造異常。更早的風(fēng)險(xiǎn)提示信息，可以更有效地阻隔風(fēng)險(xiǎn)結(jié)果的發(fā)生。
此外，業(yè)內(nèi)人士認(rèn)為，公眾也可以采取一些自救措施，目前有一類技術(shù)可以保障用戶的數(shù)據(jù)不被用于換臉、變聲，這類技術(shù)叫對抗樣本技術(shù)。以人臉圖像為例，通過對該圖像混入肉眼不可見的對抗擾動(dòng)蒙版，可以使換臉技術(shù)失效。用戶可以使用該類技術(shù)對自己社交媒體公開的圖像、語音等媒體信息進(jìn)行對抗保護(hù)后再公開。
“不要隨便點(diǎn)擊不明的短信鏈接、郵件鏈接等，不隨意掃描不明來源二維碼、下載APP，不輕易提供人臉等個(gè)人生物信息給他人，不輕易透露自己的身份證、銀行卡、驗(yàn)證碼等信息，不過度公開或分享動(dòng)圖、視頻等?！瘪T月建議，無法保證手機(jī)等移動(dòng)設(shè)備不丟失，可以在平時(shí)定期清理微信聊天記錄，具有親近關(guān)系的人隱藏相關(guān)痕跡，將手機(jī)相冊加密、或者啟動(dòng)手機(jī)的數(shù)據(jù)保護(hù)功能等，這些日常行為都有可能將詐騙攔截在外。
新京報(bào)貝殼財(cái)經(jīng)記者 姜樊
編輯 徐超
校對 陳荻雁
