隨著人工智能技術的進步，一些不法分子開始利用AI技術融合他人面孔和聲音，制造非常逼真的合成圖像來實施新型網絡詐騙，這類騙局常常會在短時間內給被害人造成較大損失。那么，我們應該如何識別和防范新型詐騙？

有人偷了你的臉！當AI詐騙遇上虛擬數字人“天妤”。視頻來源：最高人民檢察院公號

警惕“AI換臉”新型詐騙

記者調查發現，最近多地出現的AI換臉詐騙案件，均具備定制性、迷惑性等特征。

其中，香港警方近期披露一起涉案金額高達2億港元的多人AI換臉詐騙案尤為典型。據媒體報道，某公司職員受邀參加公司“多人視頻會議”時，先后將2億港元分別轉賬到5個本地銀行賬戶內。據警方調查，這場視頻會議中除了受害者外，其余均為AI換臉后的詐騙人員。

不少業內專家表示，隨著文生視頻大模型Sora等多模態人工智能的探索和出現，人們可能陷入“眼見也不一定為實”的困局。“一直以來，銀行等部門將實時視頻用做檢驗身份的手段之一，如今其可靠性將面臨巨大挑戰?！敝袊姓▽W研究會常務理事、華東政法大學教授沈?？≌f，“隨著人工智能技術的迭代升級，這類違法行為還可能演變出更多形態?！?/p>

沈福俊坦言，對此類AI換臉和AI擬聲的惡性詐騙案件，若只依靠傳統監管手段已不能防堵，監管部門在提升自我科技能力儲備的同時，有必要引入新興技術，探索用AI技術監管AI的可能。

Sora可根據文本內容生成逼真視頻。圖片來源：Sora/OpenAI

“AI換臉”的技術原理是什么

中國網絡空間安全協會人工智能安全治理專委會專家薛智慧介紹，“AI換臉”過程主要包括人臉識別追蹤、面部特征提取、人臉變換融合、背景環境渲染、圖像與音頻合成等幾個關鍵步驟。

首先通過視頻的采集，追蹤定位圖片里人的面部；第二步，做一個面部特征點的采集和提取，主要包括嘴、鼻子跟眼睛的特征；第三步就是把這張原始的照片，做一個變換跟融合。

其背后最核心的包括為三個部分，首先，利用深度學習算法精準地識別視頻中的人臉圖像，并提取出如眼睛、鼻子、嘴巴等關鍵面部特征。其次，將這些特征與目標人臉圖像進行匹配、替換、融合。最后，通過背景環境渲染并添加合成后的聲音，生成逼真度較高的虛假“換臉”視頻。

如何識別和防范新型詐騙

遇到這種類型的詐騙，普通人該怎么識別和防范呢？四川網警的網絡安全專家張警官在線支招：一提高反詐意識；二是涉及資金往來應多途徑核對，在視頻過程中可以要求對方做掐臉、捏鼻子等特定的動作，觀察視頻有沒有穿模或異常變形，以此來識別是否為AI偽造的視頻；三是通過電話、微信等多渠道多方式確認；四是在轉賬時，可以將到賬時間設定為2小時到賬或者24小時到賬，以預留處理時間。

掐臉、捏鼻子這一招引起了大家的熱議?！俺夘^腦”創始人張澤偉說：“隨著技術的發展，它的這些漏洞都會被修復掉。對AI的訓練日趨成熟后，可能掐臉、捏鼻子AI也會做了，建議變成捏成“豬鼻子”等一些AI不易做到的動作。或者制定一些只有屬于家人才知道的暗號，這是最保險的?！?/p>

張警官尤其談到，要注意個人信息和隱私數據的保護。AI換臉或者聲音合成技術，前提是要搜集受害人的聲音和圖片視頻資料。日常生活中要保護好個人隱私安全，使用正規軟件，防止自己的聊天信息、身份信息泄露，同時我們要盡可能減少社交媒體上自己的照片和聲音曝光。張警官還向大家再次推薦：一定要下載國家反詐中心app，那里面有非常多的案例供大家借鑒。

（來源：中國科技網綜合自央視新聞客戶端、新華每日電訊、閃電新聞、封面新聞、科技日報）