近日，AI換臉詐騙事件頻發(fā)，“馬斯克預(yù)言”印證時(shí)刻比預(yù)期來的早了些。兩個(gè)月前，馬斯克等千人簽署聯(lián)名信，呼吁停訓(xùn)更強(qiáng)大的AI系統(tǒng)六個(gè)月，理由是擔(dān)心更強(qiáng)大的AI系統(tǒng)會(huì)對(duì)社會(huì)和人類構(gòu)成潛在風(fēng)險(xiǎn)，不曾想風(fēng)險(xiǎn)已經(jīng)侵入人類生活。
5月22日，話題“AI詐騙正在全國爆發(fā)”沖上熱搜榜。繼福建某科技公司老板被冒充好友的騙子通過AI換臉技術(shù)，在10分鐘內(nèi)被騙走430萬元之后，又一安徽男子在僅9秒內(nèi)被使用AI換臉技術(shù)的騙子騙走132萬，網(wǎng)友直呼“防不勝防”。
北京華讓律師事務(wù)所律師夏博涵對(duì)搜狐科技表示，“該行為構(gòu)成詐騙罪，依據(jù)詐騙數(shù)額不等，最高可判處無期徒刑。對(duì)于深度合成服務(wù)提供者，依據(jù)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，應(yīng)制定和公開完善的管理規(guī)則、平臺(tái)公約，依法履行管理職責(zé)，采取技術(shù)或者人工方式對(duì)深度合成服務(wù)使用者的輸入數(shù)據(jù)和合成結(jié)果進(jìn)行審核?！?/p>
據(jù)悉，除了AI換臉視頻詐騙，某些電商主播利用AI換臉技術(shù)偽裝成“成龍”、“楊冪”等明星直播帶貨，從而引流并節(jié)省直播成本。抖音平臺(tái)相關(guān)人員對(duì)搜狐科技表示，“平臺(tái)不允許換臉直播，如發(fā)現(xiàn)會(huì)直接斷播，且會(huì)對(duì)侵權(quán)商家進(jìn)行信譽(yù)分扣除的處置，對(duì)于被處置后仍換臉直播的賬戶，將限制其直播權(quán)限?！?/p>
技術(shù)引發(fā)的風(fēng)險(xiǎn)問題最終還需要用技術(shù)手段去補(bǔ)救，值得欣慰的是，隨著AI換臉越來越多地被濫用，用于識(shí)別AI換臉技術(shù)的新模型也應(yīng)用而生。
“AI換臉”是怎么實(shí)現(xiàn)的?
AI換臉技術(shù)的研發(fā)初心是用于影視娛樂、游戲開發(fā)等領(lǐng)域，意在給用戶提供更真實(shí)的觀賞體驗(yàn)。
據(jù)了解，AI換臉技術(shù)實(shí)現(xiàn)原理主要包括人臉檢測(cè)、人臉對(duì)齊、特征提取、特征融合、以及重建圖像。
其中，人臉檢測(cè)技術(shù)用于檢測(cè)輸入圖像中的人臉位置和面部特征;人臉對(duì)齊技術(shù)利用仿射變化等技術(shù)，使不同人臉面部特征點(diǎn)位置相同;特征提取技術(shù)使用深度學(xué)習(xí)模型，例如卷積神經(jīng)網(wǎng)絡(luò)(CNN)，提取面部形狀、紋理、顏色等特征;特征融合技術(shù)使用線性插值或非線性插值變換方法，將兩張不同人臉面部特征進(jìn)行融合，生成新的面部特征;最后利用重建圖像技術(shù)，將新的面部特征映射回圖像空間中，生成一張具有換臉效果的新圖像。
搜狐科技挑選了一款當(dāng)前較為熱門的“騰訊云AI人臉融合”應(yīng)用作為測(cè)試軟件，看一看“AI換臉”技術(shù)重塑人像能達(dá)到什么程度。
搜狐科技隨機(jī)選擇了一位男士圖片作為模版圖，用吳彥祖的圖片作為選臉圖，測(cè)試結(jié)果顯示，經(jīng)過AI處理后的男士人像眉眼間顯露出吳彥祖的特點(diǎn)，但發(fā)型等面部以外的部分沒有發(fā)生變化。
據(jù)包頭警方披露，4月20日，福州市某科技公司法人代表郭先生的好友突然通過微信視頻聯(lián)系到他，兩人經(jīng)過短暫聊天后，好友告訴郭先生，自己的朋友在外地投標(biāo)，需要430萬元保證金，且需要公對(duì)公賬戶過賬，所以想要借用郭先生公司的賬戶走一下賬。好友向郭先生要了銀行卡號(hào)，聲稱已經(jīng)把錢打到郭先生的賬戶上，還把銀行轉(zhuǎn)賬底單的截圖通過微信發(fā)給了郭先生?；?/span>視頻聊天信任的前提下，郭先生沒有核實(shí)錢是否到賬，分先后分兩筆把430萬元給對(duì)方打了過去。錢款轉(zhuǎn)賬后，郭先生給好友微信發(fā)了一條消息，稱事情已經(jīng)辦妥。但讓他沒想到的是，好友回過來的消息竟然是一個(gè)問號(hào)。
郭先生撥打好友電話，對(duì)方說沒有這回事，他這才意識(shí)到竟然遇上了“高端”騙局，對(duì)方通過智能AI換臉技術(shù)，佯裝成好友對(duì)他實(shí)施了詐騙。
IT技術(shù)人員向搜狐科技分析，有黑客專門研發(fā)AI實(shí)時(shí)換臉工具，和現(xiàn)在手機(jī)植入實(shí)時(shí)美顏一個(gè)道理。
罪犯可能利用漏洞盜取受害人好友的微信賬號(hào)，通過社交平臺(tái)獲取受害人好友的照片或視頻，用攝像頭捕捉自己的面部特征，再利用實(shí)時(shí)AI換臉工具將受害人好友的面部特征與自己融合，佯裝受害人好友進(jìn)行交談，以達(dá)到詐騙目的。
反制AI濫用的技術(shù)進(jìn)展如何?
魔高一尺，道高一丈。2020年，微軟亞洲研究院與北京大學(xué)曾共同發(fā)布的《Face X-ray for More General Face Forgery Detection》論文，用于甄別AI換臉技術(shù)的新模型Face X-Ray具備兩大屬性：能泛化到未知換臉?biāo)惴?、能提供可解釋的換臉邊界。
論文主創(chuàng)作者之一、微軟亞洲研究院常務(wù)副院長郭百寧表示，“在圖像采集過程中，每一張圖像都有其獨(dú)特的特征，它們可能來源于拍攝硬件，或者處理軟件。只要不是一體生成的圖像，它們?cè)谌诤系倪^程中都會(huì)留下線索，這些線索人眼看不到，但深度學(xué)習(xí)能捕獲?！?/p>
論文中展示了圖像噪聲分析與誤差水平分析技術(shù)，可以看到真實(shí)圖像展現(xiàn)出一致地噪聲模式，而換臉明顯會(huì)有所不同(a組圖片為真臉，b組圖片為合成圖像，中間列為噪聲分析圖像，右側(cè)一列是誤差水平分析圖像)。
據(jù)介紹，Anti-Deepfake分為被動(dòng)式檢測(cè)和主動(dòng)式防御兩大類，其中被動(dòng)式檢測(cè)技術(shù)側(cè)重于事后取證，即針對(duì)已經(jīng)制作并傳播的視頻進(jìn)行檢測(cè)，判別其是否屬于偽造人臉視頻;另一類主動(dòng)式防御技術(shù)側(cè)重于事前防御，即在人臉數(shù)據(jù)發(fā)布傳播前添加隱藏信息，如水印、對(duì)抗噪聲等，進(jìn)行主動(dòng)溯源或使得惡意使用者無法利用添加了噪聲的人臉視頻進(jìn)行偽造，從而達(dá)到保護(hù)人臉，實(shí)現(xiàn)主動(dòng)防御的目的。
國家網(wǎng)信辦、工信部、公安部此前聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第六條明確，“任何組織和個(gè)人不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播法律、行政法規(guī)禁止的信息，不得利用深度合成服務(wù)從事危害國家安全和利益、損害國家形象、侵害社會(huì)公共利益、擾亂經(jīng)濟(jì)和社會(huì)秩序、侵犯他人合法權(quán)益等法律、行政法規(guī)禁止的活動(dòng)?！?/p>
夏博涵強(qiáng)調(diào)，“除AI換臉視頻詐騙外，當(dāng)前很多手機(jī)應(yīng)用軟件均需要刷臉認(rèn)證，不法分子可能通過AI換臉技術(shù)將自己冒充成真正的權(quán)利人。這就需要我們嚴(yán)格保護(hù)好個(gè)人信息，防止外泄，同時(shí)建議設(shè)定其他多種身份驗(yàn)證方式。另一方面，軟件供應(yīng)商也需要在技術(shù)上進(jìn)一步研發(fā)，提高安全系數(shù)，防范不法分子趁虛而入。”
