今年以來，隨著ChatGPT和GPT-4等技術(shù)的應(yīng)用，深度合成產(chǎn)品和服務(wù)日漸增多。利用AI換臉、AI擬聲等虛假音視頻進(jìn)行詐騙的違法行為屢見不鮮，這些新的詐騙手法十分隱蔽和高效，給社會造成很大的安全威脅。
近日，“AI詐騙正在全國爆發(fā)”一度沖上微博熱搜。6月10日，國家反詐中心辟謠爆發(fā)傳言不實。但AI詐騙相關(guān)話題的熱度依然居高不下，甚囂塵上。
(資料圖)
2023年5月，內(nèi)蒙古包頭警方發(fā)布一起利用AI實施電信詐騙的典型案例：2023年4月，福建一家科技公司的法人代表郭先生被騙子通過AI換臉和擬聲技術(shù)，佯裝好友對其實施詐騙。在10分鐘內(nèi)，先后分兩筆把430萬元轉(zhuǎn)到了對方的銀行賬戶上。
無獨有偶，2023年5月22日，AI換臉詐騙事件再次發(fā)生。安徽一男子9秒被騙132萬，詐騙分子使用了一段9秒鐘的智能AI換臉視頻，佯裝“熟人”讓受害人放松警惕從而得手。其詐騙速度之快，令人乍舌。
這兩則受騙事件套路如出一轍。不法分子利用AI換臉技術(shù)，偽裝成特定人物，提前制作冒充熟人的視頻，并與他人進(jìn)行視頻通話，或使用特定的換臉應(yīng)用程序，以假亂真，博取被害人信任后實施詐騙行為。
AI換臉的應(yīng)用邊界新科技的發(fā)展應(yīng)用，可謂是一把雙刃劍，AI 換臉技術(shù)亦是。給我們的生活帶來了便利的同時，但也可能會被用于欺詐和虛假信息傳播，對隱私和安全構(gòu)成威脅，同時導(dǎo)致誤解和誤導(dǎo)等問題。
AI換臉，即通過AI人工智能技術(shù)，把別人的臉換成自己的臉，而且臉部表情自然，效果十分逼真。AI換臉技術(shù)主要通過使用深度學(xué)習(xí)算法和大型模型來實現(xiàn)，其實現(xiàn)原理是通過人臉檢測、人臉對齊、特征提取、特征融合和重建等步驟，將不同人的面部特征進(jìn)行融合，生成具有換臉效果的新圖像。
具體來說，首先，大型模型可以自動檢測人臉，并在輸入圖像中定位人臉區(qū)域。接著，對輸入圖像中的人臉進(jìn)行對齊，使得不同人臉的面部特征點位置相同。這通常需要使用人臉關(guān)鍵點和仿射變換等技術(shù)。再者，使用深度學(xué)習(xí)模型，可以提取人臉的特征，這些特征可以用來指導(dǎo)替換操作。將兩張不同人臉的面部特征進(jìn)行融合，生成新的面部特征。最后，使用重建算法，例如反卷積神經(jīng)網(wǎng)絡(luò)（DCNN）或GAN等，將新的面部特征映射回圖像空間中，生成一張具有換臉效果的新圖像。
總而言之，AI換臉采用的是深度合成技術(shù)，通過AI建模實現(xiàn)換臉。利用深度學(xué)習(xí)、虛擬現(xiàn)實等生成合成類算法，制作圖像、音頻、視頻等信息，目前在社交、影視、廣告等諸多領(lǐng)域不斷深化應(yīng)用。
比如，在影視劇中，劇組可以運用AI換臉技術(shù)對原演員或危險情節(jié)拍攝進(jìn)行巧妙處理；在教學(xué)方面，AI換臉技術(shù)能夠?qū)崿F(xiàn)互動性強(qiáng)的虛擬教學(xué)。
同時，AI換臉技術(shù)也存在著濫用風(fēng)險。此前，有多個電商直播間被曝使用明星AI換臉直播，博取流量。這些直播并不會直接提到相關(guān)明星藝人的名字，但也不會主動聲明或者否認(rèn)，通過社交媒體傳播，誘導(dǎo)用戶和粉絲點擊鏈接下載惡意軟件或輸入個人信息，以達(dá)到直播賣貨或進(jìn)行詐騙的目的。更有甚者，利用AI換臉軟件及技術(shù)非法處理和制作虛假的淫穢視頻后進(jìn)行非法售賣，繞過人臉識別系統(tǒng)監(jiān)管從而實施詐騙、盜竊等犯罪。
可以看出，不法分子使用AI技術(shù)分析目標(biāo)用戶的行為特征和個人信息，進(jìn)行精準(zhǔn)定向攻擊，竊取個人敏感信息。這類詐騙往往通過非法獲取他人個人數(shù)據(jù)，以及運用各種黑灰軟件來替換數(shù)據(jù)信息來實現(xiàn)，從而達(dá)到目的。
AI詐騙“魔高一尺”，防范“道高一丈”AI換臉詐騙的背后，是隱私信息泄露與詐騙陷阱的結(jié)合。針對技術(shù)花樣翻新的AI詐騙，公眾要提高防范意識，加強(qiáng)監(jiān)管、健全立法是重要手段。趨利避害，需要從個人、政策、技術(shù)、安全企業(yè)等多個層面和維度共同發(fā)力，才能應(yīng)對未來可能出現(xiàn)的新型詐騙手段。
在個人層面，提高自身使用數(shù)字工具的安全意識和安全能力。一是當(dāng)在涉及到轉(zhuǎn)賬交易等行為時要格外留意，可以通過電話、視頻等方式再三確認(rèn)對方是否是本人；二是加強(qiáng)個人信息保護(hù)意識，謹(jǐn)慎點擊不明鏈接，不管是在互聯(lián)網(wǎng)上還是社交軟件上，盡量避免過多地暴露自己的信息，以免被騙子精準(zhǔn)圍獵。
在政策層面，已出臺相關(guān)文件，但更要加強(qiáng)對AI技術(shù)的監(jiān)管和管理。2022年11月25日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，明確了深度合成數(shù)據(jù)和技術(shù)管理規(guī)范。要求深度合成服務(wù)提供者和技術(shù)支持者加強(qiáng)訓(xùn)練數(shù)據(jù)管理和技術(shù)管理，保障數(shù)據(jù)安全，不得非法處理個人信息。其中提到：深度合成服務(wù)提供者對使用其服務(wù)生成或編輯的信息內(nèi)容，應(yīng)當(dāng)添加不影響使用的標(biāo)識。提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內(nèi)容功能的服務(wù)的，應(yīng)當(dāng)進(jìn)行顯著標(biāo)識，避免公眾混淆或者誤認(rèn)。
今年4月11日，國家網(wǎng)信辦公布了《生成式人工智能服務(wù)管理辦法（征求意見稿）》，其中提到，AI內(nèi)容必須真實準(zhǔn)確，還明確提到，禁止非法獲取、披露、利用個人信息和隱私、商業(yè)秘密。
對于提供“AI換臉”技術(shù)的互聯(lián)網(wǎng)科技類企業(yè)，要加大監(jiān)管力度。此外，各網(wǎng)絡(luò)平臺對于AI換臉的應(yīng)用應(yīng)當(dāng)擔(dān)負(fù)起責(zé)任。目前，推出AI換臉功能的平臺以及允許AI換臉相關(guān)內(nèi)容傳播的平臺，都應(yīng)該加強(qiáng)審核，以避免AI技術(shù)被不法分子利用。
在技術(shù)層面，緊盯數(shù)據(jù)的信息采集、儲存、共享、披露等各環(huán)節(jié)，進(jìn)行全鏈條管理。當(dāng)前AI安全研究仍然落后于AI能力研究，這也是安全技術(shù)廠商應(yīng)持續(xù)攻關(guān)的方向。加大對AI換臉技術(shù)的技術(shù)研究和防范措施的開發(fā)力度，提高AI換臉技術(shù)的安全性和可靠性，研發(fā)更加智能化的識別系統(tǒng)用于辨別真?zhèn)?，減少此類詐騙行為的生存空間。
人臉信息作為敏感個人信息，不正當(dāng)使用將對社會公眾的人身和財產(chǎn)安全帶來重大風(fēng)險。在使用新興技術(shù)時，我們不能忘記法律的規(guī)制、道德倫理的約束，這是所有技術(shù)發(fā)展應(yīng)有的邊界。于此同時，必須時刻保持高度警惕，增強(qiáng)自我安全意識和能力，才能防范網(wǎng)絡(luò)詐騙。
標(biāo)簽：
