FBI近日警告稱，惡意行為者制作深度虛假內(nèi)容來實施性勒索攻擊的趨勢正在上升。
(相關(guān)資料圖)
性勒索是網(wǎng)絡(luò)勒索形式的其中一種，這些惡意行為者通過公開泄露竊取或脅迫獲得的露點圖像和視頻，來威脅他們的目標(biāo)，通常是要求這些受害者支付封口費。
在許多性勒索案件中，那些泄露的內(nèi)容其實并非真實影像，威脅行為者只是假裝自己有訪問權(quán)限，以達(dá)到最終勒索贖金的目的。
FBI警告說，性勒索者現(xiàn)在正在收集他們勒索目標(biāo)的公開圖像，比如發(fā)布在社交媒體平臺上的無害圖片和視頻。然后將這些圖像輸入深度偽造內(nèi)容創(chuàng)建工具，將其轉(zhuǎn)化為人工智能生成的露骨色情內(nèi)容。
雖然制作的圖像或視頻都不是真實的，但它們看起來非常真實，威脅行為者只要將這些材料發(fā)送給勒索目標(biāo)的家人，同事等，極可能給受害者帶來巨大的個人和聲譽傷害。
截至2023年4月，F(xiàn)BI發(fā)現(xiàn)性勒索受害者報告使用虛假圖像或視頻的情況有所增加，而這些圖像或視頻均是基于他們在社交媒體網(wǎng)站或網(wǎng)頁上發(fā)布的內(nèi)容創(chuàng)建的，或者是在視頻聊天中捕獲的。
根據(jù)最近的受害者報告，惡意行為者通常要求：
付款(如金錢、禮品卡)，并威脅如果未收到資金，將圖像或視頻分享給家人或社交媒體朋友；受害者發(fā)送真實的性主題圖片或視頻；FBI表示，有一些勒索者會跳過勒索部分，直接將制作好的視頻發(fā)布到色情網(wǎng)站，在受害者不知情或未經(jīng)其同意的情況下，將受害者暴露在大量觀眾面前。
在某些情況下，性勒索者還會利用這些公開上傳的內(nèi)容來增加受害者的壓力，要求其支付從網(wǎng)站上刪除發(fā)布的圖像/視頻的費用。
FBI報告稱，不幸的是這種媒體操縱活動也影響到了未成年人。
如何保護(hù)自己強大的人工智能內(nèi)容創(chuàng)建工具正在高速迭代，提供便利的同時也為所有互聯(lián)網(wǎng)用戶創(chuàng)造了一個充滿敵意的環(huán)境，尤其是那些敏感類別的用戶。
比如，通過GitHub有多個免費的內(nèi)容創(chuàng)建工具項目，它可以從目標(biāo)面部的單個圖像創(chuàng)建逼真的視頻，不需要額外的訓(xùn)練或數(shù)據(jù)集。
這些工具中有許多都內(nèi)置了防止濫用的保護(hù)措施，但那些在地下論壇和暗網(wǎng)市場上出售的工具卻沒有。
暗網(wǎng)上提供的色情創(chuàng)作工具（來源：卡巴斯基）
FBI建議父母監(jiān)控孩子的在線活動，并告訴他們在線分享個人信息的風(fēng)險。此外，家長最好隔一段時間就在網(wǎng)上搜索一次，以確定他們的孩子在網(wǎng)上的曝光量，并在必要時采取行動刪除內(nèi)容。
在網(wǎng)上發(fā)布圖片或視頻的成年人應(yīng)該限制在一個小的私人朋友圈內(nèi)觀看，以減少曝光。同時，孩子的臉應(yīng)該盡量模糊處理。
最后，如果你在色情網(wǎng)站上發(fā)現(xiàn)了與你相關(guān)的AI虛假合成內(nèi)容，請向有關(guān)部門報告，并聯(lián)系托管平臺，要求刪除違規(guī)媒體。
英國最近以《在線安全法案》(Online Safety Bill)修正案的形式引入了一項法律，將未經(jīng)同意分享深度造假的行為正式列為一種犯罪行為。
標(biāo)簽：
