世界通訊！AI換臉詐騙，戳中了人臉識別企業(yè)的哪些軟肋？

2023-05-30 17:47:07 阿爾法工場

最近，關(guān)于AI換臉詐騙的新聞火了。4月20日，福州市某科技公司法人代表郭先生，突然接到好友的微信視頻，好友告訴郭先生，自己的朋友在外地投標(biāo)，需要430萬元保證金。

由于在視頻中看到了好友的樣貌，聽到了聲音，于是郭先生就放心地將錢轉(zhuǎn)了過去。

(資料圖片僅供參考)

可后來他卻發(fā)現(xiàn)，自己竟然遇上了“高端”騙局，對方通過智能AI換臉技術(shù)，佯裝成好友對他實施了詐騙……

這類消息，著實引起人們心中一陣恐慌。

因為身為凡胎肉體的你我，僅憑肉眼是很難看出這些偽造視頻的破綻的。

那豈不是意味著，遇到這樣的“AI騙術(shù)”，普通人受騙的幾率近乎100%了？

且慢，話說魔高一尺，道高一丈，既然AI換臉都發(fā)展到這地步了，那與之針鋒相對的“AI鑒偽”技術(shù)，又發(fā)展得怎樣了？

01 造假VS鑒偽

談到這個問題，身為“防守方”的AI鑒偽技術(shù)團隊，似乎有一種難以言說的艱辛。

因為在這場造假與鑒偽的“貓鼠游戲”中，AI換臉這類造假技術(shù)的成本，相比AI鑒偽技術(shù)的研發(fā)成本要低得多。

這就導(dǎo)致了許多研發(fā)AI鑒偽技術(shù)的企業(yè)、機構(gòu)，從決定和造假者們死磕的那天起，就注定了要打一場十分艱難的戰(zhàn)爭。

就目前來看，AI換臉技術(shù)的成本主要包括以下幾個方面：

數(shù)據(jù)采集和處理的成本：AI換臉技術(shù)需要大量的人臉圖像或視頻作為訓(xùn)練數(shù)據(jù)，但這些數(shù)據(jù)大部分都可以從互聯(lián)網(wǎng)上免費獲取，也可以通過付費購買或定制。

甚至有時候，定制一個AI換臉視頻幾乎是“九塊九包郵”。

算法開發(fā)和優(yōu)化的成本：AI換臉技術(shù)主要基于深度學(xué)習(xí)和計算機視覺的算法，雖然這個過程需要一定的專業(yè)知識和技能，但是并不是特別高。

一方面，有很多開源平臺，如Faceswap、DeepFaceLab等，本身就提供了現(xiàn)成的算法代碼，用戶只需要下載使用即可，無需自行開發(fā)或改進。另一方面，即使用戶需要自行開發(fā)或改進算法，也可以借鑒已有的算法框架和思路，無需從零開始。

硬件設(shè)備和運行環(huán)境的成本：一般來說，一臺配置稍好的個人電腦就可以滿足需求，不需要特別昂貴的專業(yè)設(shè)備。舉例來說，一種比較流行的AI換臉軟件DeepFaceLab，僅需要一張NVIDIA RTX系列或GTX系列的獨立顯卡，且顯存為6GB就可運行。

這樣的一臺個人電腦，其成本大約在數(shù)千元左右。

與AI鑒偽技術(shù)所需的各種成本相比，這些偽造技術(shù)的成本簡直低得如同兒戲。

具體來說，AI鑒偽的成本大致包括了以下部分：

數(shù)據(jù)標(biāo)注和篩選的成本：AI鑒偽技術(shù)需要大量的圖像或視頻作為訓(xùn)練數(shù)據(jù)，這些數(shù)據(jù)需要經(jīng)過人工標(biāo)注和篩選。

然而，這一過程的難度可能超出了很多人的想象。

舉個例子，如果要對一小時的視頻進行人臉識別的標(biāo)注，需要先將視頻分割成幀，然后對每一幀中的人臉進行定位、標(biāo)識、分類等操作，還要考慮人臉的遮擋、模糊、光照等影響因素，以及人臉的姿態(tài)、表情、年齡等屬性信息。這樣一來，一小時的視頻可能需要幾十個小時甚至幾百個小時才能完成標(biāo)注。

其次，數(shù)據(jù)標(biāo)注不僅僅是簡單地給圖像或視頻打上標(biāo)簽，不同的任務(wù)和場景需要不同的標(biāo)注規(guī)則和方法，標(biāo)注人員需要掌握相關(guān)的領(lǐng)域知識和技術(shù)能力，才能保證數(shù)據(jù)的質(zhì)量和有效性。

算法設(shè)計和測試的成本：AI鑒偽技術(shù)主要基于深度學(xué)習(xí)和計算機視覺的算法，這些算法需要根據(jù)不同類型和質(zhì)量的偽造內(nèi)容進行設(shè)計和測試，以提高檢測的覆蓋率和魯棒性。

算法設(shè)計和測試是一個復(fù)雜且持續(xù)更新的過程，需要專業(yè)的團隊和資源。算法設(shè)計和測試的成本取決于算法的復(fù)雜度、性能、效率等因素，但一般來說，每個算法項目的研發(fā)成本至少在幾十萬到幾百萬美元之間。

硬件設(shè)備和系統(tǒng)的成本：但凡了解過大模型訓(xùn)練成本的朋友，都知道這一過程對硬件的高昂要求，即使今天的機器視覺技術(shù)經(jīng)過了層層優(yōu)化，但一個完整的機器視覺系統(tǒng)的價格至少在幾萬到十幾萬元之間，包括硬件成本、軟件成本、計算成本以及存儲成本。

綜上所述，由于AI造假技術(shù)天然所具備的成本優(yōu)勢，使得目前這場造假VS鑒偽的戰(zhàn)爭，呈現(xiàn)出了一種“正規(guī)軍圍剿游擊隊”的態(tài)勢。

在這樣的較量中，受害最多的“災(zāi)區(qū)”，往往是高成本AI鑒偽技術(shù)難以覆蓋的地方。

02 鑒偽技術(shù)的軟肋

回顧這些年見諸于各大媒體的AI詐騙事件，我們不難發(fā)現(xiàn)，這類事件中最常見的受害者，往往是作為個體的普通民眾，而非企業(yè)、政府或金融機構(gòu)。

例如，5月22日，安徽安慶的何先生接到熟人視頻電話，讓他幫忙轉(zhuǎn)一筆賬。“因為打了視頻電話，又是熟人，我就沒多想，就轉(zhuǎn)賬了”。事發(fā)時，何先生放松了警惕，向?qū)Ψ睫D(zhuǎn)了245萬元。

同樣地，2023年3月，陜西的一名女子被騙子利用AI換臉技術(shù)冒充其女兒，通過視頻通話詐騙了不少錢。騙子先是通過微信添加了女子為好友，并自稱是其女兒的同學(xué)。

之后，騙子再通過AI換臉技術(shù)，將自己的面部替換成女子女兒的面部，并以女兒出車禍為由，又騙走了一筆錢。

其實，出現(xiàn)這類現(xiàn)象的原因不難理解，由于目前AI鑒偽技術(shù)的研發(fā)成本較為高昂，因此大部分擁有此類技術(shù)的公司，都只將這些技術(shù)向企業(yè)、政府或金融類客戶開放，而無法覆蓋到普通個人用戶。

以百度為例，雖然其在自身的AI開放平臺上，推出了人臉深度鑒偽接口，用于準(zhǔn)確鑒別Al換臉技術(shù)生成的人臉圖像，但是這一接口卻存在著一定的使用門檻。

使用者需要在百度AI開放平臺注冊賬號，并申請使用該接口。其次，該接口是收費的，根據(jù)調(diào)用次數(shù)和服務(wù)質(zhì)量的不同，有不同的收費標(biāo)準(zhǔn)。

而同樣地，百度旗下的產(chǎn)品度小滿，雖然也推出了自身的防深偽技術(shù)，但這一技術(shù)主要覆蓋的群體，是金融領(lǐng)域的客戶，其涉及的場景主要是借貸、投資、理財?shù)葮I(yè)務(wù)。

雖然各大企業(yè)，基于微表情分析、圖卷積（GCN）技術(shù)以及基于重建的自監(jiān)督預(yù)訓(xùn)練方法，對目前的AI鑒偽技術(shù)進行了大幅升級，但在大模型愈發(fā)普及的當(dāng)下，AI詐騙的技術(shù)，也開始呈現(xiàn)出一種更加低廉化、普遍化的趨勢。

除非這些嚴(yán)密而高效的鑒偽技術(shù)，能夠普及到每個個人用戶的微信上，并且調(diào)用起來跟小程序一樣毫無門檻和難度，否則，那類通過“微信好友”的方式進行詐騙的AI技術(shù)，就永遠(yuǎn)有機可乘。

事情發(fā)展到這一步，AI技術(shù)與倫理、法律之間的糾葛，似乎到了某個比較關(guān)鍵的轉(zhuǎn)折點。

倘若這些低成本，針對個人的AI詐騙事件屢禁不止，甚至借著這波大模型的“東風(fēng)”，進一步席卷全國，那么就會有更多不法分子肆無忌憚，如法炮制，進而引起民眾的進一步恐慌。

而在AI鑒偽技術(shù)得不到下沉的情況下，監(jiān)管部門為了防范此類事件的頻發(fā)，只能進一步收緊對AI技術(shù)使用的審核機制，而嚴(yán)格的審核機制，則會間接降低AI生態(tài)的活躍度和市場的繁榮度。

很多原本能制造奇跡的創(chuàng)意或項目，也許還沒開始，就被卡死在了繁雜的審核階段。

但除了這類悲觀的前景外，現(xiàn)實還存在著另一種可能，那就是更多企業(yè)和機構(gòu)，在這類AI詐騙的壓力下，開始尋求突破和創(chuàng)新，形成一種創(chuàng)新驅(qū)動的機制。

03 魔高一丈，道高一尺

盡管AI鑒偽技術(shù)，面臨著成本高企，難以下沉的局面，但破局之道其實并非不存在，因為一種技術(shù)的升級，所帶來的影響可能不是垂直和單一的，而往往有可能是多維和廣闊的。

例如AI鑒偽所涉及的計算機視覺、圖像識別等底層技術(shù)，就有著十分廣闊的應(yīng)用范圍，和巨大的發(fā)展空間。

例如，在智能駕駛方面，目前的計算機視覺、圖像識別等技術(shù)還不能完全替代人類的駕駛，還需要結(jié)合其他傳感器、雷達、地圖等信息，提高感知的準(zhǔn)確性和魯棒性，同時還需要解決道路復(fù)雜多變的情況，提高決策的智能性和安全性。

在智慧農(nóng)業(yè)領(lǐng)域，通過提高圖像識別的覆蓋率和及時性，可以實現(xiàn)對農(nóng)作物、土壤、病蟲害等的更全面和更實時的監(jiān)測和診斷，從而提高農(nóng)業(yè)生產(chǎn)的質(zhì)量和效率。

類似受益的領(lǐng)域，還有交通、醫(yī)療、文娛等等。

從更長遠(yuǎn)的角度來看，這一下沉過程造成的技術(shù)外溢，將會使得更多的經(jīng)濟主體能夠獲取和使用先進技術(shù)，從而促進創(chuàng)新活動的多元化和活躍化。

同時，技術(shù)門檻的降低，也必然會導(dǎo)致生產(chǎn)成本和價格的下降，使得企業(yè)能夠進一步擴大市場規(guī)模，促進了經(jīng)濟增長。

從這樣的角度來看，目前的AI詐騙事件，只是大模型在走向下沉過程中，所必然要遭受的一種劫難或磨礪。

唯有經(jīng)過了這樣的考驗，AI所帶來的各種技術(shù)，才能真正地在法律、倫理上，被社會大眾廣泛地接納。