文|獵云網(wǎng) 邵延港
誰(shuí)能想到,一場(chǎng)多人參加的跨國(guó)視頻會(huì)議,竟然只有一個(gè)人是真人,其余的“參會(huì)人員”全部是經(jīng)過(guò)AI換臉的詐騙“人員”。最后的結(jié)果就是受害人將2億港元分別轉(zhuǎn)賬15次,轉(zhuǎn)賬到5個(gè)本地銀行賬戶。
“AI換臉”的話題已經(jīng)被討論了很多年,如今已經(jīng)真實(shí)到看不出破綻了嗎?
新一輪的AI浪潮,大模型的能力進(jìn)一步增強(qiáng),這種新技術(shù)也在加速向現(xiàn)實(shí)世界沖擊。無(wú)論是ChatGPT,還是sora,AIGC都在“努力”創(chuàng)造一個(gè)真假難辨的世界:虛擬與現(xiàn)實(shí)的交織、身份與形象的混淆、聲音與真實(shí)的錯(cuò)位、文字與真實(shí)的界限模糊。
如今,AI這個(gè)潘多拉的魔盒被進(jìn)一步打開。AIGC是未來(lái)十年甚至更長(zhǎng)周期的技術(shù)趨勢(shì)和變革動(dòng)力,而技術(shù)發(fā)展的兩面性,在帶來(lái)機(jī)遇和發(fā)展同時(shí),也帶來(lái)新的風(fēng)險(xiǎn)和挑戰(zhàn)。
不過(guò),歷史的發(fā)展規(guī)律仍舊沒(méi)有變,無(wú)論是否為虛擬創(chuàng)造的產(chǎn)物,“作惡”的從來(lái)不是作為工具的AI本身。好在,AI也提供了一種新的途徑來(lái)鑒別AIGC,即更了解自己的AI去打敗AI自己。
AIGC安全問(wèn)題泛濫
毫無(wú)疑問(wèn),各種AI引發(fā)的問(wèn)題背后,是技術(shù)的進(jìn)步。從Transformer網(wǎng)絡(luò)到ChatGPT,從最初專用于人臉深度合成的 DeepFaceLab發(fā)展到通用視頻生成服務(wù)Gen-2,各種生成式人工智能模型如今已經(jīng)不稀奇了。
大模型能做到這種程度的原因,終究還是機(jī)器學(xué)習(xí)能力的躍升。中文垂直創(chuàng)作大模型公司波形智能創(chuàng)始人姜昱辰這樣比喻:人工智能學(xué)習(xí)方法跟我們?nèi)朔浅O嘞瘛0褨|西教給AI,它再進(jìn)行學(xué)習(xí)和消化,之后就是模仿與創(chuàng)作。在初期,AI的反饋可能不盡如人意,但做過(guò)個(gè)性化的范式訓(xùn)練時(shí),AIGC的“人味”會(huì)更明顯。
AIGC能做到也不只是如此。中文大模型已經(jīng)經(jīng)過(guò)層層打磨,寫一篇質(zhì)量過(guò)關(guān),看不出“機(jī)器味”的稿子早已不是難事。隨著大模型的應(yīng)用越來(lái)越廣泛,馬斯克有當(dāng)前最大參數(shù)大模型,谷歌有性能最強(qiáng)大模型,這些都能為之帶來(lái)更多的想象力。
當(dāng)今年OpenAI再次祭出大殺器sora時(shí),APUS董事長(zhǎng)兼CEO李濤直言:它不僅展示了人工智能在視頻生成領(lǐng)域的強(qiáng)大能力,更觸及了人類對(duì)創(chuàng)作、真實(shí)性和未來(lái)的認(rèn)知。
騰訊云天御安全專家黃澤豐表示,AIGC的安全存在于三個(gè)階段:一是數(shù)據(jù)訓(xùn)練階段的AI內(nèi)生安全,二是大模型部署運(yùn)營(yíng)時(shí)的AI應(yīng)用安全,三是推廣到公眾后的AI衍生安全。
如今公眾關(guān)注的如AI人臉詐騙這類問(wèn)題,已經(jīng)是一個(gè)非常復(fù)雜的問(wèn)題。
黃澤豐表示:AI換臉早期更多是通過(guò)社交工程學(xué)詐騙,通過(guò)不法手段獲取個(gè)人的信息,再進(jìn)行加工處理進(jìn)行欺詐;而現(xiàn)在演變?yōu)榭梢詫?shí)時(shí)模擬人臉的同時(shí),將嘴型和眨眼等動(dòng)作進(jìn)行合成,極大的提升了迷惑性。
AIGC的安全挑戰(zhàn)讓世界真假難辨,內(nèi)容合規(guī)與幻覺(jué)一直是AIGC的首先要解決的問(wèn)題。AI換臉視頻的形成,關(guān)鍵在于個(gè)人信息的泄露,而當(dāng)人臉信息被惡意使用時(shí),對(duì)于各種系統(tǒng)安全、金融安全、個(gè)人隱私等問(wèn)題形成連鎖反應(yīng)。據(jù)悉,AIGC的快速發(fā)展已經(jīng)引發(fā)了黑灰產(chǎn)的新一輪的攻擊,利用AI換臉、批量生成版權(quán)內(nèi)容套現(xiàn)獲利等問(wèn)題頻發(fā)。
以前,東南亞詐騙團(tuán)伙利用病毒去獲取用戶信息,做成視頻去欺騙銀行,獲得一些轉(zhuǎn)賬或者是貸款的問(wèn)題,整個(gè)系統(tǒng)非常成熟?,F(xiàn)在,有人可以基于人臉合成、擬聲等AI技術(shù)進(jìn)行臉部替換,并結(jié)合表情驅(qū)動(dòng)做出眨眼、張嘴等動(dòng)作來(lái)構(gòu)造虛假的人臉視頻,同時(shí)通過(guò)攝像頭劫持進(jìn)行攻擊。
AIGC可以帶來(lái)繽紛多彩的世界,但其對(duì)安全的刁難又該如何化解?
用大模型對(duì)抗大模型
面對(duì)AIGC帶來(lái)的震撼,李濤也感慨道:通過(guò)完全虛擬構(gòu)建展示真實(shí)場(chǎng)景,在未來(lái)這種“真實(shí)”與“虛擬”的界限模糊,讓我們不得不去思考:在AI時(shí)代,我們應(yīng)該如何定義和理解真實(shí)與虛擬。
大模型對(duì)于模擬對(duì)象的了解已經(jīng)達(dá)到很高的程度,對(duì)于以往的偽造內(nèi)容,現(xiàn)有檢測(cè)系統(tǒng)的檢測(cè)準(zhǔn)確率可以達(dá)到90%以上,但是對(duì)基于大模型生成的內(nèi)容,其檢測(cè)效果并不好。
但現(xiàn)在有一個(gè)明確的思路,就是用大模型對(duì)抗大模型。
黃澤豐表示,想要鑒別AI視頻詐騙,首先要確保設(shè)備是否處在安全的系統(tǒng)環(huán)境里,例如系統(tǒng)可能被解鎖、篡改、重置、“雙開”等等。
但是,現(xiàn)在AI對(duì)AI,這種檢測(cè)更難,除了前端要這樣做檢測(cè),后端就要以同樣的模型來(lái)檢測(cè)不同的動(dòng)作,或者是更多的信息維度。
無(wú)論AI如何模擬,由于AIGC是通過(guò)算法和模型生成的,它們往往具有一些特定的模式或特征,AIGC終究會(huì)在人類面前露出馬腳。利用AI的深度學(xué)習(xí)技術(shù),我們可以訓(xùn)練模型來(lái)識(shí)別這些特征,從而判斷一段內(nèi)容是否是由AI生成的。
當(dāng)然,AIGC內(nèi)容安全新挑戰(zhàn)不僅體現(xiàn)在“天文級(jí)”的數(shù)據(jù)體量,處理的內(nèi)容也更加復(fù)雜。在內(nèi)容生成階段,新型AI偽造、虛假、違背倫理、不適內(nèi)容、未成年人等違規(guī)內(nèi)容,以及AI問(wèn)答產(chǎn)生專業(yè)性內(nèi)容,都超出傳統(tǒng)內(nèi)容風(fēng)控的范疇。
作為安全領(lǐng)域的專家,黃澤豐認(rèn)為AIGC的鑒別不會(huì)是100%準(zhǔn)確。目前,AIGC在一些細(xì)節(jié)上還是有很大的特征,例如AI渲染過(guò)的圖經(jīng)常會(huì)有一些沒(méi)有邏輯的。但有時(shí)候,AIGC內(nèi)容還會(huì)經(jīng)過(guò)二次修改,比如文章和代碼,這樣情況就會(huì)很難去鑒別。
但有思路就要有嘗試。
獵云網(wǎng)了解到,螞蟻數(shù)科有一支ZOLOZ“數(shù)字身份打假隊(duì)”,專注于辨別數(shù)字身份欺詐。據(jù)介紹,數(shù)字身份打假隊(duì)早在2020年就在儲(chǔ)備用AIGC打敗AIGC這項(xiàng)防御能力,而在當(dāng)時(shí),這樣的真實(shí)攻擊并不多見。于是,他們同樣用“左右手互搏”的方式打磨系統(tǒng)。先用AIGC 批量生成虛擬人臉,再利用生成的樣本來(lái)攻擊自己,從而不斷地優(yōu)化防御能力。
面對(duì)AI詐騙這類人臉合成攻擊,騰訊云慧眼也用AI打敗AI,其開發(fā)的遠(yuǎn)近活模式,相比傳統(tǒng)的活體檢測(cè)技術(shù),遠(yuǎn)近活體通過(guò)對(duì)交互過(guò)程中人臉的形變信息建模,并對(duì)交互行為進(jìn)行分析,從而分辨出是真人還是攻擊,能夠有效檢測(cè)并攔截新型 AIGC 攻擊以及高清紙片、翻拍、面具等常見攻擊。
作為安全廠商,360最新上線了360安全大模型,其中提出了“以模治?!钡姆桨福床捎谩靶∧P汀钡募夹g(shù)保障大模型安全的技術(shù)路線。
在產(chǎn)業(yè)界,用魔法打敗魔法的思路已經(jīng)被推廣。作為AI檢測(cè)與安全領(lǐng)域的技術(shù)服務(wù)商們,不只在鉆研,也在持續(xù)向外界賦能,AIGC的標(biāo)簽也不會(huì)只隱藏在暗處。
AIGC主導(dǎo)的世界
給AIGC內(nèi)容打上標(biāo)簽,更多的是無(wú)奈,而AI被濫用已經(jīng)不是新鮮事了,當(dāng)下AI被濫用情況急需被遏止。
如今,安全行業(yè)圍繞AI的攻擊和防御一直是個(gè)業(yè)界焦點(diǎn)。在黑灰產(chǎn)產(chǎn)業(yè)化、鏈條化的分工模式下,應(yīng)用AI發(fā)起安全攻擊的門檻越來(lái)越低。
當(dāng)AIGC的能力逐漸增強(qiáng),大模型高效泛化內(nèi)容生成的特點(diǎn),會(huì)讓黑客以更低的門檻和成本,發(fā)動(dòng)更密集的攻擊。相比較而言,防守需要更縝密的邏輯關(guān)聯(lián),更精準(zhǔn)的溯源能力。在新技術(shù)的實(shí)踐落地過(guò)程中,成本效率將會(huì)經(jīng)歷更嚴(yán)峻的考驗(yàn)周期。
但也不是所有事情都需要去鑒別是否由AI生成,不是因?yàn)橛袝r(shí)候AI也“無(wú)能為力”,而是AIGC是挑戰(zhàn)也是機(jī)遇。
當(dāng)AI作為輔助時(shí),人類生產(chǎn)效率的可觀提升,被視為一場(chǎng)生產(chǎn)力的變革。多模態(tài)的AIGC技術(shù)可以超越人類原有的表現(xiàn)形式去創(chuàng)造新的表現(xiàn)形式,自動(dòng)化生成大量?jī)?nèi)容,不僅可以節(jié)省人力和時(shí)間成本,對(duì)于嚴(yán)謹(jǐn)?shù)膶I(yè)領(lǐng)域的內(nèi)容可以減少或消除誤差。
但無(wú)論內(nèi)容是AI創(chuàng)造的,還是人創(chuàng)造的,這個(gè)內(nèi)容對(duì)社會(huì)有用,它就是有意義的;如果說(shuō)信息有害,無(wú)論是人的創(chuàng)造還是AIGC的創(chuàng)造,都需要去鑒別出來(lái)。
國(guó)內(nèi)某網(wǎng)文平臺(tái)編輯告訴獵云網(wǎng),“AI寫小說(shuō)在四五年前就有了,只不過(guò)這類文章很難達(dá)到簽約標(biāo)準(zhǔn),從質(zhì)量上一眼就能看出來(lái),并且目前還沒(méi)聽說(shuō)哪一本AI寫的書出了不錯(cuò)的成績(jī)。” AI可以加速稿件更新進(jìn)度,提高作者效率,但只要文章的反饋好,誰(shuí)還會(huì)在意它是怎么生成的呢?
但用AIGC去偽造內(nèi)容,本身就是一條歧路。AIGC內(nèi)容的版權(quán)風(fēng)險(xiǎn),幾乎成為共識(shí),畢竟這個(gè)生產(chǎn)過(guò)程,也是學(xué)習(xí)過(guò)程,人類的學(xué)習(xí)也離不開初期的模仿。
對(duì)于內(nèi)容是否由AI主導(dǎo)要因地制宜,多數(shù)觀點(diǎn)認(rèn)為還是要給AI發(fā)揮的土壤。