界面新聞?dòng)浾?| 呂雅萱
界面新聞編輯 | 翟瑞民
接通微信視頻電話，你是否會(huì)懷疑屏幕對(duì)面說話的“好友”實(shí)則是個(gè)AI換臉的陌生人？
2023年5月8日，內(nèi)蒙古自治區(qū)包頭市公安局微信公眾號(hào)“平安包頭”發(fā)布了一起使用“AI換臉技術(shù)”進(jìn)行電信詐騙的案件。福州市某科技公司法人代表郭先生的好友通過微信視頻聯(lián)系到他，稱自己的朋友在外地投標(biāo)，需要430萬(wàn)元保證金，想要借用郭先生公司的賬戶走賬，并聲稱已經(jīng)把錢打到郭先生的賬戶上。
基于視頻聊天的信任，郭先生沒有核實(shí)錢是否到賬，就分兩筆把430萬(wàn)元給對(duì)方轉(zhuǎn)賬過去。事后，郭先生撥打好友電話，對(duì)方說沒有這回事，郭先生才意識(shí)到遇上了“高端”騙局，騙子通過智能AI換臉技術(shù)，佯裝成好友對(duì)他實(shí)施了詐騙。目前，330多萬(wàn)元已被緊急止付，剩下93.16萬(wàn)元正在追繳中。
ChatGPT的走紅，引發(fā)了新一輪對(duì)生成式AI技術(shù)的討論熱潮。一些人開始利用生成式AI技術(shù)牟利，甚至實(shí)施違法犯罪行為。針對(duì)上述詐騙案件，業(yè)內(nèi)人士分析，詐騙團(tuán)伙可能盜用了郭先生好友的微信號(hào)，并掌握了其朋友的圖片和音視頻等信息，以及對(duì)話風(fēng)格等，以用來(lái)訓(xùn)練AI模型，成功實(shí)施了詐騙。
浙江大學(xué)網(wǎng)絡(luò)空間安全學(xué)院院長(zhǎng)任奎2022年4月接受新華社采訪時(shí)表示，隨著合成技術(shù)應(yīng)用門檻的進(jìn)一步降低，合成內(nèi)容已模糊真實(shí)與偽造的邊界。專家擔(dān)心，科技界針對(duì)深度合成技術(shù)的識(shí)別能力，跑不過“偽造”技術(shù)的升級(jí)。
“換臉”成本低
打開網(wǎng)購(gòu)平臺(tái)和社交媒體，各類“AI換臉”軟件教程、視頻教學(xué)層出不窮，這也為其使用場(chǎng)景的泛化乃至被不法使用提供了便利條件。
界面新聞?dòng)浾咭再?gòu)買者身份咨詢一位銷售“AI換臉”軟件教程的客服。對(duì)方稱，全套軟件和教程分為400元和800元兩檔，后者作為高階版能讓換臉完成度更好。在對(duì)方展示的教學(xué)視頻中，使用者只需要上傳一張臉部照片，標(biāo)注出五官位置并調(diào)整軟件參數(shù)，一張“新臉”便應(yīng)用在視頻人物身上?？头Q，換臉后的視頻在各類場(chǎng)景中通過率高，人工審核也難辨真假。
清華大學(xué)人工智能研究院基礎(chǔ)理論研究中心主任朱軍此前接受新華社采訪時(shí)稱，目前公眾對(duì)照片等靜態(tài)信息易被篡改已有所警惕，但對(duì)視頻、聲音等動(dòng)態(tài)信息內(nèi)容仍持有較高信任度。深度合成技術(shù)飛速演進(jìn)，已經(jīng)讓“眼見不再為實(shí)”，破解身份核驗(yàn)的難度會(huì)越來(lái)越低、耗時(shí)將越來(lái)越短。
除了生成式AI技術(shù)，被打包銷售的個(gè)人信息則是AI網(wǎng)絡(luò)詐騙中所需投喂的“原料”。
據(jù)報(bào)道，合肥警方在2021年抓捕了一個(gè)利用AI技術(shù)偽造人臉動(dòng)態(tài)視頻的涉案嫌疑團(tuán)伙。在嫌疑人的電腦里，警方發(fā)現(xiàn)了十幾個(gè)G的公民人臉數(shù)據(jù)，人臉照片和身份證照片分門別類存放在一個(gè)個(gè)文件夾里。民警介紹，身份證正反面照片、手持身份證照片、自拍照等被稱為一套，成套照片被稱為“料”，出售照片的人被稱為“料商”，這些“料”在網(wǎng)上已轉(zhuǎn)手多次，而“料”的主人卻毫不知情。
犯罪嫌疑人馬某交代，由于制作簡(jiǎn)單，一個(gè)視頻價(jià)格僅為2至10元，“客戶”往往是成百上千購(gòu)買，牟利空間巨大。
對(duì)于這些公民照片信息的來(lái)源，北京京師律師事務(wù)所高級(jí)合伙人劉宏輝律師對(duì)界面新聞?wù)f，一些平臺(tái)在注冊(cè)或登錄時(shí)要求用戶上傳人臉或身份證照片，這些個(gè)人信息極易被盜取和泄露，進(jìn)而被犯罪分子利用。對(duì)此，在信息隱私極度缺乏的網(wǎng)絡(luò)時(shí)代，公民自身也要盡量避免在社交媒體上過多暴露個(gè)人信息。
法律規(guī)制亟待細(xì)化
界面新聞注意到，2022年以來(lái)，媒體已報(bào)道多起“換臉”詐騙案。比如浙江衢州中級(jí)人民法院的一份刑事裁定書披露，2018年7月份開始，張某等人利用已非法獲取的公民個(gè)人信息，運(yùn)用技術(shù)手段騙過支付寶人臉識(shí)別認(rèn)證，并使用公民個(gè)人信息注冊(cè)支付寶賬戶，非法獲利數(shù)萬(wàn)元。
微信、支付寶等作為換臉詐騙的承載平臺(tái)，是否需要在此次事件中擔(dān)責(zé)？劉宏輝接受界面新聞采訪認(rèn)為，此案件中平臺(tái)并不生產(chǎn)實(shí)際內(nèi)容，所以無(wú)需承擔(dān)責(zé)任。但如果有人發(fā)現(xiàn)平臺(tái)中存在詐騙行為并舉報(bào)，及時(shí)做出處理是平臺(tái)的責(zé)任。
在成為獲利工具的路上，“AI換臉”技術(shù)還被應(yīng)用于直播。近日，某短視頻平臺(tái)的一個(gè)直播間里，AI換臉后的“楊冪”“迪麗熱巴”等女星正在直播帶貨。此舉引發(fā)了人們關(guān)于肖像權(quán)的討論。據(jù)稱，這種“AI換臉”直播技術(shù)的全套價(jià)格為3.5萬(wàn)元。
劉宏輝對(duì)界面新聞表示，在沒有經(jīng)過對(duì)方授權(quán)情況下，“AI換臉”并運(yùn)用于商業(yè)直播明顯侵犯了對(duì)方的肖像權(quán)。而且，用作直播盈利還只是侵犯民事肖像權(quán)的問題，如果將其運(yùn)作于違法事件，那就是刑事犯罪問題。
4月11日，國(guó)家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務(wù)管理辦法（征求意見稿）》并向社會(huì)公開征求意見，其中對(duì)數(shù)據(jù)合規(guī)性、生成內(nèi)容合法性提出進(jìn)一步要求。
其中提出，提供生成式人工智能產(chǎn)品或服務(wù)應(yīng)當(dāng)遵守法律法規(guī)的要求，尊重社會(huì)公德、公序良俗， 尊重他人合法利益，防止傷害他人身心健康，損害肖像權(quán)、名譽(yù)權(quán)和個(gè)人隱私，侵犯知識(shí)產(chǎn)權(quán)。禁止非法獲取、披露、利用個(gè)人信息和隱私、商業(yè)秘密。
中倫律師事務(wù)所合伙人陳際紅接受新華社采訪時(shí)還指出，目前法律規(guī)定，禁止利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)，但技術(shù)如何使用算合理使用，哪些情形下應(yīng)禁止使用等，沒有具體規(guī)定；收集或收購(gòu)個(gè)人聲紋、照片，使用人臉、指紋、DNA、虹膜等個(gè)人生物信息等行為，在哪些范圍內(nèi)構(gòu)成犯罪、將面臨怎樣的懲罰，需要司法裁判進(jìn)一步給出明確指引。
多位專家提醒，針對(duì)花樣翻新的“變臉”詐騙，公眾要提高防范意識(shí)，不輕易提供人臉、指紋等個(gè)人生物信息給他人，不過度公開或分享動(dòng)圖、視頻等；網(wǎng)絡(luò)轉(zhuǎn)賬前要通過電話、視頻等多種溝通渠道核驗(yàn)對(duì)方身份。一旦發(fā)現(xiàn)風(fēng)險(xiǎn)，及時(shí)報(bào)警求助。