界面新聞記者 | 于浩
界面新聞編輯 | 文姝琪
日漸成熟的AI技術(shù)正在模糊虛擬與現(xiàn)實的邊界，諸多爭議也隨之出現(xiàn)。
2月19日，梅西于微博上就“邁阿密國際中國香港行沒有出場”一事作出澄清。視頻中梅西表示，未出場并非是由于政治原因或其他原因，只是因為內(nèi)收肌有炎癥，確實無法上場參賽。
隨后這一視頻被質(zhì)疑可能是由AI生成。質(zhì)疑者稱，該視頻畫質(zhì)模糊且存在多處剪輯痕跡，他認(rèn)為在視頻中的梅西面部反光異常、左肩膀陰影跳變過快、發(fā)型與現(xiàn)在發(fā)型有出入?；谏鲜鲆蛩?，質(zhì)疑者認(rèn)為這一視頻是可能是用巴黎時期因為缺訓(xùn)而公開道歉的視頻合成。
界面新聞隨后聯(lián)系瑞萊智慧進(jìn)行了視頻檢測。據(jù)其工作人員介紹，瑞萊智慧的生成式人工智能內(nèi)容檢測平臺DeepReal檢測結(jié)果顯示，梅西澄清視頻沒有明顯的AI生成技術(shù)痕跡。鑒定視頻是否為偽造，還需結(jié)合梅西的日常習(xí)慣、發(fā)布者賬號等常識性信息進(jìn)行聯(lián)合研判。
從技術(shù)角度來看，通過AI數(shù)字人、AI換臉變聲等手段制作一段“梅西本人視頻”并不是新鮮事。今年年初，阿里云通義千問全民舞王功能已經(jīng)能產(chǎn)出“馬斯克跳科目三”的視頻內(nèi)容，如小冰、商湯等企業(yè)推出的數(shù)字人解決方案也已經(jīng)步入商用階段，在真實程度上完成商業(yè)驗證。
AI換臉變聲則更加普遍，以“AI換臉”為關(guān)鍵詞在視頻平臺搜索就可以很輕易找到相關(guān)教程，通過AI換臉變聲技術(shù)實施詐騙的案例在近幾年也頻繁出現(xiàn)。
多發(fā)的詐騙案例側(cè)面說明了AI生成視頻內(nèi)容質(zhì)量已達(dá)到一定水平。具體到梅西發(fā)布澄清視頻的案例中，上海哈沐科技CEO鄧庭豪認(rèn)為，上述質(zhì)疑者指出的“面部反光不自然”、“未露出牙齒”等特征因素可以作為辨別時的參考，但是并不能百分之百下定論?！癆I生成的（視頻）牙齒也可以很清晰的?！?/span>
上海哈沐科技此前曾以換臉技術(shù)為基礎(chǔ)服務(wù)出海短劇的制作，據(jù)鄧庭豪的觀察，類似澄清視頻這種講話場景，現(xiàn)階段的技術(shù)已經(jīng)可以做到肉眼很難分辨，AI容易出紕漏的點在于手指。他表示，AI很難生成正常的連續(xù)活動的手指。布局出海短劇的易點天下也在嘗試使用AI換臉技術(shù)。易點天下KreadoAI負(fù)責(zé)人羅曉奇也指出，在手部遮擋臉部的時候，AI產(chǎn)出的內(nèi)容往往會有很大的瑕疵。
整體來看，瑞萊智慧聯(lián)合創(chuàng)始人、算法科學(xué)家蕭子豪在接受界面新聞采訪時曾表示，AI生成內(nèi)容越來越逼真是近幾年的一個趨勢，個人用戶想要通過肉眼進(jìn)行分辨會很困難。
在視頻電話等場景下，蕭子豪建議通過讓對方做一些大幅度的搖頭、張嘴之類的動作來嘗試辨別真?zhèn)?。在技術(shù)手段較弱的情況下，對方有可能會出現(xiàn)面部邊緣或者牙齒的瑕疵。
肉眼可能很難分辨，但是借由技術(shù)手段依然可能捕捉到一些端倪。瑞萊智慧所推出的生成式人工智能內(nèi)容檢測平臺DeepReal可對圖像、視頻、音頻內(nèi)容進(jìn)行真?zhèn)伪鎰e，在學(xué)術(shù)數(shù)據(jù)集和主流方式生成的網(wǎng)絡(luò)數(shù)據(jù)集中的準(zhǔn)確率為99%以上。
據(jù)蕭子豪介紹，瑞萊智慧辨別思路大致可分為兩種，一種是尋找圖像編輯痕跡，“一般來說這類換臉都會對原先的人臉進(jìn)行編輯，做動畫的過程中會有類似圖片編輯的操作并且留下痕跡，這類痕跡和真正拍攝時的痕跡是不一樣的。我們會檢測這類痕跡做出記錄。”蕭子豪解釋說。
另一類則是檢測視頻中是否會展現(xiàn)出不符合常識的行為，如長時間不眨眼等等。綜合上述特征，瑞萊智慧團(tuán)隊就可以判別是否存在深度偽造的可能性，并根據(jù)可能性大小來處置這一內(nèi)容。
與“梅西澄清視頻是否真人拍攝”相比，AI技術(shù)背后可能存在的安全隱患或許更值得公眾關(guān)注。2月初香港便出現(xiàn)了一起詐騙金額高達(dá)2億元港幣的詐騙案例，據(jù)瑞萊智慧的不完全統(tǒng)計，2023年全年AI詐騙案件在全國已發(fā)生至少16起。
隨著AI技術(shù)不斷取得新進(jìn)展，相關(guān)監(jiān)管政策也在逐步跟進(jìn)。2023年年中《生成式人工智能服務(wù)管理暫行辦法》中指出，服務(wù)提供者應(yīng)當(dāng)對圖片、視頻等生成內(nèi)容進(jìn)行標(biāo)識。目前，如抖音、B站等視頻平臺都已上線了相關(guān)提示功能，在有AI參與制作的視頻內(nèi)容下都出現(xiàn)了“疑似AI生成”的提示。
對于個人而言，因為深度偽造制作的全材料是個人音頻、圖片、視頻，這些數(shù)據(jù)越多訓(xùn)練出的視頻就越逼真，所以瑞萊智慧建議，可以盡量避免在公開平臺上大量曬出自己或家人的照片和視頻，給不法分子提供便利。