直播間里好多“明星臉”?AI換臉詐騙引熱議

近日，“某科技公司老板遭遇AI換臉詐騙”一事引發(fā)網(wǎng)友熱議。

據報道，當事人突然接到好友的微信視頻，經(jīng)過(guò)短暫聊天，好友開(kāi)口借錢(qián)?；谝曨l聊天及信任對方的前提下，他毫無(wú)懷疑把錢(qián)轉了過(guò)去，沒(méi)想到卻是不法分子通過(guò)AI換臉技術(shù)，佯裝好友進(jìn)行詐騙。

(資料圖)

魔幻一幕令人吃驚，但這并非AI換臉第一次作惡了。

除了詐騙錢(qián)財，此前還有女子被人利用AI“一鍵脫衣”造黃謠，某男子利用視頻合成技術(shù)，將電視劇中與某知名女星親吻的男主角換成自己以蹭流量，效果都到了以假亂真的地步。如上案件細節不盡相同，但無(wú)不直觀(guān)展示了一些人利用AI作惡的可怖之處。

10分鐘內被騙430萬(wàn)元

AI換臉被用于詐騙

近日，“平安包頭”公眾號發(fā)布一起利用人工智能（AI）實(shí)施電信詐騙的典型案例。

“平安包頭”的警情通報顯示，4月20日中午，郭先生的好友突然通過(guò)微信視頻聯(lián)系他，稱(chēng)自己的朋友在外地競標，需要430萬(wàn)保證金，且需要公對公賬戶(hù)過(guò)賬，想要借郭先生公司的賬戶(hù)走賬。

基于對好友的信任，加上已經(jīng)視頻聊天“核實(shí)”了身份，郭先生沒(méi)有核實(shí)錢(qián)款是否到賬，就分兩筆把430萬(wàn)轉到了好友朋友的銀行卡上。

事后，郭先生撥打好友電話(huà)才知道被騙，原來(lái)騙子通過(guò)智能AI換臉和擬聲技術(shù)，佯裝好友對他實(shí)施了詐騙。

AI換臉冒充女星帶貨

網(wǎng)上還有相關(guān)教程

AI換臉除了被用于詐騙，還經(jīng)常出現在直播帶貨中。

近日，有網(wǎng)友點(diǎn)開(kāi)直播間，發(fā)現正在賣(mài)貨的竟是當紅女星。然而再定睛一看，這些帶貨“明星”很快露出了馬腳——身穿中式服裝，正在賣(mài)力帶貨的“明星”們，其實(shí)只是使用了AI實(shí)時(shí)換臉技術(shù)的普通主播。

利用人工智能（AI）手段為視頻中的人物“換臉”，這項技術(shù)已經(jīng)發(fā)展到可以實(shí)時(shí)動(dòng)態(tài)修改直播畫(huà)面。

記者在網(wǎng)上瀏覽相關(guān)AI換臉直播教程發(fā)現，這些教程通過(guò)視頻、文章等形式傳播，并提供換臉直播工具的下載渠道。有的需要付費，有的通過(guò)點(diǎn)贊、關(guān)注、評論就能獲取。

教程發(fā)布者聲稱(chēng)實(shí)時(shí)變臉軟件可以幫助用戶(hù)輕松變臉，打造特效直播間，極大地助力引流賣(mài)貨。同時(shí)他們表示有很多模型可供選擇，這些模型用中外明星藝人、影視角色或政商名人的名字命名。

在一個(gè)展示換臉直播效果的視頻中，使用者把名為“成龍”的模型載入相關(guān)軟件后，攝像頭前的人在直播畫(huà)面中就有了與成龍相似的五官，但臉型和發(fā)型還保持原樣。記者發(fā)現，使用者歪頭或變換表情時(shí)，五官動(dòng)效切換得自然順滑，只有手掌從臉前劃過(guò)時(shí)，出現了比較明顯的破綻。

△發(fā)布者展示“換臉”為“成龍”的實(shí)時(shí)效果和軟件界面（視頻截圖）

北京岳成律師事務(wù)所高級合伙人岳屾山律師表示，換臉直播用于公開(kāi)傳播可能涉嫌侵犯相關(guān)明星藝人的肖像權。如果涉及直播帶貨等商業(yè)行為，會(huì )成為加重情節。

在知名藝人工作室從事宣傳工作的袁女士表示，擔心相關(guān)技術(shù)被用于推銷(xiāo)假冒偽劣產(chǎn)品，損害消費者權益，也影響藝人的形象。

△發(fā)布者展示實(shí)時(shí)“換臉”效果（視頻截圖）

記者注意到，一些使用換臉技術(shù)的直播并不會(huì )直接提到相關(guān)明星藝人的名字，但也不會(huì )主動(dòng)聲明或者否認。

岳律師認為，這個(gè)行為涉嫌欺詐或是虛假宣傳，讓公眾誤以為就是明星在帶貨。如果貨品本身質(zhì)量不好，或者主播在帶貨過(guò)程中說(shuō)的話(huà)或一些行為導致公眾對被換臉的明星產(chǎn)生負面評價(jià)，明星可以主張名譽(yù)權的侵權責任。

近期，已經(jīng)有平臺和企業(yè)發(fā)布了“關(guān)于人工智能生成內容的平臺規范暨行業(yè)倡議”，明確禁止利用生成式人工智能技術(shù)創(chuàng )作、發(fā)布侵權內容，包括但不限于肖像權、知識產(chǎn)權等，一經(jīng)發(fā)現，平臺將嚴格處罰；同時(shí)還提出“發(fā)布者應對人工智能生成內容進(jìn)行顯著(zhù)標識，幫助其他用戶(hù)區分虛擬與現實(shí)”“發(fā)布者需對人工智能生成內容產(chǎn)生的相應后果負責”等要求。

岳律師建議，平臺可以更加主動(dòng)地識別相關(guān)內容，作標簽化的處理，從而限制侵權行為。

技術(shù)濫用風(fēng)險在加劇

為了規范人工智能發(fā)展，尤其是規避AI換臉帶來(lái)的系列問(wèn)題，去年12月，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規定》正式發(fā)布，對數據和技術(shù)管理規范進(jìn)行了明確。

比如，關(guān)于授權同意的原則提到，深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識別信息編輯功能的，“應當提示深度合成服務(wù)使用者依法告知被編輯的個(gè)人，并取得其單獨同意”。

簡(jiǎn)單來(lái)說(shuō)，這些技術(shù)服務(wù)公司，不能隨便使用普通人的人臉來(lái)?yè)Q臉，必須經(jīng)過(guò)本人同意，換臉不是想換就能隨便換，也不是騙子給錢(qián)就能隨便換。如果就此案深挖下去，不排除能揪出一條非法利用人工智能技術(shù)的黑產(chǎn)業(yè)鏈。

當然，人工智能開(kāi)發(fā)還是一個(gè)高速成長(cháng)的領(lǐng)域，規則的健全完善還需要時(shí)間。但不管怎么說(shuō)，此次案件都提醒我們，技術(shù)被濫用的風(fēng)險，對普通人造成的安全隱患和威脅，絕對不容低估。

對大眾來(lái)說(shuō)，在人工智能時(shí)代，我們得更加警惕，不要隨意泄露個(gè)人信息，需要轉賬時(shí)應更加謹慎地核實(shí)。而對行業(yè)而言，必須盡快立規，明確信息保護紅線(xiàn)，加強對技術(shù)服務(wù)商行為的規范引導，等等。

只有AI換臉、AI擬聲等在每一個(gè)環(huán)節有據可依、嚴格授權，提升造假詐騙難度，才能更好地保護每個(gè)人的信息和財產(chǎn)安全。

標簽：