最近，有網(wǎng)友發(fā)消息稱

“張文宏是不是帶貨了？”

視頻中

張文宏在賣(mài)一種蛋白棒

家里的老人信以為真已經(jīng)下單

還轉(zhuǎn)發(fā)了很多群

據(jù)媒體報(bào)道

這個(gè)賬號(hào)名為“般畫(huà)234”

在視頻中

“張文宏”反復(fù)介紹一種產(chǎn)品

口型是他的，聲音也是他的

但稍微懂點(diǎn)AI的小伙伴們

一眼就能分辨

這是AI合成的視頻！

目前

這段視頻已在該賬號(hào)內(nèi)不可見(jiàn)

但商品櫥窗內(nèi)

還保留著蛋白棒售賣(mài)的頁(yè)面

并顯示已售出1266件

近年來(lái)

AI剪輯冒充明星的案例屢見(jiàn)不鮮

也有不少人因此上當(dāng)

今年11月，江西一位老人來(lái)到銀行辦理銀行卡，但手續(xù)不全又不肯離開(kāi)，警方到現(xiàn)場(chǎng)后，老人表示要到銀行貸款200萬(wàn)元給自己的男朋友“靳東”拍戲。

民警隨即拿起老人的手機(jī)進(jìn)行查看，發(fā)現(xiàn)老人所謂的大明星“靳東”是騙子冒充的，其所發(fā)布的視頻也是由電腦AI合成，但老人對(duì)網(wǎng)絡(luò)知之甚少，對(duì)于騙子所說(shuō)所做深信不疑。

最終，民警通過(guò)向老人展示網(wǎng)絡(luò)上一些冒充“靳東”詐騙的新聞和現(xiàn)場(chǎng)利用AI合成照片等方式，老人才幡然醒悟，表示不會(huì)再相信網(wǎng)絡(luò)上的“靳東”，并放棄了開(kāi)卡貸款的念頭。

今年10月

老牌港星黃百鳴

在社交媒體上發(fā)布聲明表示

有人盜用他過(guò)去的影片

并利用人工智慧技術(shù)替換掉原有聲音

假借自家名義代言一個(gè)

不知名的藥膏品牌

這種行為純屬欺詐

旨在誤導(dǎo)公眾并從中取利

學(xué)會(huì)三招識(shí)別AI“換臉換聲”

我們可以要求對(duì)方在視頻對(duì)話的時(shí)候，在臉部面前，通過(guò)揮手的方式去識(shí)別實(shí)時(shí)偽造的視頻。在揮手的過(guò)程中會(huì)造成面部的數(shù)據(jù)干擾，他所偽造的人臉會(huì)產(chǎn)生一定的抖動(dòng)或者閃現(xiàn)，或是一些其他異常的情況。

在點(diǎn)對(duì)點(diǎn)的溝通過(guò)程中，可以問(wèn)一些只有對(duì)方知道的問(wèn)題，驗(yàn)證對(duì)方的真實(shí)性。

還可以讓對(duì)方通過(guò)按鼻子按臉的方式，觀察其面部變化，真人的鼻子按下去是會(huì)變形，但AI生成的鼻子并不會(huì)，同樣臉部也是一樣的。

值得注意的是，以上鑒別方式都是基于現(xiàn)有算法的局限性。未來(lái)隨著AI技術(shù)的發(fā)展，“動(dòng)起來(lái)”“揮手”“比數(shù)字”等有可能難不倒新技術(shù)，“數(shù)字人”同樣能順利完成以上動(dòng)作，從而更加具備迷惑性。所以，防范AI詐騙，還是要從自己出發(fā)，做好信息保護(hù)，提高警惕。

例如，不要泄露個(gè)人信息，尤其要注意圖像、聲音、指紋等生物信息的保護(hù)。“AI換臉”的數(shù)據(jù)基礎(chǔ)是被模仿人的照片、視頻等，個(gè)人公開(kāi)在外的照片、視頻越多，意味著AI算法參考的數(shù)據(jù)越多，生成的“數(shù)字人”會(huì)更真實(shí)。

同時(shí)，在涉及資金交易等場(chǎng)景下，需要多留心眼，不輕易相信視頻、聲音。很多時(shí)候，傳統(tǒng)的識(shí)別方式要比技術(shù)識(shí)別更有效。