AI換臉直播AI視頻造謠 短視頻平臺(tái)內(nèi)容莫輕信

生成式AI近年來(lái)發(fā)展迅速，人們用一段話甚至幾個(gè)關(guān)鍵詞，就能迅速生成文字、圖片甚至視頻。在各種視頻平臺(tái)，用AI工具制作的視頻已隨處可見(jiàn)。生成式AI給創(chuàng)作者帶來(lái)便捷，也讓居心不良的人造謠門檻降低。在短視頻平臺(tái)不僅出現(xiàn)了利用AI生成視頻進(jìn)行造謠，更有賬號(hào)竊取烏克蘭網(wǎng)紅的形象通過(guò)AI打造虛擬人直播。

案例一：俄羅斯女孩還是烏克蘭女孩?

近日，一名烏克蘭網(wǎng)紅在個(gè)人社交賬號(hào)發(fā)布視頻，稱她發(fā)現(xiàn)自己的容貌、聲音出現(xiàn)在中文網(wǎng)絡(luò)，在多個(gè)不同賬號(hào)上，以俄羅斯姑娘的身份表達(dá)對(duì)中國(guó)的喜歡，并售賣俄羅斯糖果等商品。

資料圖源：烏克蘭網(wǎng)紅奧爾嘉辟謠

“有人在中國(guó)克隆了我。”奧爾嘉(Olga Loiek)說(shuō)。實(shí)際上，她并未從這些商品中獲利，復(fù)制她音容的賬號(hào)粉絲甚至比她自己的還多。

在奧爾嘉的講述中，這些以她形象出現(xiàn)的“俄羅斯姑娘”，變身為娜塔莎、安娜、葉琳娜……等多個(gè)名稱，她們自稱在中國(guó)生活多年，希望嫁給中國(guó)男人，接著她們便會(huì)向觀眾介紹俄羅斯特色產(chǎn)品，諸如巧克力、糖果等，點(diǎn)進(jìn)鏈接便可購(gòu)買。

其中一個(gè)名為“娜塔莎進(jìn)口食品”的賬號(hào)粉絲量達(dá)14萬(wàn)，而奧爾嘉本人的粉絲量?jī)H1萬(wàn)多。AI換臉幾乎做到以假亂真，甚至有人在評(píng)論區(qū)表示祝福，或詢問(wèn)她“更喜歡哪個(gè)城市”。

奧爾嘉對(duì)此感到憤怒，并向各大中國(guó)社交媒體申訴反映，但稱隔了好幾個(gè)星期卻還沒(méi)有回應(yīng)，因此她決定在其賬號(hào)上公開拆穿此事。目前小紅書平臺(tái)已屏蔽了此類虛假賬號(hào)。

案例二：AI造謠起火——法官：有期徒刑安排

除了虛擬人帶貨這種擦邊手段，也有些人秉持著“風(fēng)浪越大，魚越貴”的理念，為了博眼球、蹭熱度，將人工智能技術(shù)用以編“偽消息”造“假報(bào)道”。

2023年6月，一條名為《浙江工業(yè)園現(xiàn)大火濃煙滾滾，目擊者稱有爆炸聲!》的視頻在網(wǎng)絡(luò)上流傳，引發(fā)網(wǎng)友關(guān)注。后經(jīng)相關(guān)部門核實(shí)為謠言。

資料圖源：紹興網(wǎng)警

據(jù)調(diào)查，當(dāng)事人為給自己賬號(hào)漲粉引流，獲取更多利益，通過(guò)非法渠道購(gòu)買了AI視頻生成軟件。該當(dāng)事人將網(wǎng)絡(luò)熱門話題通過(guò)AI自動(dòng)生成視頻產(chǎn)品，并上傳至多個(gè)熱門視頻平臺(tái)。

截至案發(fā)，相關(guān)當(dāng)事人發(fā)布的虛假視頻多達(dá)20余條，涉及浙江、湖南、上海、四川等多個(gè)省市，累計(jì)閱讀觀看量超過(guò)167萬(wàn)次。目前浙江紹興上虞法院已開庭審理并當(dāng)庭宣判了這起案件，兩名被告均被判處有期徒刑。

AI給自媒體創(chuàng)作行業(yè)提供了便利，節(jié)省了時(shí)間，提高了工作效率。但是也有不法之徒借機(jī)利用AI生成的不實(shí)信息擾亂公眾視線嗎，謀取私利。這就像之前短視頻平臺(tái)上十分流行的“毒雞湯”、“假科普”一樣，通過(guò)虛假信息，錯(cuò)誤言論吸引眼球，讓人偏聽(tīng)偏信，不少中老年人對(duì)這些錯(cuò)誤言論深信不疑。

那么，我們?cè)撊绾畏婪哆@些AI生成的虛假信息呢?筆者認(rèn)為有以下幾點(diǎn)：

1. 保持警覺(jué)和理性思考：AI生成的謠言往往會(huì)夸大事實(shí)，制造緊張氛圍，以吸引人們的注意力。只要保持警覺(jué)理性地思考，往往能發(fā)現(xiàn)其中端倪；

2. 多方求證和交叉驗(yàn)證：由于AI在處理信息和生成文本時(shí)可能存在局限性和偏差，因此生成的謠言中往往包含錯(cuò)誤的事實(shí)或數(shù)據(jù)。我們可以通過(guò)查閱權(quán)威媒體、官方渠道或?qū)I(yè)機(jī)構(gòu)發(fā)布的信息，與多個(gè)來(lái)源的信息進(jìn)行對(duì)比和驗(yàn)證，來(lái)發(fā)現(xiàn)這些錯(cuò)誤；

3. 利用技術(shù)手段輔助辨別：借助一些技術(shù)手段，如反向圖像搜索、文本比對(duì)工具等，可以幫助我們識(shí)別出AI生成的謠言。這些工具可以幫助我們查找信息的原始來(lái)源、比對(duì)文本內(nèi)容等，從而揭示謠言的真相。

最后，筆者還是要提醒大家：AI欺騙成本低，短視頻平臺(tái)內(nèi)容消息需多加甄別，切勿輕信。