在短視頻平臺(tái)的海量?jī)?nèi)容中，一種特殊賬號(hào)正越來(lái)越活躍。這些賬號(hào)里，由AI生成的數(shù)字人，要么扮演成西裝筆挺的“投資大師”，要么化身溫柔體貼的“健康顧問(wèn)”，看似情感真摯卻是暗藏玄機(jī)。還有一些主播花式打造人設(shè)，編撰家長(zhǎng)里短、跌宕起伏的劇情，吸引中老年人關(guān)注，但最后，瞄準(zhǔn)的還是大家的錢(qián)包。

在一個(gè)名為“建國(guó)弟弟”的賬號(hào)中，幾條視頻都是相同的形象，男子動(dòng)作表情生硬，語(yǔ)調(diào)單一，有時(shí)口型甚至對(duì)不上臺(tái)詞，人物形象邊緣也出現(xiàn)明顯的摳圖印記。但評(píng)論區(qū)里，還是有不少阿姨給他送上愛(ài)心和玫瑰花。

記者在某社交平臺(tái)搜了下“建國(guó)”，就發(fā)現(xiàn)包括“李明哥”、“海闊天空”等賬號(hào)名的18個(gè)“建國(guó)”，每個(gè)賬號(hào)的粉絲數(shù)從幾千到幾萬(wàn)不等，在部分作品不明顯的位置，有用小字標(biāo)記的“通過(guò)AI數(shù)字人打造”字樣，其中10個(gè)賬號(hào)開(kāi)通了櫥窗，售賣(mài)所謂的“健康食品”等商品。

這類(lèi)賬號(hào)通常擁有高度相似的背景、人物形象乃至動(dòng)作神態(tài)，唯一不同的是播報(bào)的內(nèi)容，涵蓋情感交流、國(guó)學(xué)文化、中醫(yī)養(yǎng)生等多個(gè)領(lǐng)域，旨在精準(zhǔn)擊中中老年用戶的興趣點(diǎn)，從而迅速積累粉絲和流量。

一些老年消費(fèi)者表示，這些賬號(hào)發(fā)布的視頻，乍一看很難分辨出是AI制作的。視頻中的人物形象親切、說(shuō)話好聽(tīng)，很具有迷惑性。

不過(guò)，從熟悉視頻制作的人看來(lái)，大部分AI數(shù)字人神態(tài)、語(yǔ)氣都有不自然的地方，為什么部分老年人仍然會(huì)投入情感，沉迷其中，甚至心甘情愿掏腰包呢？特約評(píng)論員沈彬指出，尤其中老年女性，對(duì)網(wǎng)絡(luò)內(nèi)容的辨別能力不強(qiáng)，又渴望精神滿足，就容易被一些別有用心的人重重圍獵。之前有假靳東，有“秀才”擺拍，還有這一次的“建國(guó)弟弟”AI假人。AI人一張嘴就是“寶貝姐姐，建國(guó)弟弟想你了，歲月是一首詩(shī)”，一些內(nèi)心比較空虛的老年婦女可能就被假象所迷惑。而且中老年人不一定能馬上識(shí)別AI生成內(nèi)容。網(wǎng)信部門(mén)幾年前就明確規(guī)定，對(duì)于AI生成內(nèi)容要做強(qiáng)制標(biāo)注。但是我們看到一些AI騙局中，標(biāo)注字體非常小、非常淡，很容易被受害者所忽視。

事實(shí)上，養(yǎng)生、情感內(nèi)容一直是“收割”老年消費(fèi)者的重災(zāi)區(qū)，被騙通常與受教育程度無(wú)關(guān)，而是沉迷視頻帶來(lái)的情緒價(jià)值。

有媒體報(bào)道，市面上已經(jīng)涌現(xiàn)出制作數(shù)字人的外包公司，幫助客戶搭建數(shù)字人形象，指導(dǎo)運(yùn)營(yíng)賬號(hào)，服務(wù)價(jià)格在5000-10000元不等，相關(guān)AI賬號(hào)目的就是利用老年人的同理心賣(mài)貨。

根據(jù)宣傳，在AI工具的輔助下，理論上一天可以創(chuàng)作出100條視頻，最少3天就可以起號(hào)，從而輕松實(shí)現(xiàn)月入過(guò)萬(wàn)。變現(xiàn)方式包括創(chuàng)作分成、短視頻或直播帶貨、廣告變現(xiàn)等。

且不說(shuō)AI賬號(hào)帶貨的商品真假、質(zhì)量如何，這些賬號(hào)首先就觸及了平臺(tái)規(guī)則紅線，有被封禁的風(fēng)險(xiǎn)。例如，騰訊視頻號(hào)就有《細(xì)則》明確禁止使用AI工具生成的虛擬形象直播帶貨。

而隨著技術(shù)快速迭代，針對(duì)中老年的AI換臉詐騙案也開(kāi)始頻繁出現(xiàn)。去年，江西就有一位老人被換臉視頻蒙蔽，要貸款200萬(wàn)元給網(wǎng)戀男友“靳東”拍戲。此外，還有用AI換臉真人制作色情影片、盜刷醫(yī)保的違法案例。

今年兩會(huì)期間，除了政協(xié)委員靳東再次提到AI換臉的危害，小米創(chuàng)始人 雷軍也抱怨自己的形象被做成了“AI人”。

AI技術(shù)的普及，不僅讓帶貨騙局大行其道，還大幅降低了詐騙門(mén)檻，為“個(gè)人獨(dú)狼式”的電詐提供滋生土壤，現(xiàn)在，甚至一兩個(gè)詐騙分子就可以完成作案。

散發(fā)小廣告的、編寫(xiě)釣魚(yú)代碼的、物色目標(biāo)獵物的、利用話術(shù)引人上鉤的、受害人上當(dāng)后分散轉(zhuǎn)移贓款的，甚至還有囚禁虐待電詐人員的“打手”。在電影里，成百上千人分工明確，流水式作業(yè)展開(kāi)詐騙。

而現(xiàn)在在AI技術(shù)輔助下，一兩名詐騙分子就可以作案，AI承擔(dān)了從目標(biāo)篩選到身份偽裝，再到實(shí)施詐騙和逃避打擊等以往詐騙中的關(guān)鍵任務(wù)，而這種情形在最新的案例中已經(jīng)超過(guò)六成。

新型詐騙中，AI技術(shù)被“武器化”的程度令人咋舌。分析103篇詐騙案新聞報(bào)道可見(jiàn)，AI換臉技術(shù)使用率近一半。犯罪分子通過(guò)非法獲取的人臉照片和語(yǔ)音樣本，利用開(kāi)源AI工具生成逼真的虛擬形象。

AI技術(shù)的普及使得詐騙手段更加多樣化和難以防范，沒(méi)有深厚技術(shù)背景的人也能輕松獲取和使用相關(guān)技術(shù)實(shí)施詐騙，詐騙場(chǎng)景的多樣性超出想象，冒充公檢法機(jī)關(guān)、偽造親友求助、虛擬投資平臺(tái)等套路層出不窮。

數(shù)據(jù)顯示，在所有AI詐騙案例中，冒充類(lèi)詐騙占比高達(dá)62%，其次是金融類(lèi)和交易類(lèi)詐騙。還有詐騙分子把AI技術(shù)應(yīng)用到了交友“賽道”。

隨著AI技術(shù)的不斷升級(jí)，甚至逐漸形成了一條分工明確、相互協(xié)作的完整化黑色產(chǎn)業(yè)鏈。上游技術(shù)提供者通過(guò)暗網(wǎng)兜售“AI換臉套餐”，價(jià)格從幾百元到數(shù)萬(wàn)元不等。中游推廣者利用非法獲取的個(gè)人信息庫(kù)，通過(guò)短信、社交軟件精準(zhǔn)投放詐騙信息。下游洗錢(qián)者則通過(guò)虛擬貨幣、跑分平臺(tái)等渠道轉(zhuǎn)移資金。整個(gè)過(guò)程中，技術(shù)、數(shù)據(jù)、資金形成了完整閉環(huán)，而隨著AI技術(shù)不斷發(fā)展，黑色產(chǎn)業(yè)鏈也在不斷升級(jí)和演變，打擊AI詐騙面臨著更大的挑戰(zhàn)。

AI技術(shù)一日千里，老年人成了最容易上當(dāng)?shù)娜后w之一，怎樣幫助老年人反詐？如何識(shí)別AI皮套下的騙術(shù)？我們還能做些什么？特約評(píng)論員沈彬介紹，這個(gè)月我國(guó)網(wǎng)信部門(mén)發(fā)布了《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，今后，相關(guān)標(biāo)識(shí)一定要非常明確、必須強(qiáng)化AI的顯著標(biāo)識(shí)，不能再打“擦邊球”，要讓用戶能夠辨別出是真人還是假人，不允許在網(wǎng)上以假亂真。另一方面，也要強(qiáng)化司法的有所作為，對(duì)這樣的AI假人能夠及時(shí)“亮劍”，堅(jiān)決斬?cái)嗪诨疑a(chǎn)業(yè)鏈。而互聯(lián)網(wǎng)平臺(tái)也要守土有責(zé)，履行社會(huì)責(zé)任，決不允許大量劣質(zhì)的“AI人”在互聯(lián)網(wǎng)上打“擦邊球”。另外，還要加強(qiáng)針對(duì)中老年人的互聯(lián)網(wǎng)知識(shí)普及，讓他們明白網(wǎng)上什么是真的，什么是假的，幫助他們提升AI的鑒別能力。