西藏日喀則市定日縣發(fā)生的地震災(zāi)情牽動(dòng)人心，當(dāng)?shù)亓鱾鞒龅母鞣N救援畫面，更是令人揪心不已。然而，卻有一些不真實(shí)的內(nèi)容趁機(jī)渾水摸魚，利用人們的同情心進(jìn)行誤導(dǎo)、吸引流量。某視頻平臺(tái)上一位博主發(fā)布的照片顯示：一個(gè)戴帽子的小孩被壓在倒塌的建筑物下，全身鋪滿塵埃。下方文字標(biāo)簽還和西藏日喀則地震關(guān)聯(lián)。在某短視頻平臺(tái)上，至少有10個(gè)以上的賬號(hào)轉(zhuǎn)發(fā)了這張圖片，有賬戶甚至獲得好幾萬(wàn)的轉(zhuǎn)發(fā)和點(diǎn)贊。

而實(shí)際上，這張小男孩的圖片是由AI生成的，圖中孩子的左手顯示為六根手指，是常見的AI圖片錯(cuò)亂之處。此外，平臺(tái)也在相關(guān)圖片下方給出文字提示：“疑似使用AI生成技術(shù)，請(qǐng)謹(jǐn)慎甄別”。雖然平臺(tái)有提示，但仍有不少網(wǎng)友仍被誤導(dǎo)，為圖中的孩子難受落淚，甚至在評(píng)論區(qū)追問(wèn)圖片中的小孩是否獲救。這并非個(gè)例，在某視頻平臺(tái)上，以“日喀則地震群眾被埋”為關(guān)鍵詞進(jìn)行搜索發(fā)現(xiàn)，不少視頻博主都發(fā)布了AI生成的災(zāi)區(qū)圖片，且都在配文中與日喀則地震關(guān)聯(lián)。

網(wǎng)友利用AI技術(shù)生成圖片，關(guān)聯(lián)地震災(zāi)區(qū)現(xiàn)場(chǎng)，這樣的行為是否欠妥？如果引發(fā)不良影響，該承擔(dān)哪些責(zé)任？律師劉鋒今天在接受看看新聞Knews的采訪時(shí)表示，如果這張圖片是在地震前就用AI生成并發(fā)布在社交平臺(tái)，其實(shí)并不違法。但是在地震發(fā)生后，這張照片被多個(gè)帳號(hào)轉(zhuǎn)發(fā)并誤導(dǎo)大家以為這是真實(shí)存在的，就有違新聞?wù)鎸?shí)性的原則，所以在這個(gè)時(shí)間點(diǎn)發(fā)布這樣的照片非常不妥，脫離了原來(lái)創(chuàng)作這張作品的初衷，演變成博眼球、博流量，這種行為已經(jīng)涉嫌違法。

劉鋒說(shuō)，雖然發(fā)布者在圖片的下方給出了提示，但提示的字體有多大？是不是可以讓大家很清晰的看到？還有即便是備注為AI生成圖片，但發(fā)布的內(nèi)容如果是為了博眼球、吸引流量，甚至引發(fā)大家恐慌或者誤解的，就不能完全免責(zé)，我國(guó)《治安管理處罰法》明確規(guī)定，散布謠言、謊報(bào)險(xiǎn)情、警情、擾亂社會(huì)公共秩序的，可處5天以上10天以內(nèi)拘留，并處500元以下的罰款。

如今，AI技術(shù)在給生產(chǎn)生活帶來(lái)便利的同時(shí)，也為不法分子提供了便利。AI去衣、AI換臉，不少不法分子將這些先進(jìn)的技術(shù)變成敲詐勒索的工具。今年6月，一家互聯(lián)網(wǎng)公司的技術(shù)員就利用AI技術(shù)偽造近7000張淫穢圖片進(jìn)行販賣，嫌疑人因以制作、販賣淫穢物品牟利被追究刑事責(zé)任。AI生成文字或視頻還被用于制造虛假信息。今年4月，上海長(zhǎng)寧警方查處了一起利用AI編造女星去世短視頻的案件，對(duì)造謠者處以行政拘留3天。

以前我們都說(shuō)“有圖有真相”，但隨著AI的發(fā)展，有圖也未必有真相。尤其是在出現(xiàn)重大災(zāi)情、重大事件的時(shí)候，難以避免有人利用人們的同情等情緒，將AI技術(shù)用以編偽消息、造假新聞，以此來(lái)獲得網(wǎng)民關(guān)注和點(diǎn)贊量，進(jìn)而實(shí)現(xiàn)流量變現(xiàn)。那么，我們要如何甄別 AI文章、AI圖片、AI視頻？去年9月，我國(guó)曾發(fā)布人工智能生成合成內(nèi)容的征求意見稿，規(guī)定AI生成的圖片、視頻、虛擬場(chǎng)景等，均應(yīng)添加顯著提示標(biāo)識(shí)；但實(shí)際上，部分發(fā)布者和平臺(tái)，為了享受AI工具帶來(lái)的流量紅利，采取睜一只眼、閉一只眼的態(tài)度。

為治理AI亂象，近年來(lái)相關(guān)部門也出臺(tái)了多項(xiàng)政策和措施。從2023年起，施行的多部管理規(guī)定明確，提供和使用生成式人工智能服務(wù)，應(yīng)當(dāng)遵守法律、尊重社會(huì)公德和倫理道德。不得侵害社會(huì)公共利益、擾亂經(jīng)濟(jì)和社會(huì)秩序。此前，一些發(fā)布者將圖文內(nèi)容移花接木、肆意編造網(wǎng)絡(luò)謠言，引發(fā)公眾關(guān)注、傳播。公安機(jī)關(guān)已經(jīng)依法追究其法律責(zé)任。這其實(shí)也是在提醒受眾，網(wǎng)絡(luò)信息魚龍混雜，你看到勁爆圖片或震撼視頻時(shí)，要留心是不是AI生成的，是不是應(yīng)該采信，都要多個(gè)心眼。

此外，對(duì)于在不少平臺(tái)，AI生成圖片及相關(guān)視頻能立刻發(fā)出，平臺(tái)審核是否應(yīng)進(jìn)一步加強(qiáng)管理？對(duì)于AI生成圖片的相關(guān)視頻立刻能發(fā)出，發(fā)出約1小時(shí)后才出現(xiàn)“疑似AI技術(shù)生成”的提示語(yǔ)，在律師劉峰看來(lái)，這在某種程度上說(shuō)明平臺(tái)審核存在問(wèn)題，其審核規(guī)則具有滯后性，提示方式也存在不夠明顯的漏洞。

劉峰還表示，平臺(tái)在發(fā)布內(nèi)容前應(yīng)進(jìn)行必要的審核，以確保信息的真實(shí)性和準(zhǔn)確性。特別是在涉及災(zāi)害等敏感話題時(shí)，更應(yīng)加強(qiáng)審核力度。且盡管有文字提示，但仍有網(wǎng)友誤解，這也進(jìn)一步說(shuō)明，平臺(tái)的提示方式不夠醒目和有效。劉峰說(shuō)，平臺(tái)每天有大量的文字、圖片在發(fā)布，對(duì)于平臺(tái)來(lái)說(shuō)審核的壓力也很大，所以平臺(tái)適用避風(fēng)港原則，也就是說(shuō)平臺(tái)只要不是惡意為之，或者說(shuō)當(dāng)受害者通知平臺(tái)，平臺(tái)立即處理，也可以不承擔(dān)責(zé)任，但如果平臺(tái)對(duì)違規(guī)行為采取姑息態(tài)度，依舊需要承擔(dān)相關(guān)責(zé)任。對(duì)此，劉峰呼吁，平臺(tái)應(yīng)該改進(jìn)審核機(jī)制，提高審核效率，并采用更加直觀有效的提示方式，以避免虛假信息的傳播。