《甄嬛傳》變身槍戰(zhàn)片、《紅樓夢》改成武打戲、孫悟空騎著摩托車揚長而去，在AI加持下，觀眾永遠(yuǎn)猜不到下一秒會發(fā)生什么，更讓某些人發(fā)現(xiàn)了所謂“新的商機(jī)”。

例如，有人利用AI合成了劉德華的聲音，為自己增加流量。AI合成的“張文宏”深夜帶貨，自然也不令人意外。

ChatGPT的人機(jī)交流帶給世界的興奮還沒持續(xù)多久，人工智能黑暗的另一面就令人警惕。統(tǒng)計顯示，2023年，基于AI的深度偽造欺詐暴增了3000%，今年上半年，AI詐騙案超過1.85億，美國過去一年里人工智能詐騙事件同比增幅超過了50%。此前，世界經(jīng)濟(jì)論壇發(fā)布《2024年全球風(fēng)險報告》，將人工智能生成的錯誤信息和虛假信息名列“未來兩年全球十大風(fēng)險”之首。

面對危機(jī)，各國也有所行動。日前，廣電總局網(wǎng)絡(luò)視聽司發(fā)布管理提示，要求各相關(guān)省局督促轄區(qū)內(nèi)短視頻平臺排查清理這類視頻，并且對在平臺上使用、傳播的各類相關(guān)技術(shù)產(chǎn)品嚴(yán)格準(zhǔn)入和監(jiān)看。歐洲今年通過了史無前例的《人工智能法案》，禁止某些“威脅公民權(quán)利”的AI應(yīng)用，還要求所有AI生成的圖像、音頻或視頻等，都要有明確的標(biāo)簽。

針對AI技術(shù)導(dǎo)致的不法行為，公眾意見不一，激進(jìn)的意見甚至覺得應(yīng)該徹底抵制。當(dāng)然，技術(shù)本身是中性的，該被繩之以法的，還是那些其心不正的使用者。監(jiān)管能不能趕上AI技術(shù)的進(jìn)步，現(xiàn)在還是個問題，人工智能的監(jiān)管和治理需國際合作，共同防范風(fēng)險。

而我們?nèi)祟愖陨恚惨粩嘧晕艺{(diào)節(jié)適應(yīng)新變化，眼下，就是保護(hù)好包括人臉等生物信息，不過度分享照片、視頻。更重要的是，要認(rèn)識到AI生成技術(shù)面前，有圖不一定有真相，眼見更不一定是實。