隨著AI技術(shù)發(fā)展，近來各種“AI魔改”視頻、照片在網(wǎng)絡(luò)大行其道，亂象頻出。《甄嬛傳》變身槍戰(zhàn)片、《紅樓夢》改成武打戲、孫悟空騎著摩托車揚(yáng)長而去，在AI加持下，觀眾永遠(yuǎn)猜不到下一秒會(huì)發(fā)生什么。

另有一些人還迅速從AI合成視頻技術(shù)中發(fā)現(xiàn)商機(jī)。例如，某AI應(yīng)用程序上，用戶只需提供兩張照片，支付一定價(jià)格所謂的制作費(fèi)，就能利用AI合成技術(shù)生成長約5秒的所謂和明星“接吻”或“擁抱”的短視頻。

針對上述亂象，日前，廣電總局網(wǎng)絡(luò)視聽司發(fā)布《管理提示》，要求各相關(guān)省局督促轄區(qū)內(nèi)短視頻平臺(tái)排查清理這類視頻，并且對在平臺(tái)上使用、傳播的各類相關(guān)技術(shù)產(chǎn)品嚴(yán)格準(zhǔn)入和監(jiān)看。9月，國家網(wǎng)信辦發(fā)布了《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法（征求意見稿）》公開征求意見，其中明確，相關(guān)服務(wù)提供者應(yīng)當(dāng)在視頻顯著位置添加提示標(biāo)識(shí)，視頻傳播平臺(tái)也應(yīng)當(dāng)提醒用戶主動(dòng)聲明發(fā)布內(nèi)容中是否包含生成合成內(nèi)容，同時(shí)做好相應(yīng)的監(jiān)測，在發(fā)布內(nèi)容周邊添加顯著的提示標(biāo)識(shí)。

但是對于這一新課題，到底如何有效監(jiān)管呢？上海人工智能研究院數(shù)字化治理中心主任彭嘉昊認(rèn)為，對于AI生成式技術(shù)的使用和監(jiān)管，目前還存在不少難點(diǎn)甚至盲點(diǎn)。