視頻換臉、語音變聲……隨著人工智能（AI）深度合成技術(shù)的日益精湛，越來越多的人遇到過這樣的情況：我們明明身處某地，但就在同一時(shí)刻，我們的臉、表情和姿態(tài)卻出現(xiàn)在一些手機(jī)App后臺(tái)、支付界面、門禁閘機(jī)，被人盜刷并被用來牟利。

公安部門近年來在上海、浙江、安徽、江蘇等地辦案發(fā)現(xiàn)，多名犯罪嫌疑人使用深度合成技術(shù)，將非法盜取或有償求購的照片和音頻進(jìn)行“活化”、合成為動(dòng)態(tài)視頻后進(jìn)行非法牟利：或是騙過平臺(tái)的人臉識(shí)別機(jī)制直接盜取他人賬戶錢款，或是騙過手機(jī)卡注冊(cè)的人工審核環(huán)節(jié)，盜用他人手機(jī)號(hào)進(jìn)行電信網(wǎng)絡(luò)詐騙、網(wǎng)絡(luò)賭博。

深度合成技術(shù)，是人工智能領(lǐng)域前沿的一項(xiàng)新技術(shù)，從圖像合成技術(shù)發(fā)展而來，是指利用以深度學(xué)習(xí)、虛擬現(xiàn)實(shí)為代表的生成合成類算法制作文本、圖像、音頻、視頻、虛擬場(chǎng)景等信息的技術(shù)，包括但不限于文本轉(zhuǎn)語音、語音轉(zhuǎn)換、人臉生成、人臉替換、姿態(tài)操控等技術(shù)。聽起來似乎很玄妙，但是一段網(wǎng)傳視頻顯示，經(jīng)過某深度合成技術(shù)軟件的“妙手”，一個(gè)人的照片被“活化”成了另一個(gè)人的一段視頻，以假亂真程度之高，竟然成功地騙過了人臉識(shí)別核驗(yàn)系統(tǒng)。

據(jù)業(yè)內(nèi)人士介紹，深度合作技術(shù)近年來實(shí)現(xiàn)了飛躍式的發(fā)展，而基于深度合成技術(shù)的各類應(yīng)用，也早從2019年開始已經(jīng)逐漸在影視制作、廣告營銷、社交娛樂等多個(gè)領(lǐng)域落地生根。清華大學(xué)今年3月發(fā)布的《深度合成十大趨勢(shì)報(bào)告》顯示，在國內(nèi)外主流音視頻網(wǎng)站、社交媒體平臺(tái)上，2021年新發(fā)布的深度合成視頻的數(shù)量較2017年已增長10倍以上。深度合成內(nèi)容關(guān)注度也呈指數(shù)級(jí)增長，通過對(duì)互動(dòng)數(shù)據(jù)進(jìn)行統(tǒng)計(jì)，2021年新發(fā)布的深度合成視頻的點(diǎn)贊數(shù)已超過3億。此外，越來越多的企業(yè)機(jī)構(gòu)開始利用深度合成技術(shù)提供面向公眾的產(chǎn)品和服務(wù)，涵蓋圖像、視頻、音頻、文本等多個(gè)領(lǐng)域。例如作為人機(jī)交互中重要一環(huán)的語音合成，被廣泛應(yīng)用于智能客服、語音導(dǎo)航、有聲讀物、語音助手等場(chǎng)景。

不過，正如公安部門在辦案中發(fā)現(xiàn)的，這項(xiàng)新技術(shù)的強(qiáng)大功能也給了不法分子可趁之機(jī)，被用來惡意篡改人臉識(shí)別信息、實(shí)行詐騙、色情服務(wù)、制造謠言等違法行為。這意味著，我們生活的現(xiàn)實(shí)世界正在面臨著深度合成技術(shù)被濫用的風(fēng)險(xiǎn)與挑戰(zhàn)。

為規(guī)避風(fēng)險(xiǎn)，我國正積極探尋有效的治理機(jī)制。2019年11月起先后出臺(tái)的《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》、《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》、《中華人民共和國民法典》、《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，均對(duì)生成合成類內(nèi)容等提出了不同程度的監(jiān)管要求。今年1月，網(wǎng)信辦又起草了《互聯(lián)網(wǎng)信息服務(wù)/深度合成管理規(guī)定（征求意見稿）》并向社會(huì)公開征求意見。其中明確規(guī)定：任何組織和個(gè)人不得利用深度合成服務(wù)從事危害國家安全、破壞社會(huì)穩(wěn)定、擾亂社會(huì)秩序、侵犯他人合法權(quán)益等法律法規(guī)禁止的活動(dòng)，違者將酌情接受法律法規(guī)制裁。這份文件還要求，深度合成服務(wù)提供者 應(yīng)當(dāng)依法對(duì)深度合成服務(wù)使用者進(jìn)行真實(shí)身份信息認(rèn)證，其所制作的內(nèi)容需經(jīng)過審核并保證可追溯。

復(fù)旦大學(xué)信息科學(xué)與工程學(xué)院副教授凌力在接受東方衛(wèi)視采訪時(shí)表示，深度合成技術(shù)具有非常廣闊的發(fā)展空間和應(yīng)用空間。未來的應(yīng)用場(chǎng)景將覆蓋圖像、語音、文本等更多樣化的模態(tài)，我們甚至可以看到支持4K、8K模式的高清化人像生成。但同時(shí)我們必須認(rèn)識(shí)到，任何新技術(shù)都可能是一把雙刃劍，必須進(jìn)行合理的使用，否則就將不可避免地產(chǎn)生風(fēng)險(xiǎn)。

凌力表示，深度合成技術(shù)的發(fā)展速度越快，融入現(xiàn)實(shí)生活的程度越深，就越可能侵犯到個(gè)人隱私、威脅到社會(huì)信息系統(tǒng)安全。目前，我國的監(jiān)管部門已經(jīng)充分認(rèn)識(shí)到了這一點(diǎn)，并已經(jīng)開始采取針對(duì)性的措施。但僅僅靠法律法規(guī)上的硬性約束是不夠的，還可以嘗試從科技創(chuàng)新、增強(qiáng)防范意識(shí)等多個(gè)渠道綜合進(jìn)行應(yīng)對(duì)。比如，目前已有部門或企業(yè)綜合運(yùn)用3D立體檢測(cè)、紅外檢測(cè)等新技術(shù)來進(jìn)行信息核驗(yàn)，實(shí)踐證明，可以有效地避免單一使用人臉識(shí)別技術(shù)帶來的風(fēng)險(xiǎn)。

（看看新聞Knews記者：金梅 阮麗 陳昱卉）