AI，可信嗎？

今天，國內(nèi)首本《可信人工智能白皮書》正式發(fā)布，對人工智能的安全提出5大標(biāo)準(zhǔn)，可靠可控、透明可釋、數(shù)據(jù)保護(hù)、明確責(zé)任和多元包容。

 “我們先關(guān)注哪些標(biāo)準(zhǔn)，標(biāo)準(zhǔn)可以細(xì)化，比如，數(shù)據(jù)可信和安全，各個行業(yè)是不一樣的，行業(yè)標(biāo)準(zhǔn)也要跟上，這樣的標(biāo)準(zhǔn)才有生命力”，中國科學(xué)院院士、工信部新一代人工智能標(biāo)準(zhǔn)與應(yīng)用重點(diǎn)實(shí)驗(yàn)室主任委員何積豐告訴記者。

那么，如今的人工智能是否真的可信呢？

在展會現(xiàn)場，一項能夠讓人在數(shù)字世界"隱身"的技術(shù)，引起了關(guān)注。

通過這一技術(shù)，當(dāng)有人面向一臺攝像機(jī)鏡頭時，鏡頭背后的人工智能算法，就能迅速監(jiān)測到有人員出現(xiàn)，對應(yīng)的監(jiān)控屏幕中，人員的四周，會出現(xiàn)藍(lán)色小框和英文標(biāo)記；不過，當(dāng)同樣一個人，穿上一件印有特殊花案的白色T恤后，藍(lán)色小框就消失了，這也意味著，對于人工智能算法而言，人實(shí)現(xiàn)了“隱身”。

技術(shù)專家告訴記者，人工智能算法的"看"和人眼有很大的不同，通過增加特定的圖案，能夠?qū)θ斯ぶ悄墚a(chǎn)生誤導(dǎo)，甚至產(chǎn)生看不見的效果，這樣人或者物，對于人工智能就"隱身"了。利用這一原理，技術(shù)團(tuán)隊還曾在實(shí)驗(yàn)中，用一副帶有特殊圖案的眼鏡，解鎖了多部智能手機(jī)。

“加上圖案之后，對AI本身的算法，AI的模型產(chǎn)生誤導(dǎo)，讓算法模型，把它認(rèn)成另外一個物體，或者說直接判斷不出來”，北京瑞萊智慧科技有限公司首席執(zhí)行官田天告訴記者。

數(shù)字世界，"眼見不一定為實(shí)"。從技術(shù)角度出發(fā)，人工智能除了模型和算法的安全；另一類，則是數(shù)據(jù)安全，這在當(dāng)前則面臨更大的挑戰(zhàn)。

在國家網(wǎng)絡(luò)與信息系統(tǒng)安全產(chǎn)品質(zhì)檢中心的實(shí)驗(yàn)室里，研究員發(fā)現(xiàn)，一款購物資訊類APP正常下載、安裝之后，APP要求使用用戶手機(jī)的相機(jī)、相冊、地理位置等權(quán)限。當(dāng)檢測人員拒絕授權(quán)之后，APP直接退出。

閃退之后，APP處于無法使用的狀態(tài)，但是，它卻在后臺偷偷采集用戶的個人信息。

“利用大數(shù)據(jù)、人工智能去挖掘用戶‘畫像’，為后續(xù)的廣告推送等提供便利條件” 國家網(wǎng)絡(luò)與信息系統(tǒng)安全產(chǎn)品質(zhì)量監(jiān)督檢驗(yàn)中心、移動安全實(shí)驗(yàn)室負(fù)責(zé)人張艷向記者介紹。

面對日益嚴(yán)峻的數(shù)字安全問題，隱私計算技術(shù)正發(fā)揮重要作用。以金融機(jī)構(gòu)為例，面對公共數(shù)據(jù)開放等大量數(shù)據(jù)流通、使用等需求，通過將數(shù)據(jù)的所有權(quán)和使用權(quán)進(jìn)行拆分，提升數(shù)據(jù)安全。

“隱私計算解決的就是跨機(jī)構(gòu) 數(shù)據(jù)傳輸安全的問題。最明顯的效果，就是我可以合法、合規(guī)使用這些數(shù)據(jù)”，交通銀行金融科技創(chuàng)新研究院高級研究員陸文杰說。

再比如，針對網(wǎng)購中無處不在的電信詐騙，全球首個應(yīng)用于反欺詐的AI交互式風(fēng)控產(chǎn)品，也正式上線。它能利用人工智能技術(shù)，對網(wǎng)購環(huán)境中，屢見不鮮的虛假交易地址，或是給陌生人轉(zhuǎn)賬等欺詐行為，做出判斷和干預(yù)。

“第一個層面就是，我們通過AI的技術(shù)，識別到了這筆欺詐。我們通過交互式語音互動的形式給到了用戶，以實(shí)時的安全的攔截反饋信息”，螞蟻集團(tuán)安全科技品牌運(yùn)營陳倩華介紹。

從1956年至今，人工智能經(jīng)歷了兩代發(fā)展，前兩代人工智能雖解決了部分問題，但不安全、不可靠、不可信和不容易推廣應(yīng)用，也成為了其明顯的短板。如今，以安全、可控為特征的第三代人工智能，正在將知識、數(shù)據(jù)、算法和算力四個要素相結(jié)合，加快到來。

“人工智能不光要能力強(qiáng)，還要靠譜，還要可信。人工智能除了對風(fēng)險的控制，它更關(guān)鍵的是要取得人類的信任”，螞蟻集團(tuán)首席AI科學(xué)家漆遠(yuǎn)表示。

（看看新聞Knews記者：金普慶 趙一凡 張英 編輯：夏定偉）