作為第四次工業(yè)革命的重要標(biāo)志，人工智能極大地解放了社會(huì)生產(chǎn)力，也帶來了重大的經(jīng)濟(jì)、文化、政治、倫理、法律、安全等方面的巨大變化；但因人工智能技術(shù)的不成熟和管理模式的不完善，人工智能安全事件頻發(fā)。人工智能技術(shù)在推動(dòng)經(jīng)濟(jì)社會(huì)創(chuàng)新發(fā)展的同時(shí)，也在重塑人類安全的未來。

上海是人工智能產(chǎn)業(yè)的集聚地、技術(shù)革新的前沿陣地。當(dāng)前，上海正致力于打造國家級人工智能發(fā)展高地，不僅擁有巨大的市場規(guī)模，更聚集了全國乃至全世界的優(yōu)秀企業(yè)和人才。上海市人民政府辦公廳印發(fā)的《關(guān)于本市推動(dòng)新一代人工智能發(fā)展的實(shí)施意見》指出，要加快建成以人工智能芯片及傳感器、機(jī)器人及智能硬件、智能無人系統(tǒng)及軟件等為重點(diǎn)的世界級新興產(chǎn)業(yè)集群，到2020年實(shí)現(xiàn)人工智能重點(diǎn)產(chǎn)業(yè)規(guī)模超過1000億元。

9月18日，上海黃浦江畔的國際會(huì)議中心迎來2018世界人工智能大會(huì)·人工智能安全高端對話。對話以“人工智能：挑戰(zhàn)與機(jī)遇”為主題，旨在研判人工智能時(shí)代的安全挑戰(zhàn)，探索人工智能安全發(fā)展的創(chuàng)新之道，促進(jìn)人工智能產(chǎn)業(yè)的健康發(fā)展，確保人工智能發(fā)展造福人類未來。

本次高端對話由世界人工智能大會(huì)組委會(huì)主辦，上海賽博網(wǎng)絡(luò)安全產(chǎn)業(yè)創(chuàng)新研究院、中國信息通信研究院安全研究所聯(lián)合承辦，騰訊公司安全管理部、上海社會(huì)科學(xué)院互聯(lián)網(wǎng)研究中心、《探索與爭鳴》雜志社共同協(xié)辦。中國互聯(lián)網(wǎng)發(fā)展基金會(huì)理事長馬利、上海市經(jīng)濟(jì)和信息化委員會(huì)巡視員陳躍華、中國科學(xué)院院士何積豐、聯(lián)合國人工智能和機(jī)器人中心主任伊萊克利·伯利茲、美國著名智庫歐亞集團(tuán)科技戰(zhàn)略主任保羅·特里奧洛、中國信息通信研究院副院長王志勤、上海社會(huì)科學(xué)院副院長王振等嘉賓出席對話。國內(nèi)外專家學(xué)者與產(chǎn)業(yè)精英也作為發(fā)言嘉賓受邀參加本對話。

作為世界人工智能大會(huì)的重要分論壇之一，人工智能安全高端對話聚焦“人工智能安全倫理規(guī)范”、“人工智能重塑國家安全”、“人工智能助力網(wǎng)絡(luò)安全” 這三大前沿議題，從經(jīng)濟(jì)、政治、社會(huì)倫理等多個(gè)不同的角度圍繞人工智能技術(shù)失控、自動(dòng)駕駛安全、智能算法歧視、自動(dòng)化武器、人工智能國家安全與軍事博弈、人工智能打擊網(wǎng)絡(luò)犯罪等話題展開精彩討論。

對話在充分吸納國內(nèi)外人工智能安全共識(shí)基礎(chǔ)上發(fā)布了《人工智能安全發(fā)展上海倡議》及《人工智能安全白皮書》、《人工智能時(shí)代的國家安全：風(fēng)險(xiǎn)與治理》、《人工智能賦能網(wǎng)絡(luò)安全：模式與實(shí)踐》等三份重磅報(bào)告，積極引導(dǎo)和推動(dòng)人工智能產(chǎn)業(yè)健康持續(xù)發(fā)展。

聯(lián)合國人工智能和機(jī)器人中心主任伊萊克利?伯利茲

人工智能技術(shù)的進(jìn)步不斷沖擊和刷新人類的認(rèn)知和社會(huì)關(guān)系，衍生出一系列倫理、法律和安全難題。人工智能是否有失控的風(fēng)險(xiǎn)，未來的機(jī)器人是否會(huì)形成自主意識(shí)，挑戰(zhàn)人類的主體地位？人與機(jī)器的從屬關(guān)系是否會(huì)發(fā)生錯(cuò)位？“阿爾法狗”戰(zhàn)勝全球頂尖圍棋高手，人工智能在智力上是否真正能超越人類極限？全球第一個(gè)機(jī)器公民“索菲亞”的誕生，“她”是否享有與人類公民同樣的權(quán)力？這些問題若未解決，將持續(xù)困擾人類發(fā)展。與會(huì)專家在高端對話中探討了人工智能的安全倫理規(guī)范。

何積豐院士

中國科學(xué)院院士何積豐表示，在事件發(fā)生以前發(fā)生中間和發(fā)生后面，都可以用人工智能技術(shù)來提高政府的管理水平?！叭思夜ノ覀儯闼菰纯梢灾罃橙嗽谀睦??；蛘甙l(fā)生自然災(zāi)害了，我們可以知道什么事情我們沒有做到位?！比斯ぶ悄馨踩珎惱硌芯坎粌H可保障人的隱私權(quán)、自主權(quán)，更能保證人工智能在人類限定的系統(tǒng)范圍內(nèi)開展工作，設(shè)計(jì)出符合人類道德規(guī)范的人工智能。

與此同時(shí)，人工智能也是維護(hù)國家安全的的核心技術(shù)之一，在國防、軍事、網(wǎng)絡(luò)安全等方面有著廣泛應(yīng)用，各國紛紛搶占該領(lǐng)域的制高點(diǎn)，發(fā)達(dá)國家利用人工智能的技術(shù)優(yōu)勢，不斷調(diào)整國家安全戰(zhàn)略，改變國家間力量的對比，擴(kuò)大與其他國家之間的安全力量優(yōu)勢，進(jìn)而影響全球和平與穩(wěn)定。以美國為代表，美國國防部計(jì)劃在5年之內(nèi)投資20億美元用于人工智能新項(xiàng)目的開發(fā)，目的在于增強(qiáng)國防實(shí)力。由此可見，從國家戰(zhàn)略、技術(shù)變革、產(chǎn)業(yè)發(fā)展等多角度研判人工智能技術(shù)對國家安全博弈的影響，對于探尋人工智能與國家安全的關(guān)系將有重要意義。

正如一個(gè)硬幣的兩面，人工智能技術(shù)具有雙面性。一方面，憑借其強(qiáng)大的運(yùn)算能力，以人工智能為驅(qū)動(dòng)的網(wǎng)絡(luò)攻擊威脅的可能性越來越大，同時(shí)它將賦能自動(dòng)化武器，使其攻擊能力從網(wǎng)絡(luò)空間向物理空間擴(kuò)散；另一方面，機(jī)器學(xué)習(xí)大大縮短了人類分析網(wǎng)絡(luò)攻擊事件所需的時(shí)間，能夠做到快速響應(yīng)，同時(shí)也為應(yīng)對網(wǎng)絡(luò)安全中存在的信息泄露、隱私安全、預(yù)防犯罪等問題提供了方案。如何趨利避害，積極推動(dòng)人工智能安全技術(shù)發(fā)展，防范網(wǎng)絡(luò)空間安全風(fēng)險(xiǎn)，是人工智能安全發(fā)展的重點(diǎn)。

（看看新聞Knews記者：王琳琳 編輯：陳佳雯）