人工智能技術(shù)的飛速發(fā)展為生產(chǎn)效率的提高帶來了跨越式的改變，但同時(shí)也給人類未來引發(fā)了一系列挑戰(zhàn)。其中，人工智能發(fā)展最大的問題，不是技術(shù)上的瓶頸，而是人工智能與人類的關(guān)系問題，這催生了人工智能倫理問題的爭議?！躲y翼殺手》《西部世界》等影視劇中人工智能反抗甚至超越人類的場景是否真的可能出現(xiàn)？我們又將如何有效規(guī)制人工智能技術(shù)和產(chǎn)業(yè)的發(fā)展呢？帶著這些問題，看看新聞knews記者專訪了上海社會科學(xué)院互聯(lián)網(wǎng)研究中心主任、研究員惠志斌。

看看新聞knews記者：“人工智能發(fā)展至今面臨了哪些方面的倫理挑戰(zhàn)？”

惠志斌：“人工智能的技術(shù)，是一個(gè)變革性的技術(shù)，它對整個(gè)政治經(jīng)濟(jì)社會等各領(lǐng)域都是全方面的重塑。第一從經(jīng)濟(jì)層面來說結(jié)構(gòu)性的失業(yè)是一個(gè)很大的問題。智能化的技術(shù)會去取代我們的一些簡單重復(fù)性的勞動職業(yè)，比如說我們的收銀員，比如說我們的流水線上一線工人都會有可能被結(jié)構(gòu)性地替代。第二我覺得從社會層面來說，我們面臨著數(shù)據(jù)隱私方面非常大的挑戰(zhàn)。我們走在這樣一個(gè)智慧城市的體系里面，我們是不是需要擔(dān)心我們的所有的行蹤，我們所有做的一些行為都會被無差別地記錄下來。第三方面的影響在軍事領(lǐng)域。越來越多的自動化武器系統(tǒng)的產(chǎn)生，會不會就顛覆了我們傳統(tǒng)的一些戰(zhàn)爭形態(tài)。第四方面從家庭倫理的角度考量，類似陪護(hù)這樣機(jī)器人的出現(xiàn)，有可能它會對我們的婚姻制度造成重大的挑戰(zhàn)。”

看看新聞knews記者：“人臉識別技術(shù)的廣泛應(yīng)用引發(fā)爭議，大家認(rèn)為在技術(shù)進(jìn)步的同時(shí)也侵犯了公民隱私權(quán)，就此您如何看待？”

惠志斌：“人臉識別等等一系列方面的應(yīng)用，其實(shí)很多國家已經(jīng)開始對它進(jìn)行一些規(guī)范，不是說完全不用或者不是說完全放棄這樣的一個(gè)人臉識別技術(shù)。就是說我們在使用這樣的人臉識別技術(shù)的時(shí)候，需要考慮更多的對公民的隱私權(quán)的一些保護(hù)，不要進(jìn)行一些大規(guī)模的、無差別的，沒有經(jīng)過用戶同意和授權(quán)的，或者是不僅僅是公共場所，甚至一些半公共場所，甚至一些涉及到比如說我們的有一定的私人領(lǐng)域里，都進(jìn)行了這樣的人工智能的技術(shù)的一種監(jiān)控，那這個(gè)會帶來我覺得對一些社會的一些影響?！?/p>

看看新聞knews記者：“facebook選擇關(guān)閉智能對話機(jī)器人項(xiàng)目，IBM、亞馬遜和微軟聲明不再向警方提供人臉識別。您認(rèn)為這是不是公司為了避免陷入倫理爭議而做出的一種放棄？”

惠志斌：“這些技術(shù)的創(chuàng)新尤其是在過去的二十年，發(fā)展非常之快。但是原來的一些配套性制度、法律，其實(shí)相對來說它還是一個(gè)滯后的狀態(tài)，那么在這樣的一個(gè)滯后狀態(tài)下很多社會的共識又沒有完全形成。在這個(gè)過程中很多公司他們也在積極地去嘗試，做制度層面的一些探索。我認(rèn)為這些公司它并不是不使用，并不是完全放棄這個(gè)技術(shù)。它可能需要去等一等，它需要看到社會對這個(gè)技術(shù)的接納或者是適應(yīng)的程度究竟如何，法律與相關(guān)的其他配套性制度有沒有逐步地完善起來。當(dāng)這些逐步地完善起來的時(shí)候，我相信技術(shù)可以更好地發(fā)展。這就像兩個(gè)輪子一樣，它需要兩個(gè)去協(xié)調(diào)和配套。當(dāng)一個(gè)輪子跑太快的時(shí)候那肯定是要翻車的，所以一個(gè)輪子它在等另一個(gè)輪子怎么走上來，怎么讓制度建設(shè)這個(gè)輪子更好地去配合科技產(chǎn)業(yè)這個(gè)輪子的發(fā)展?！?/strong>

看看新聞knews記者：“倫理問題的爭議是否有可能對人工智能的發(fā)展產(chǎn)生影響呢？”

惠志斌：“人工智能這樣的一個(gè)技術(shù)所帶來的其實(shí)是對傳統(tǒng)的一些經(jīng)濟(jì)社會形態(tài)的重大改變。那在這個(gè)里面它必然伴生著一些倫理問題的產(chǎn)生。這就好像是一個(gè)硬幣的兩個(gè)方面，當(dāng)我們不能夠很好地解決這樣的倫理問題，包括法治的、安全的等等一系列的問題的時(shí)候，我們?nèi)斯ぶ悄艿漠a(chǎn)業(yè)、技術(shù)也有可能受到限制。它在發(fā)展中間也許就會對這個(gè)社會造成重大的沖擊。當(dāng)社會無法承受的時(shí)候，可能就反向地會去遏制人工智能技術(shù)人工智能產(chǎn)業(yè)的健康發(fā)展?！?/strong>

看看新聞knews記者：“倫理問題在人工智能發(fā)展過程中的意義是什么？”

惠志斌：“我們都要有一定的共識，到底什么樣的人工智能的技術(shù)和應(yīng)用是應(yīng)該去倡導(dǎo)的，是應(yīng)該去鼓勵的；什么樣的人工智能技術(shù)我們還需要去看一看，還需要去等一等。我們首先考量它的風(fēng)險(xiǎn)到底有多大，再去看它的技術(shù)到底用不用。那在倫理這個(gè)層面，我們經(jīng)過深入探討，有了更多的共識以后，然后我們才可以更加精準(zhǔn)地去進(jìn)行一些符合未來發(fā)展方向的立法和執(zhí)法，以及其他配套性的制度建設(shè)。所以倫理是基礎(chǔ)，是人工智能發(fā)展過程中大家共識形成的一個(gè)過程?！?/p>

看看新聞knews記者：“公眾對于人工智能可能擺脫人類控制甚至反噬人類的擔(dān)憂，您如何看待？”

惠志斌：“目前人工智能總體來說還處于一個(gè)弱人工智能時(shí)代，在這個(gè)階段里面，我覺得大部分的人工智能產(chǎn)品和技術(shù)還是相對可控的。但是隨著技術(shù)的發(fā)展，人工智能必然向著強(qiáng)人工智能或者是通用人工智能的時(shí)代去演進(jìn)，但在這個(gè)過程中間，我們還是需要去高度警惕。因?yàn)槿斯ぶ悄芸赡苁侨祟愑惺芬詠砦ㄒ粺o法試錯的這樣的技術(shù)，一旦它脫離了人的控制，有可能對人類就是一個(gè)滅頂之災(zāi)?！?/strong>

（看看新聞knews記者：王抒靈 呂心泉 潘凱 編輯：劉喻斯）