“研究人員陷入恐慌”、“機(jī)器人竟用秘密語(yǔ)言交談”、“Facebook被迫終止恐怖AI實(shí)驗(yàn)”——無(wú)論是打開(kāi)BBC，還是福布斯、財(cái)富、紐約時(shí)報(bào)等主要媒體網(wǎng)站，你都會(huì)看到，F(xiàn)cebook成了最大焦點(diǎn)，以一種他們意料之外的方式。

就在前不久，F(xiàn)acebook的CEO扎克伯格還與特斯拉的創(chuàng)始人馬斯克就“人工智能對(duì)人類(lèi)是福還是禍”展開(kāi)了隔空論戰(zhàn)。那時(shí)，扎克伯格還是堅(jiān)定的樂(lè)觀派。在7月2３日的一場(chǎng)直播中，扎克伯格說(shuō)：“我對(duì)人工智能持樂(lè)觀態(tài)度。對(duì)于那些認(rèn)為人工智能會(huì)導(dǎo)致世界末日的悲觀主義者，我并不能理解他們，他們太過(guò)于消極。從某種角度看，我認(rèn)為他們很不負(fù)責(zé)任?！?/p>

針對(duì)扎克伯格的此番言論，有網(wǎng)友25日在推特上詢(xún)問(wèn)馬斯克的意見(jiàn)。他回復(fù)稱(chēng)：“我已經(jīng)同扎克伯格就相關(guān)問(wèn)題進(jìn)行了討論，他對(duì)于這一領(lǐng)域的理解有限”。

扎克伯格對(duì)人工智能的盲目樂(lè)觀被自己的研究團(tuán)隊(duì)打臉了嗎？如果你對(duì)于這條消息還沒(méi)有任何了解，那么，請(qǐng)先瀏覽一段對(duì)話(huà)內(nèi)容：

Bob: i can can i i everything else

Alice: balls have zero to me to me to me to me to me to me to me to me

Bob: you i everything else

Alice: balls have a ball to me to me to me to me to me to me to me to me to

Bob: i i can i i i everything else

Alice: balls have zero to me to me to me to me to me to me to me to me

Bob: i

Alice: balls have zero to me to me to me to me to me to me to me to me

Bob: you i i i i i everything else

Alice: balls have zero to me to me to me to me to me to me to me to me

如果你不懂英文，正在尋求翻譯，那么你可能會(huì)被谷歌翻譯器甩出這樣一個(gè)答案。

不要?dú)怵H。事實(shí)上，即便是母語(yǔ)是英文的人也沒(méi)法完全理解這段對(duì)話(huà)的含義。因?yàn)椋⒎莵?lái)自人類(lèi)，而是發(fā)生在兩個(gè)機(jī)器人Bob和Alice之間。

他們顯然在用一種非標(biāo)準(zhǔn)的英語(yǔ)進(jìn)行溝通，但他們究竟在聊些什么呢？我們不得而知。創(chuàng)造出這兩個(gè)AI機(jī)器人的Facebook人工智能研究團(tuán)（Facebook Artificial Intelligence Research，簡(jiǎn)稱(chēng)FAIR）也很快停止了相關(guān)研究。

不過(guò)，F(xiàn)acebook關(guān)閉這一實(shí)驗(yàn)項(xiàng)目的原因真的是出于對(duì)人工智能發(fā)展不可控的恐慌嗎？

事實(shí)上，早在6月16日Facebook人工智能研究團(tuán)隊(duì)的一個(gè)實(shí)驗(yàn)小組的成員就在開(kāi)源博客中公布了該實(shí)驗(yàn)的相關(guān)內(nèi)容，這次實(shí)驗(yàn)的研究成果也同日發(fā)表。在一篇名為Deal or no deal? Training AI bots to negotiate（《成交還是不成交？訓(xùn)練AI機(jī)器人談判》）的博客中，F(xiàn)acebook人工智能研究小組介紹稱(chēng)，該實(shí)驗(yàn)項(xiàng)目的主要任務(wù)是為了訓(xùn)練AI機(jī)器人進(jìn)行談判。

在博文一開(kāi)始，F(xiàn)AIR小組就介紹了實(shí)驗(yàn)背景和目的——現(xiàn)在，隨著人工智能的不斷發(fā)展，“聊天機(jī)器人已經(jīng)很普遍，他們可以進(jìn)行簡(jiǎn)短的對(duì)話(huà)，甚至可以執(zhí)行諸如預(yù)定餐廳這類(lèi)簡(jiǎn)單的任務(wù)”。但是，F(xiàn)AIR希望賦予人工智能機(jī)器人一個(gè)新的能力，那就是談判。

在這樣的預(yù)設(shè)背景之下，Bob和Alice作為兩個(gè)虛擬機(jī)器人接受了實(shí)驗(yàn)小組的訓(xùn)練。在實(shí)驗(yàn)場(chǎng)景中，書(shū)（book）、帽子（hat）和球（ball）被賦予了指定的價(jià)值和特定的數(shù)量。如此一來(lái)，這個(gè)實(shí)驗(yàn)之下的AI機(jī)器人相當(dāng)于被置于貨幣誕生前人類(lèi)遠(yuǎn)古的物物交換時(shí)代，而他們的目的就是為了以最利于自己的方式實(shí)現(xiàn)交換。事實(shí)上，在這一實(shí)驗(yàn)預(yù)設(shè)之下，經(jīng)過(guò)不斷的訓(xùn)練，Bob和Alice的對(duì)話(huà)在多數(shù)情況下也體現(xiàn)出了大多數(shù)人可以理解的嚴(yán)格邏輯性。

研究小組對(duì)于整個(gè)實(shí)驗(yàn)結(jié)果相當(dāng)滿(mǎn)意，“FAIR訓(xùn)練出的最佳AI機(jī)器人的表現(xiàn)與人類(lèi)相當(dāng)”，他們?cè)诓┪闹袑?xiě)道：“他們不僅可以講英語(yǔ)，而且還能智能地思考說(shuō)什么?！?/p>

不過(guò)，這個(gè)看上去還不錯(cuò)的實(shí)驗(yàn)忽略了一個(gè)設(shè)定，那就是鼓勵(lì)機(jī)器人用人類(lèi)可以理解的語(yǔ)言規(guī)范進(jìn)行交互。因此，當(dāng)研究人員讓兩個(gè)機(jī)器人交互學(xué)習(xí)時(shí)，他們發(fā)明出了一種更高效的機(jī)器語(yǔ)言，這樣就出現(xiàn)了上文所述看似亂碼的“神秘語(yǔ)言”。這聽(tīng)起來(lái)似乎有些毛骨悚然，但事實(shí)上，這項(xiàng)AI技能早就不是新鮮事。

“機(jī)器人會(huì)脫離人類(lèi)可以理解的語(yǔ)言而為自己發(fā)明代碼語(yǔ)言”，F(xiàn)AIR實(shí)驗(yàn)小組的研究員Dhruv Batra解釋稱(chēng)：“這就好像我重復(fù)五遍某個(gè)項(xiàng)目，你就會(huì)認(rèn)為我是要這個(gè)項(xiàng)目的五個(gè)副本一樣。（注：比如，“蘋(píng)果 蘋(píng)果 蘋(píng)果 蘋(píng)果 蘋(píng)果”相當(dāng)于“5個(gè)蘋(píng)果”）機(jī)器人的這種做法與人類(lèi)沒(méi)有太大區(qū)別?！?/p>

所以，F(xiàn)acebook確實(shí)叫停了機(jī)器人之間的對(duì)話(huà)，“但這并不是出于對(duì)于人工智能發(fā)展的恐慌”，參與實(shí)驗(yàn)的FAIR另一位研究員Mike Lewis告訴FastCo，叫停對(duì)話(huà)的主要原因是因?yàn)閷?shí)驗(yàn)?zāi)康氖菫榱藢?shí)現(xiàn)機(jī)器人與人類(lèi)之間的談判對(duì)話(huà)，而不是為了激發(fā)機(jī)器人之間的有效溝通。

雖然這一次的“Facebook機(jī)器人秘密交談”只是虛驚一場(chǎng)，但人工智能的高速發(fā)展所帶來(lái)的倫理思考，以及由此產(chǎn)生的人類(lèi)恐慌一直存在。在馬斯克之外，著名的理論物理學(xué)家霍金也一直對(duì)人工智能的發(fā)展保持高度謹(jǐn)慎，擔(dān)心不遵循人類(lèi)意愿行事的超級(jí)智能的崛起會(huì)威脅到人類(lèi)。

即便如此，站隊(duì)樂(lè)觀的各行大佬同樣數(shù)量可觀。稍早前，有“谷歌大腦”之稱(chēng)的該公司人工智能帶頭人Jeff Dean以及剛剛發(fā)現(xiàn)“天使粒子”的斯坦福大學(xué)理論物理學(xué)家張首晟在美國(guó)中文網(wǎng)采訪(fǎng)都談及過(guò)他們對(duì)于人機(jī)互動(dòng)關(guān)系的終極想象。雖然立足依據(jù)不同，但他們均認(rèn)為，人工智能終將在可控的范圍之內(nèi)惠及全人類(lèi)。

細(xì)思起來(lái)，人類(lèi)邁進(jìn)現(xiàn)代化過(guò)程中的很多重大發(fā)現(xiàn)與研究成果都伴隨著巨大的爭(zhēng)議。比如，原子彈的使用在結(jié)束了一場(chǎng)世界大戰(zhàn)的同時(shí)，也帶來(lái)了兩座城市永久的傷痛。而我本人在幾個(gè)月前經(jīng)歷過(guò)的最大挫折，就來(lái)自于在手機(jī)APP的國(guó)際象棋游戲中對(duì)抗AI的無(wú)力感，它們的速度仿佛子彈，擊中我作為人類(lèi)的脆弱尊嚴(yán)。這種感覺(jué)，被圍棋上對(duì)陣Alphago的柯潔形容為“遇見(jiàn)了上帝”。

不過(guò)，即便是在某些領(lǐng)域已經(jīng)猶如上帝，人工智能的整體發(fā)展依然還在初期階段?！拔覀儸F(xiàn)在拼了老命要讓AI聰明起來(lái)”，一位在Facebook從事人工智能研究的工作人員在談及此次事件時(shí)向我感嘆道：“AI還是太笨了?！?/p>

（編輯：董智杰）