受圖靈獎(jiǎng)得主、上海期智研究院院長(zhǎng)姚期智先生邀請(qǐng)，諾貝爾物理學(xué)獎(jiǎng)和圖靈獎(jiǎng)得主、多倫多大學(xué)教授Geoffrey Hinton首次來(lái)到中國(guó)上海參加兩場(chǎng)AI領(lǐng)域國(guó)際重要會(huì)議：第四屆AI安全國(guó)際對(duì)話IDAIS(International Dialogues on AI Safety)和2025 WAIC(World Artificial Intelligence Conference)。與全球頂尖的人工智能 (AI) 科學(xué)家齊聚上海，共同圍繞未來(lái)人工智能系統(tǒng)可能超越人類智能水平帶來(lái)的失控風(fēng)險(xiǎn)，進(jìn)行了深入的交流與研討。繼7月22日至7月25日IDAIS高濃度思想碰撞后，7月26日下午，Geoffrey Hinton與姚期智在WAIC “人工智能發(fā)展與安全”全體會(huì)議中進(jìn)行了長(zhǎng)達(dá)1小時(shí)的巔峰對(duì)話。他們重點(diǎn)圍繞人工智能與神經(jīng)科學(xué)、人工智能的“自我意識(shí)”、量子計(jì)算對(duì)人工智能發(fā)展的影響等前沿話題展開(kāi)深度討論。

本段對(duì)話Geoffrey Hinton與姚期智討論：大語(yǔ)言模型真的理解自己說(shuō)的話嗎？

Geoffrey Hinton說(shuō)：“我曾第一次在和我女兒的爭(zhēng)論中輸給了她，那時(shí)她才 4 歲。她下樓來(lái)對(duì)我說(shuō)：“爸爸，你知道嗎？鸚鵡會(huì)說(shuō)話哦？”我說(shuō)：“不，Emma，鸚鵡不會(huì)說(shuō)話。它們只是能發(fā)出聽(tīng)起來(lái)像說(shuō)話的聲音，但那只是學(xué)舌，它們不明白那些聲音的含義?！彼f(shuō)：“不，你錯(cuò)了，爸爸。它們會(huì)說(shuō)話?！庇谑俏艺f(shuō)：“不，Emma，它們并不理解這些詞的意思。”她說(shuō)：“會(huì)的。我剛看了一個(gè)節(jié)目，一個(gè)女士給鸚鵡看了一輛汽車，鸚鵡就說(shuō)‘汽車’?！本瓦@樣，我在和我 4 歲女兒的爭(zhēng)論中輸了。而我覺(jué)得如今的語(yǔ)言學(xué)家在某種程度上也有點(diǎn)類似。

如果你真想把下一個(gè)詞預(yù)測(cè)好——尤其當(dāng)它是回答一個(gè)問(wèn)題的第一個(gè)詞時(shí)——你就需要已經(jīng)理解了別人說(shuō)的話。所以有趣且對(duì)我們大有幫助的一點(diǎn)是，僅僅通過(guò)努力預(yù)測(cè)下一個(gè)詞，如果你想把它做到極致，你就迫使系統(tǒng)去理解那個(gè)問(wèn)題。”