受圖靈獎(jiǎng)得主、上海期智研究院院長姚期智先生邀請，諾貝爾物理學(xué)獎(jiǎng)和圖靈獎(jiǎng)得主、多倫多大學(xué)教授Geoffrey Hinton首次來到中國上海參加兩場AI領(lǐng)域國際重要會(huì)議：第四屆AI安全國際對話IDAIS(International Dialogues on AI Safety)和2025 WAIC(World Artificial Intelligence Conference)。與全球頂尖的人工智能 (AI) 科學(xué)家齊聚上海，共同圍繞未來人工智能系統(tǒng)可能超越人類智能水平帶來的失控風(fēng)險(xiǎn)，進(jìn)行了深入的交流與研討。繼7月22日至25日IDAIS高濃度思想碰撞后，7月26日下午，Geoffrey Hinton與姚期智在WAIC “人工智能發(fā)展與安全”全體會(huì)議中進(jìn)行了長達(dá)1小時(shí)的巔峰對話。他們重點(diǎn)圍繞人工智能與神經(jīng)科學(xué)、人工智能的“自我意識”、量子計(jì)算對人工智能發(fā)展的影響等前沿話題展開深度討論。

本段Geoffrey Hinton與姚期智對話，討論AI 領(lǐng)域最重要的未解決問題是什么？

Geoffrey Hinton談及一個(gè)重要問題是訓(xùn)練出善良的AI，他認(rèn)為訓(xùn)練AI很像養(yǎng)育孩子。“養(yǎng)孩子的時(shí)候，你可以給他定規(guī)矩，但那幾乎不起什么作用。你可以獎(jiǎng)賞懲罰他，有一點(diǎn)效果?；蛘吣憧梢越o他展示好的行為榜樣。如果父母表現(xiàn)出良好的行為，孩子通常會(huì)成長為一個(gè)品德高尚的人。所以我覺得我們應(yīng)該用精心篩選的數(shù)據(jù)來培養(yǎng) AI。當(dāng) AI 開始學(xué)習(xí)時(shí)，它只接觸好的行為。我們把所有人的不良行為先存起來，等它學(xué)會(huì)了什么是好的行為之后，再把那些不良行為給它看。”