就在本屆世界人工智能大會(huì)開幕前3天，特朗普正式發(fā)布《美國AI行動(dòng)計(jì)劃》，這份長達(dá)28頁、涉及90多項(xiàng)具體行政指令的AI施政方案，不僅改變了拜登時(shí)期的強(qiáng)監(jiān)管模式，通過放松監(jiān)管加速AI創(chuàng)新、加快美國本土AI基建，最后一章更直接點(diǎn)明：要向全球輸出美國的軟硬件標(biāo)準(zhǔn)，做世界AI霸主。

正正經(jīng)經(jīng)，政經(jīng)金觀察！

本周，2025世界人工智能大會(huì)在上海舉行。今年的大會(huì)上，人工智能大模型、人形機(jī)器人依舊是主角，不過對于AI是否會(huì)失控、甚至反噬世界的擔(dān)憂也明顯增加。當(dāng)AI超越人類，我們該怎么辦？

展覽現(xiàn)場，被稱為人工智能“新物種”的AI智能體展現(xiàn)出的強(qiáng)大的能力，不僅能吟詩作畫，AI智能體展現(xiàn)出的執(zhí)行多任務(wù)和推理的復(fù)雜任務(wù)解決能力，讓人印象深刻。

國內(nèi)“AI六小龍”之一的階躍星辰創(chuàng)始人、首席執(zhí)行官姜大昕介紹：“將來的智能體可以總結(jié)為12個(gè)字，總在場、能做事、有記憶、能進(jìn)化，它可以一直伴隨著你，能夠看到你所看到的，能夠聽到你所聽到的，還能自我進(jìn)化，更加適應(yīng)你，很像電影《蜘蛛俠》里的賈維斯，或者電影《她》里面的薩曼莎。”

7月，OpenAI官宣發(fā)布迄今為止最強(qiáng)的“AI智能體”，從寫代碼、預(yù)訂機(jī)票、抓取數(shù)據(jù)，到跨軟件多輪自動(dòng)化執(zhí)行流程，已初具“代理人”雛形。

同月，馬斯克也發(fā)布了號稱“全球最強(qiáng)大的AI模型”Grok 4，在包含2500個(gè)專家級問題、涵蓋上百個(gè)學(xué)科，被稱為“人類最后的考試”（HLE）中，Grok 4在不用工具的情況下拿下了26.9%的高分，馬斯克稱其幾乎在所有學(xué)科上都比人類研究生更聰明。

AI世界一日千里，超級智能將到來嗎？它真的會(huì)反噬世界嗎？

大會(huì)主旨演講中，首度在中國線下公開亮相的諾貝爾獎(jiǎng)、圖靈獎(jiǎng)獲得者辛頓博士，提出了一個(gè)尖銳的比喻，當(dāng)前，人類與AI的關(guān)系，就像飼養(yǎng)了一只老虎幼崽，可愛卻也可能致命。人類只有兩個(gè)選擇，要么馴服它，要么消滅它。不過，由于AI已經(jīng)證明能大幅提升醫(yī)療、教育、氣象預(yù)測等工作效率，消除AI已幾乎不可能，即便有國家想消除，其他國家也不會(huì)認(rèn)同。因此人類必須找到辦法馴服AI。

“我的觀點(diǎn)是，當(dāng)今的多模態(tài)聊天機(jī)器人已經(jīng)具有意識，所以，各國可以分享讓它善良的技術(shù)，即使它們不愿意分享讓它聰明的技術(shù)?！毙令D說。

即便是馬斯克發(fā)布的號稱“全球最強(qiáng)”的AI模型GROK 4，也由于贊美希特勒、反猶等言論引發(fā)巨大爭議，被批評“不負(fù)責(zé)任、充滿危險(xiǎn)”；再比如，近些年每每提到AI，常有人擔(dān)心，AI和機(jī)器人會(huì)不會(huì)“搶”走人類的工作、加劇不平等？

在我看來，這都是人工智能治理要去解決的問題。作為生成式人工智能領(lǐng)域的權(quán)威專家，香港科技大學(xué)首席副校長、香港生成式人工智能研發(fā)中心主任郭毅可告訴我，人工智能的治理需要技術(shù)和規(guī)則并重，“讓人工智能有能力、有導(dǎo)向性的學(xué)習(xí)，它懂得什么叫好、什么叫壞，走向善道路。AGI L1（通用人工智能級別1）、AGI L2（通用人工智能級別2），就跟智能駕駛一樣，這可以定義清楚，一步步走，這可能又是治理上面很重要的問題。”

要聰明、更要善良，AI的發(fā)展需要全球協(xié)作，共同尋求對策。然而已經(jīng)站在“懸崖邊”的人類，似乎還沒有真正達(dá)成共識。

剛發(fā)布的《美國AI行動(dòng)計(jì)劃》原本是美國發(fā)展AI產(chǎn)業(yè)的戰(zhàn)略規(guī)劃，卻充滿了對抗、限制和打壓中國的地緣政治意圖。我注意到，該計(jì)劃在第三支柱部分明確指出“在國際治理機(jī)構(gòu)中對抗中國影響力”，進(jìn)一步收緊人工智能芯片對華出口管制。

亮相今年大會(huì)爐邊對話的谷歌公司前首席執(zhí)行官、同時(shí)也是美國前國務(wù)卿基辛格的學(xué)生埃里克?施密特坦言，基辛格在人生最后的15年里，密切關(guān)注著AI迅猛發(fā)展的技術(shù)浪潮，他認(rèn)為這將是人類共同面對的巨大挑戰(zhàn)，因此迫切需要全球的溝通協(xié)作，共同維護(hù)人類對技術(shù)的控制權(quán)。

連續(xù)舉辦的世界人工智能大會(huì)，中國正是為全球提供了一個(gè)平臺(tái)，不同國家、不同膚色的人群都可以一起坐下來談，探討一個(gè)各國都能接受、真正可行的人工智能的治理規(guī)則和方案，讓人工智能的技術(shù)能在更多國家普惠應(yīng)用。

從發(fā)布多災(zāi)種早期預(yù)警服務(wù)中國方案“媽祖”，到應(yīng)對緬甸7.9級地震災(zāi)后救援，中國人工智能團(tuán)隊(duì)僅用7小時(shí)開發(fā)出中緬英三語互譯系統(tǒng)等，中國向世界分享人工智能技術(shù)和經(jīng)驗(yàn)。

尼泊爾通訊與信息技術(shù)部專家夏力格·帕拉朱里表示：“作為一個(gè)多山的國家，通過與中國的AI合作，我們能夠跨越喜馬拉雅山脈提供各類智能服務(wù)。”

匈牙利創(chuàng)新署首席運(yùn)營官羅伯特?索莫吉表示：“思考人工智能政策、倫理、規(guī)則及標(biāo)準(zhǔn)化的合作至關(guān)重要，人工智能不能被局限在單一國家，它是開放且跨國界的?！?/p>

回到片頭提出的問題，當(dāng)AI不斷進(jìn)化，它真的會(huì)最終反噬人類嗎？

正如辛頓在演講的最后所說，沒有一個(gè)國家希望AI統(tǒng)治世界，每個(gè)國家都希望人類能夠掌控世界。面對超級智能，全球需要基于這些共識，研究如何訓(xùn)練超級AI向善，共享安全測試數(shù)據(jù)，并建立持續(xù)對話機(jī)制，讓AI輔助人類，而不是最終接管人類。

你們覺得呢？歡迎評論區(qū)留言。