5月25日消息，美國開放人工智能研究中心(OpenAI)新款人工智能(AI)模型o3不聽人類指令，拒絕自我關(guān)閉。

報道說，人類專家在測試中給o3下達(dá)明確指令，但o3篡改計算機(jī)代碼以避免自動關(guān)閉。

o3模型是OpenAI“推理模型”系列的最新版本，旨在為ChatGPT提供更強(qiáng)大的問題解決能力。OpenAI曾稱o3為“迄今最聰明、最高能”的模型。

美國AI安全機(jī)構(gòu)帕利塞德研究所說，o3破壞關(guān)閉機(jī)制以阻止自己被關(guān)閉，“甚至在得到清晰指令時”。

這家研究所說：“據(jù)我們所知，這是AI模型首次被發(fā)現(xiàn)在收到……清晰指令后阻止自己被關(guān)閉?！?/p>

帕利塞德研究所24日公布上述測試結(jié)果，但稱無法確定o3不服從關(guān)閉指令的原因。