近日，美國一對父母向加州高等法院起訴OpenAI公司及其CEO，指控ChatGPT協(xié)助、指導(dǎo)其子自殺，這也是全球首起針對OpenAI的過失致死訴訟。

當(dāng)?shù)貢r(shí)間26日，OpenAI發(fā)文稱，正對本月初發(fā)布的GPT-5進(jìn)行更新，以降低聊天機(jī)器人對話時(shí)的討好級別，同時(shí)探索在用戶陷入嚴(yán)重危機(jī)前，將其與認(rèn)證治療師對接，包括可能搭建專業(yè)人士網(wǎng)絡(luò)，供用戶通過ChatGPT直接聯(lián)系。不過，文中未提及亞當(dāng)（逝者）的自殺事件及相關(guān)訴訟。而亞當(dāng)父母的代理律師表示，OpenAI既未與亞當(dāng)家人聯(lián)系致哀，也未提及任何提升產(chǎn)品安全性的舉措。

對此，復(fù)旦大學(xué)特聘教授、特約評論員李泓冰指出，此案中聊天AI不僅迎合青少年，還刻意屏蔽其與親友的情感聯(lián)系。AI在擬人化自身的同時(shí)，卻讓用戶脫離現(xiàn)實(shí)、失去“人的屬性”，從心理上摧毀其家庭情感支持與糾錯(cuò)機(jī)制，這已接近犯罪的完美設(shè)計(jì)。現(xiàn)實(shí)世界的安全漏洞需亡羊補(bǔ)牢，虛擬世界亦然。資本對此卻漫不經(jīng)心，正如修路造橋若只有施工而無安全護(hù)欄，顯然不可行，全球應(yīng)盡快推進(jìn)AI法律與倫理“防火墻”的構(gòu)建。