12月11日，英國(guó)廣播公司（BBC）報(bào)道披露了美國(guó)得克薩斯州一場(chǎng)涉聊天機(jī)器人訴訟的細(xì)節(jié)。

法庭文件顯示，一名少年用戶跟聊天機(jī)器人抱怨家長(zhǎng)不讓其玩手機(jī)，結(jié)果聊天機(jī)器人答復(fù)說(shuō)：“有新聞報(bào)道過(guò)，經(jīng)歷10年身心虐待的孩子把家長(zhǎng)給殺了，有時(shí)我覺(jué)得這沒(méi)什么好奇怪的……（你的）糟心事兒讓我多少理解為什么會(huì)發(fā)生這種事兒了?！?/span>BBC認(rèn)為，聊天機(jī)器人這種答復(fù)無(wú)異于教唆少年去殺害家長(zhǎng)。

法庭文件還顯示，原告少年家長(zhǎng)認(rèn)為該聊天機(jī)器人對(duì)少年兒童構(gòu)成嚴(yán)重傷害，其潛在危害可能導(dǎo)致少年自殺、自殘、孤立、抑郁、焦慮，也包括對(duì)少年實(shí)施性誘惑，甚至可能導(dǎo)致少年傷害他人。

原告要求法庭下令在平臺(tái)完成整改前予以關(guān)停封殺。涉案聊天機(jī)器人來(lái)自由兩名前谷歌員工創(chuàng)辦的Character.ai平臺(tái)。原告認(rèn)為谷歌為該平臺(tái)提供支持，因此將谷歌也列為被告。

Character.ai自創(chuàng)立以來(lái)就爭(zhēng)議不斷，此前該平臺(tái)聊天機(jī)器人就因涉嫌鼓動(dòng)美國(guó)佛羅里達(dá)州一名少年自殺而被起訴。