火爆出圈的聊天機(jī)器人ChatGPT再遭“封殺”。

當(dāng)?shù)貢r(shí)間3月31日，意大利個(gè)人數(shù)據(jù)保護(hù)局宣布，從即日起禁止使用ChatGPT，限制其開發(fā)公司OpenAI處理意大利用戶信息，并開始立案調(diào)查。

意大利個(gè)人數(shù)據(jù)保護(hù)局認(rèn)為，3月20日ChatGPT平臺(tái)出現(xiàn)了用戶對(duì)話數(shù)據(jù)和付款服務(wù)支付信息丟失情況。而該平臺(tái)沒有就收集處理用戶信息進(jìn)行告知，且缺乏大量收集和存儲(chǔ)個(gè)人信息的法律依據(jù)。該機(jī)構(gòu)要求OpenAI公司必須在20天內(nèi)通報(bào)采取了哪些措施來確保用戶數(shù)據(jù)隱私，否則將被處以最高2000萬歐元或公司全球年?duì)I業(yè)額4%的罰款。

意大利個(gè)人數(shù)據(jù)保護(hù)局稱，暫停ChatGPT主要出于用戶隱私數(shù)據(jù)保護(hù)和未成年人保護(hù)的考慮。該機(jī)構(gòu)同時(shí)稱，盡管根據(jù)OpenAI的條款聲稱該服務(wù)面對(duì)13歲以上的用戶，但并沒有使用任何過濾機(jī)制來驗(yàn)證用戶的年齡。

事實(shí)上，本周，不少科技大佬和機(jī)構(gòu)呼吁關(guān)注ChatGPT可能存在的風(fēng)險(xiǎn)。先是包括特斯拉CEO馬斯克等在內(nèi)的1000多名學(xué)界、商界人士發(fā)表聯(lián)名公開信，要求暫停研發(fā)強(qiáng)于GPT-4的AI系統(tǒng)至少6個(gè)月，理由是這對(duì)社會(huì)和人性構(gòu)成潛在風(fēng)險(xiǎn)。緊接著，美國(guó)人工智能和數(shù)字政策中心也向美國(guó)聯(lián)邦貿(mào)易委員會(huì)投訴稱，GPT-4“有偏見、欺騙性，對(duì)隱私和公共安全構(gòu)成風(fēng)險(xiǎn)”，要求對(duì)其進(jìn)行調(diào)查，并呼吁為快速發(fā)展的人工智能行業(yè)制定新法規(guī)。此外，歐洲執(zhí)法機(jī)構(gòu)和消費(fèi)者保護(hù)組織也先后拉響對(duì)ChatGPT潛在危害的警報(bào)。

意大利是首個(gè)對(duì)ChatGPT采取限制措施的西方國(guó)家，此舉是否會(huì)影響ChatGPT的研發(fā)進(jìn)程？在上海人工智能研究院高級(jí)研究員李佳佳看來，像ChatGPT這類通用且應(yīng)用面極廣的產(chǎn)品，在迅速擴(kuò)張的過程中必然會(huì)帶來較大風(fēng)險(xiǎn)，比如數(shù)據(jù)安全和用戶隱私等。因此，暫時(shí)性的放緩進(jìn)度并及時(shí)完善監(jiān)管體制，能夠有效保證產(chǎn)品的質(zhì)量且可以更好地服務(wù)大眾。

李佳佳表示，作為一個(gè)大型語(yǔ)言模型，ChatGPT自發(fā)布以來受到了大量用戶的關(guān)注，并且在方方面面都改變著人類對(duì)于事物的思考方式。GPT-4的出現(xiàn)，又進(jìn)一步加速了這個(gè)進(jìn)程。對(duì)于產(chǎn)品開發(fā)者而言，這類基于神經(jīng)網(wǎng)絡(luò)的大模型，需要不斷地加入新的數(shù)據(jù)來進(jìn)行調(diào)優(yōu)，在此過程中如何保證用戶數(shù)據(jù)的安全化和合理化是一個(gè)值得討論的問題。而對(duì)于用戶而言，AI僅把倫理規(guī)則當(dāng)成一種數(shù)據(jù)訓(xùn)練的趨向，同時(shí)并不能像人類一樣真正理解這些規(guī)則，就有可能產(chǎn)生違背基本事實(shí)和社會(huì)道理倫理的內(nèi)容，如果此類內(nèi)容大量充斥在人們的生活，學(xué)習(xí)和工作中，這將會(huì)導(dǎo)致巨大的社會(huì)風(fēng)險(xiǎn)。

短短幾個(gè)月，“狂飆”的ChatGPT一時(shí)間又成為眾矢之的，是利益之爭(zhēng)，還是確實(shí)存在隱憂？多位業(yè)內(nèi)人士指出，擔(dān)憂者提出的隱患不容小覷。

首先是面臨虛假信息泛濫的問題。美國(guó)新聞可信度評(píng)估與研究機(jī)構(gòu)曾對(duì)ChatGPT進(jìn)行了測(cè)試，對(duì)ChatGPT提出充斥陰謀論和誤導(dǎo)性敘述的問題，發(fā)現(xiàn)它能在幾秒鐘內(nèi)改編信息，產(chǎn)生大量令人信服卻無信源的內(nèi)容。

其次是信息泄露問題。3月2日，ChatGPT開放了應(yīng)用程序接口，一片叫好聲中就有業(yè)內(nèi)人士擔(dān)心，開放接口后若發(fā)生模型濫用、訓(xùn)練數(shù)據(jù)泄露就會(huì)給不法分子可乘之機(jī)。

還有ChatGPT帶來的知識(shí)產(chǎn)權(quán)合規(guī)問題?！拔谋緮?shù)據(jù)挖掘”是否需要相應(yīng)知識(shí)產(chǎn)權(quán)授權(quán)？如果AI生成答復(fù)具有獨(dú)創(chuàng)性，那著作權(quán)人可以是AI嗎？而ChatGPT在回復(fù)中拼接了第三方作品，其知識(shí)產(chǎn)權(quán)問題應(yīng)當(dāng)如何處理？這一系列問題都將給現(xiàn)有法律框架帶來挑戰(zhàn)。

人工智能的高速發(fā)展，早已引起各國(guó)政府關(guān)注。3月29日，英國(guó)政府發(fā)布了針對(duì)人工智能產(chǎn)業(yè)監(jiān)管的白皮書，歐盟制定的《人工智能法案》則將于明年正式生效。

那么，科技人士發(fā)出的警告是否是杞人憂天？人類又該如何為AI技術(shù)研發(fā)戴上“緊箍咒”？李佳佳表示，AI誕生之初至今日，便憑借著其超強(qiáng)的學(xué)習(xí)能力，對(duì)人類生產(chǎn)、生活、組織方式及經(jīng)濟(jì)社會(huì)發(fā)展的廣泛領(lǐng)域產(chǎn)生了極其深刻的影響，并成為了新一輪科技革命的核心驅(qū)動(dòng)力，而這一趨勢(shì)還會(huì)延續(xù)下去。每項(xiàng)技術(shù)在應(yīng)用前都應(yīng)該進(jìn)行風(fēng)險(xiǎn)評(píng)估，但該受監(jiān)管的是技術(shù)帶來的危害而不是技術(shù)本身。

李佳佳認(rèn)為，AI研發(fā)人員需要深思的是如何才能保證這類新興技術(shù)不觸及人類的道德禁區(qū)并避免失控的局面，這就需要研發(fā)人員加強(qiáng)對(duì)其核心原理的研究，并完善模型的可解釋性技術(shù)。

同時(shí)，政府、相關(guān)監(jiān)管部門和社會(huì)機(jī)構(gòu)應(yīng)集合法學(xué)、管理學(xué)和倫理等多學(xué)科，進(jìn)行人工智能社會(huì)風(fēng)險(xiǎn)治理的研究，并不斷完善監(jiān)管制度，制定具體的指導(dǎo)原則，來引領(lǐng)新興技術(shù)的發(fā)展。    

（看看新聞Knews編輯：崔信淑 張?zhí)N昆 阮麗)