近期，持續(xù)不斷的針對(duì)美國(guó)明尼蘇達(dá)州非裔男子喬治·佛洛依德在被當(dāng)?shù)鼐綀?zhí)法逮捕期間死亡事件的抗議活動(dòng)引發(fā)了人們對(duì)種族歧視現(xiàn)象更廣泛的關(guān)注，并引發(fā)了公眾對(duì)于警察是否應(yīng)該使用技術(shù)手段去追蹤定位示威者和監(jiān)視居民區(qū)的爭(zhēng)議。

IBM在6月10日表示，他們因擔(dān)心人臉識(shí)別技術(shù)會(huì)被用于大規(guī)模監(jiān)視和種族特征分析等侵犯隱私的行為，將會(huì)退出人臉識(shí)別市場(chǎng)。

IBM首席執(zhí)行官阿文德·克里希納（Arvind Krishna）在周一致美國(guó)國(guó)會(huì)的信中表示，該公司希望與立法者合作，并通過(guò)警察制度改革、普及教育和對(duì)科技手段使用的責(zé)任心來(lái)促進(jìn)正義和種族平等， “我們認(rèn)為現(xiàn)在是時(shí)候就國(guó)內(nèi)執(zhí)法機(jī)構(gòu)是否應(yīng)該使用以及如何使用面部識(shí)別技術(shù)而在全國(guó)范圍內(nèi)進(jìn)行商討。IBM堅(jiān)決反對(duì)也絕不容忍將任何技術(shù)（包括其他供應(yīng)商提供的面部識(shí)別技術(shù)）用于大規(guī)模監(jiān)視、種族歧視、侵犯基本人權(quán)和自由，或用于任何與我們的價(jià)值觀不符的目的。” 同時(shí)，克里希納還在信里指出，IBM將不再提供通用的面部識(shí)別或分析軟件。

哈佛大學(xué)和斯坦福大學(xué)的研究員以及非營(yíng)利組織AI For the People的指導(dǎo)者穆塔萊·恩孔德（Mutale Nkonde）表示“這一事件非常具有象征意義。”

恩孔德說(shuō)，IBM“以推進(jìn)反種族主義活動(dòng)為理由”而關(guān)閉一家企業(yè)的行為，表明這種做法是可行的，并且讓“在推特上發(fā)布支持“Black Lives Matter”的言論的同時(shí)和警察進(jìn)行簽約合作的公司行為變得不被社會(huì)所接受。”

同樣的，Amazon也在周三宣布禁止警察使用其提供的面部識(shí)別技術(shù)一年。具體停止的原因amazon暫時(shí)沒(méi)有給出明確答復(fù)，但其在周三的博客中表示希望國(guó)會(huì)制定更嚴(yán)格的面部識(shí)別法規(guī)。

亞馬遜于2016年推出Rekognition人臉識(shí)別系統(tǒng)，并將其推向執(zhí)法部門(mén)后，便開(kāi)始引起美國(guó)公民自由聯(lián)盟和隱私權(quán)倡導(dǎo)者的關(guān)注。去年，在美國(guó)政府的一項(xiàng)研究中，聯(lián)邦研究人員在近200種面部識(shí)別算法中發(fā)現(xiàn)了關(guān)于種族偏見(jiàn)的大量證據(jù)，表明了該技術(shù)被濫用的可能性。去年，以舊金山為首的美國(guó)許多城市已禁止警察和其他政府機(jī)構(gòu)使用它。

“人工智能是可以幫助執(zhí)法機(jī)構(gòu)保護(hù)公民安全的強(qiáng)大工具。但是，Al系統(tǒng)的供應(yīng)商和用戶(hù)應(yīng)該負(fù)有共同的責(zé)任，以確保對(duì)Al進(jìn)行偏見(jiàn)測(cè)試，尤其是在執(zhí)法中使用時(shí)，此類(lèi)偏見(jiàn)測(cè)試更應(yīng)該進(jìn)行公開(kāi)審核與報(bào)告，”克里希納說(shuō)。

科技行業(yè)一直在反對(duì)完全禁止面部識(shí)別的禁令，但是一些科技公司呼吁制定聯(lián)邦法律，以制定負(fù)責(zé)任地使用該技術(shù)的準(zhǔn)則。

IBM此前表示不要全面禁止面部識(shí)別技術(shù)，而是提倡“精確法規(guī)”以確保其保護(hù)人權(quán)。Amazon也表示并沒(méi)有完全停止銷(xiāo)售面部識(shí)別系統(tǒng)，使用Rekognition來(lái)幫助尋找失蹤或遭受性剝削的兒童的組織仍將可以使用該技術(shù)。

在亞馬遜和IBM在本周宣布這一消息之前，民主黨議員就敦促在國(guó)會(huì)通過(guò)一項(xiàng)全面的警察改革方案，其中可能包括限制使用面部識(shí)別功能，尤其是在警用攝像機(jī)中。

紐約大學(xué)布倫南司法中心律師安格·迪亞斯（ángel Díaz）說(shuō)，他對(duì)亞馬遜的暫停令表示贊賞，但他說(shuō)：“鑒于眾多研究表明這項(xiàng)技術(shù)在種族上存在偏見(jiàn)，這一決定應(yīng)該早一點(diǎn)實(shí)施。國(guó)會(huì)需要采取行動(dòng)，但地方社區(qū)也應(yīng)有權(quán)表達(dá)自己的擔(dān)憂(yōu)，并決定是否以及完全希望使用這種技術(shù)手段?！?/p>

研究發(fā)現(xiàn)面部識(shí)別軟件中存在種族和性別差異的麻省理工學(xué)院研究員喬伊·布拉姆維尼（Joy Buolamwini）在一封電子郵件聲明中寫(xiě)道：“微軟（Microsoft）也需要表明自己的立場(chǎng)。更重要的是，我們的立法者需要加緊努力以阻止技術(shù)手段的濫用。”

（東方衛(wèi)視、Knews 記者：任美星  編輯：王鵬）