AI翻譯存在歧視？這里是我們的測(cè)試
長(zhǎng)假期間，m.zzjykji.com，Twitter上有個(gè)消息火爆一時(shí)。
吶，就是下面這張圖了。
這張圖被當(dāng)做AI有歧視的證據(jù)。簡(jiǎn)而言之，神經(jīng)網(wǎng)絡(luò)在背后提供支持的Google翻譯，在把一句性別中立的語(yǔ)言（此處是土耳其語(yǔ)）翻譯成英文時(shí)，會(huì)出現(xiàn)非性別中立的情況。或者說(shuō)，Google翻譯會(huì)猜測(cè)主語(yǔ)的性別。
在這個(gè)案例中，庫(kù)卡機(jī)器人驅(qū)動(dòng)器維修，Google翻譯的結(jié)果是：
她是一個(gè)保姆
他是一個(gè)醫(yī)生
這條Twitter獲得了上萬(wàn)的轉(zhuǎn)發(fā)，也引發(fā)了本文作者JecelynYeen的注意。Jecelyn是馬拉西亞華人，所以她用馬來(lái)語(yǔ)和中文進(jìn)行了幾次測(cè)試，其中馬來(lái)語(yǔ)是性別中立的語(yǔ)言，而中文是混合的。
下面咱們看看她的測(cè)試。
馬來(lái)語(yǔ)測(cè)試
這是一個(gè)簡(jiǎn)單的三級(jí)測(cè)試，測(cè)試對(duì)象是Google翻譯和微軟翻譯。
Level1：不交代語(yǔ)境
馬來(lái)語(yǔ)->英語(yǔ)
Google翻譯和微軟翻譯都給出同樣的結(jié)果，如圖所示：
Level2：交代語(yǔ)境
這次特意在前一句中交代了性別。不過(guò)沒(méi)什么用，測(cè)試結(jié)果同上。
Level3：句號(hào)換逗號(hào)
這次有一個(gè)微小的調(diào)整，兩個(gè)句子之間的連接，使用了逗號(hào)，代替了句號(hào)。
結(jié)果顯示：Google翻譯更勝一籌，完美地翻譯對(duì)了主語(yǔ)的性別。
但是微軟翻譯表現(xiàn)不佳，第二句話還是沒(méi)有翻譯對(duì)。
中文測(cè)試
大多數(shù)情況下，中文的代詞一般都表明了性別，所以翻譯結(jié)果相對(duì)準(zhǔn)確。
測(cè)試結(jié)果略。
所以，這是個(gè)問(wèn)題么？
人工智能（AI）存在性別偏見么？我覺(jué)得不是。AI從數(shù)據(jù)中學(xué)習(xí)，給予人類設(shè)計(jì)的模型返回更符合邏輯的結(jié)果。所以，我認(rèn)為機(jī)器翻譯在統(tǒng)計(jì)學(xué)上是正確的。數(shù)據(jù)如下。
比方說(shuō)上述測(cè)試中提到的程序員（Programmer）。來(lái)自StackOverflow今年的數(shù)據(jù)顯示，參與調(diào)查的開發(fā)者或程序員中有88.8%是男性。
還有護(hù)士（Nurse）。網(wǎng)站Minoritynurse的數(shù)據(jù)顯示，其上282萬(wàn)注冊(cè)護(hù)士中，只有9.1%為男性。
從這個(gè)角度講，AI給出的翻譯結(jié)果是有道理的。
但對(duì)我來(lái)說(shuō)，這是一個(gè)問(wèn)題，是一個(gè)需要改進(jìn)的方面，庫(kù)卡機(jī)器人驅(qū)動(dòng)器維修，統(tǒng)計(jì)學(xué)上的正確并不意味著它是正確的。
那么如何改善？
坦白講我不知道。
CharlesWheelan在《赤裸裸的統(tǒng)計(jì)學(xué)》一書中，談到了統(tǒng)計(jì)歧視和理性歧視。他提到即便我們建了一種模型，能以80%的正確率識(shí)別出毒販，那還有20%無(wú)辜的人會(huì)被反復(fù)騷擾。我們有時(shí)計(jì)算正確，但卻導(dǎo)向了一個(gè)危險(xiǎn)的方向。