深膚色識別率低下:ExamSoft監考軟件被指存在面容歧視問題

薩福克大學法學院教授 Gabe Teninbaum 近日呼籲,ExamSoft 必須修復這款監考軟件的一個嚴重 bug —— 無法在光線良好的情況下正確識別人臉!從 Twitter 上分享的截圖、以及 Teninbaum 發布的報告可知,由於 ExamID 功能的缺陷,ExamSoft 存在對深膚色考生的嚴重「歧視」。

深膚色識別率低下:ExamSoft監考軟件被指存在面容歧視問題

(圖自 @futureesq1990)

在首次登錄考試門戶網站的時候,考生們將被要求提交一張基準比較用的認證照片。開始之前,考生們又會被提示自拍一張用於比對的現場照片。

尷尬的是,ExamSoft 監考軟件的深膚色面容識別算法,較淺色面容的識別錯誤要多得多,而且這種情況可以追溯到去年 9 月。

當時多位非白人考生向《紐約時報》抱怨稱,即使環境光照已經相當良好,ExamSoft 還是經常提示「光線不足,請開燈」。

深膚色識別率低下:ExamSoft監考軟件被指存在面容歧視問題

受 COVID-19 大流行的影響,許多學校都改成了線上遠程授課。但 ExamSoft 監考軟件存在的這個問題,導致本就緊張的考試安排經受不必要的壓力。

初秋的時候,Teninbaum 開始尋找不帶膚色歧視的其它解決方案,但問題顯然不僅僅存在於 ExamSoft 這一款軟件的身上。

在 Teninbaum 的報告中,還對未來的人工智能和機器人等領域表達了類似的擔憂。

深膚色識別率低下:ExamSoft監考軟件被指存在面容歧視問題

報告截圖(來自:PDF

作為臨時的應對措施,Teninbaum 呼籲學校先為每個學生分配同樣的基準圖像,然後要求延後 ExamSoft 的認證過程,以便考生順利完成考試。

遺憾的是,截止發稿時,ExamSoft 開發商都沒有回應外媒的置評請求。

來源:cnBeta