人臉識別進校園不只是讓師生變戲精

摘要:美國另一項研究的結果則提示,監控員工未必就能取得好的工作成果和績效。

據楚天都市報報道,一所知名大學2019級新生「刷臉」就能瞬間完成報到程序,系統是這所學校的學生研發的,學生對着攝像頭,人臉識別系統就開始進行比對,眨眼間就能完成掃描,整個報到注冊手續幾乎不到一秒鍾。此外,通過人臉識別還可以對學生進行考勤,以及實時觀察學生的上課狀況等。

AI的強勢讓人臉識別技術逐步滲透進人們生活、工作和學習的所有領域。學生上課被人臉識別監控並非新鮮事,很多學校,包括小學、初高中和大學都在試水。

人們關注得更多的是這種技術對人格和人性的塑造,有人認為,AI能監控學生的一舉一動和表情,在某種程度上侵犯了學生的尊嚴,也是對學生自主學習能力和教師授課能力的不信任。學生長期在監控環境下學習、成長,養成「表演性人格」。然而,人臉識別的問題並非只是對師生人格的影響,而是可能在各個方面介入人們的生活,引發更多的問題和爭議:人臉識別監控是否有效?監控是以人為本,還是讓人做技術的奴隸?是讓人控制技術,還是讓技術反過來控制人和威脅人?

僱主和學校在作為公共空間的工作、學習場所安裝視頻和音頻監控設備,一般是認為可以接受的。不過,即便員工和學生可以被監控,也存在監控的程度和范圍問題,同時監控是否有效,以及真是為了被監控者好,也很難認定。不過,如果人臉識別監控真的有效,人們是否就要讓渡自己的隱私和自由來接受無處不在的AI監控?

美國新罕布什爾州達特茅斯學院的安德魯·坎貝爾(Andrew Campbell)教授研發的配合智能手機自帶的傳感器的應用程序(軟件)可以持續監控員工的身體活動、地理位置、手機使用情況、環境光線等。通過一年內對全美的750名工人進行測試,發現該系統能夠區分各行各業人們的績效水平,准確率為80%。

美國另一項研究的結果則提示,監控員工未必就能取得好的工作成果和績效。華盛頓大學聖路易斯分校的研究人員在3年時間內追蹤了42家醫院的5200名護理人員,發現他們在受到監控的情況下,其前兩年的洗手率會有所增加,但監控放鬆後又會回落。而且,在取消監控措施後,洗手率甚至低於監控前的水平。這也意味着人臉識別並非如人們所期盼的那樣,都是正反饋。

意識到人臉識別的弊病,有一些國家認定用人臉識別監控學生是違法。瑞典數據保護監管局(DPA)對瑞典北部的一個城市謝萊夫特奧(Skellefteå)開出了該國的第一張依據歐盟《通用數據保護條例》(GDPR)的罰單,金額相當於19000歐元(約15萬人民幣),原因是該市的一所高中使用人臉識別技術來監控在校學生的出勤情況,之前既沒有向DPA報備,而且也非法處理了學生敏感的生物特徵識別數據。盡管學校辯稱事前爭得了學生的同意,但是律師認為,學生是在學校董事會管理之下,無法判斷學生的「同意」是否為學生的獨立意志。

歐盟正在探索控制和監管人臉識別技術的立法,希望制定一套「AI監管的世界性標準」,建立起「足以保護個人的明確,可預測和統一的規則」。這樣的立法將在GDPR的現有基礎上更進一步,主要針對可能「帶來特定風險」的人臉識別等技術。

科技進步使得人類進入了以人工智能為代表的信息時代,這固然讓人們的生活更為方便、快捷和舒適,但是悖論也出現了,AI越發達,人們被監控的程度越厲害,以科技來改善生活和提高自由度的理想反而漸行漸遠,這樣的科技和AI真的是人類想要的嗎?工具掌握在人們手里,就看如何使用。尤其是像人臉識別這種涉及人們隱私的技術更需要嚴格限制,讓人們能保護自己的隱私。

來源:華人頭條B

來源:華人號:快樂教育