近日，中國藥科大學(xué)在教室試點(diǎn)安裝人臉識別系統(tǒng)，除了能自動識別學(xué)生的出勤情況外，還能夠?qū)崿F(xiàn)對學(xué)生課堂聽講情況的全程監(jiān)控。校方認(rèn)為這是在督促學(xué)習(xí)，網(wǎng)友卻不買賬，你怎么看？

上學(xué)時害怕老師的火眼金睛，現(xiàn)在人臉識別教室來了。

近日，位于江蘇南京的中國藥科大學(xué)被推到了輿論風(fēng)口浪尖，原因就是在教室使用人臉識別系統(tǒng)。

蹺課、玩手機(jī)都逃不過它的“法眼”，南京高校試水“人臉識別教室”

據(jù)報道，中國藥科大學(xué)在兩間教室試點(diǎn)安裝的人臉識別系統(tǒng)，除了能自動識別學(xué)生的出勤情況外，還能夠?qū)崿F(xiàn)對學(xué)生課堂聽講情況的全程監(jiān)控。

學(xué)生是否認(rèn)真聽講、課堂上是否抬頭低頭、抬頭低頭了幾次、抬頭低頭了多長時間、低頭是否在玩手機(jī)、是否閉眼打瞌睡……都逃不過這個人臉識別系統(tǒng)的“法眼”。

中國藥科大學(xué)圖書與信息中心主任許建真表示：傳統(tǒng)點(diǎn)名浪費(fèi)時間、準(zhǔn)確率不高，但是有人臉識別就沒問題了。

據(jù)悉，此舉是學(xué)校教務(wù)部門的要求，意在減少學(xué)生逃課、早退、花錢找人代課以及上課不認(rèn)真聽講等行為，提高學(xué)生到課率，嚴(yán)肅課堂紀(jì)律。

然而，也有一些學(xué)生認(rèn)為這樣做會侵犯個人隱私。

“為了（敦促）你學(xué)習(xí)，你還抱怨，請問你還是學(xué)生嗎？”對于教室安裝人臉識別系統(tǒng)侵犯學(xué)生隱私的說法，許建真表示，學(xué)校之前已向公安部門和法務(wù)部門咨詢，由于教室屬于公開場所，因此不存在“侵犯隱私”的說法。

除了教室，中國藥科大學(xué)在校門口、學(xué)生宿舍大門口、圖書館、實(shí)驗(yàn)樓等場所均安裝了人臉識別門禁。

人臉識別教室引發(fā)微博網(wǎng)友熱議，大部分網(wǎng)友表示反對，認(rèn)為這侵犯了學(xué)生隱私，不過一些人表示支持。

這位本校生表示自己沒覺得隱私受到侵犯

這位網(wǎng)友認(rèn)為刷臉進(jìn)出相對安全，對學(xué)生來說是好事

這位藥大學(xué)生認(rèn)為沒什么，刷臉進(jìn)門挺方便。人臉識別教室只是一兩個在試用，也沒說都裝。

孩子的微笑都要被監(jiān)控？上海小學(xué)用AI評估學(xué)生上課

在教室裝攝像頭并不是什么新鮮事，但教室采用人臉識別技術(shù)分析學(xué)生的上課情況還是最近才開始的。

上個月，上海中醫(yī)藥大學(xué)附屬閔行薔薇小學(xué)將人臉識別帶入校園，通過智能課堂評價系統(tǒng)、智能環(huán)境分析與控制系統(tǒng)和智能教師培訓(xùn)系統(tǒng)這三套“AI+學(xué)校”系統(tǒng)，對學(xué)生和教師進(jìn)行監(jiān)控。此舉同樣引發(fā)了不小的爭議。

根據(jù)宣傳，進(jìn)入教室的這套“智能課堂評價系統(tǒng)”可以在真實(shí)課堂的樣本數(shù)據(jù)基礎(chǔ)上，實(shí)現(xiàn)對師生行為與情感的自動檢測，通過智能算法分析，給出基于課堂表現(xiàn)的評價和改進(jìn)建議。

針對學(xué)生，系統(tǒng)可自動檢測到學(xué)生舉手、站立、坐姿不端等行為，通過記錄分析形成對課堂效果的總體評價。可以說和南京高校使用的“人臉識別教室”有“異曲同工之妙”。

據(jù)悉，使用了這套系統(tǒng)后，學(xué)生在日常生活中有無微笑、有無跟老師問好、有無主動撿垃圾、隊列是否整齊等細(xì)節(jié)都會被AI捕捉，反饋到總控中心。

根據(jù)“中國新聞周刊”的報道，一位上海某小學(xué)二年級學(xué)生的家長何女士聽聞此消息后，立刻致電相關(guān)部門問詢，她認(rèn)為AI進(jìn)入小學(xué)，必須通知家長，并且需要家長的聯(lián)名同意，“這件事如果有一個家長反對，學(xué)校就不該實(shí)施。”她認(rèn)為，“給學(xué)校裝AI，家長必須簽字。”

不過，也有人表示支持，因?yàn)檫@樣可以預(yù)防危險發(fā)生、降低校園霸凌、提高教學(xué)質(zhì)量。

瑞典一所高中用人臉識別監(jiān)測學(xué)生出勤，被控違反隱私法挨罰15萬

人臉識別走入教室并非中國獨(dú)有，近日，瑞典一所高中用人臉識別監(jiān)測學(xué)生出勤，被罰款20萬瑞典克朗。此案引發(fā)了關(guān)于在教育機(jī)構(gòu)中進(jìn)一步應(yīng)用AI技術(shù)問題的討論。

位于瑞典北部城市Skellefte?的一家當(dāng)?shù)亟逃龣C(jī)構(gòu)被瑞典數(shù)據(jù)保護(hù)局處以20萬瑞典克朗（約合人民幣15萬元）的罰款，因?yàn)樵撔Ｍㄟ^面部識別技術(shù)來監(jiān)控高中生的出勤情況。

在該校的實(shí)驗(yàn)計劃中，一共在三周時間內(nèi)跟蹤監(jiān)測了22名學(xué)生的出勤情況，這些學(xué)生每次進(jìn)入教室時都會錄制面部信息。

在這項(xiàng)測試任務(wù)進(jìn)行之前，確實(shí)獲得了學(xué)生自己以及他們父母的許可。但是，瑞典數(shù)據(jù)保護(hù)局（DPA）的結(jié)論是，該計劃仍然違反了歐盟隱私法規(guī)“通用數(shù)據(jù)保護(hù)條例”（GDPR）的若干條款，因此會對非法收集數(shù)據(jù)的校方處以罰款。

“Skellefte?的這所高中違反了數(shù)據(jù)保護(hù)條例的若干條款，因此我們對該校處以罰款。”DPA總干事Lena Lindgren Schelin在一份聲明中說。

DPA做出結(jié)論，面部識別技術(shù)侵犯了學(xué)生的隱私，同時強(qiáng)調(diào)，監(jiān)控學(xué)生出勤率可以采用不侵犯隱私的方式，使用一些不涉及攝像監(jiān)控的方法。

“面部識別技術(shù)尚處于起步階段，但發(fā)展很快。因此，我們非常需要明確可以適用于所有人的技術(shù)應(yīng)用。“Schelin解釋道。

Skellefte?市政委員會的Felicia Lundmark強(qiáng)調(diào)，我們需要評估用于監(jiān)控出勤率的AI技術(shù)的未來，不僅是在Skellefte?市，而且是在整個瑞典來做這件事。

安德斯托普高中校長約根·馬爾姆對罰款的結(jié)果表示驚訝。

“這個結(jié)果并不好。而且這個決定很有意思，因?yàn)槲覀兲幚硇畔⒌姆绞健⒁约叭绾卧趯W(xué)校的環(huán)境下開發(fā)IT技術(shù)是一個很大的問題。“

參與這項(xiàng)實(shí)驗(yàn)的學(xué)生哈里認(rèn)為，罰款是“不公正的”。

這是瑞典首次根據(jù)GDPR實(shí)施罰款，該協(xié)議于去年生效，旨在加強(qiáng)包括面部圖像數(shù)據(jù)在內(nèi)的個人數(shù)據(jù)和隱私保護(hù)。

技術(shù)的發(fā)展沒有邊界，但技術(shù)的使用必須有邊界

科技飛速發(fā)展，人臉識別作為人工智能的一個重要領(lǐng)域，已經(jīng)大量出現(xiàn)在我們的生活中，從手機(jī)解鎖到刷臉支付，甚至上下班都要用人臉識別打卡、進(jìn)出……那么對于這項(xiàng)技術(shù)，我們需要有所敬畏嗎？

美國多個城市禁用人臉識別，微軟刪除全球最大公開面部識別數(shù)據(jù)庫

西方國家似乎對于技術(shù)的使用更加保守。比如在美國，面部識別的推進(jìn)就困難重重。今年5月，舊金山成為美國第一個禁止面部識別監(jiān)控的城市。

一個月后，美國國會兩黨在一場國會聽證會上正式討論了對執(zhí)法部門使用面部識別軟件所帶來的日益擔(dān)憂。兩黨一致認(rèn)為面部識別軟件有侵犯公民隱私權(quán)和抗議權(quán)的隱憂，尋求立法暫停此類工具的使用。包括面部識別軟件專家在內(nèi)的團(tuán)隊認(rèn)為，在更完善的監(jiān)管出臺或技術(shù)充分成熟之前，此類面部識別工具應(yīng)由國家叫停。

國會兩黨共同提案，尋求立法對面部識別進(jìn)行監(jiān)管

7月，美國又一城市通過了禁止在公共場所使用面部識別軟件的法令，成為繼舊金山之后全美第二個禁止面部識別技術(shù)的城市。新政策生效后，馬薩諸塞州的薩默維爾市各機(jī)構(gòu)、分局或下屬部門，均不得在公共場所使用面部識別技術(shù)。

除了立法的監(jiān)管，科技巨頭在技術(shù)的使用上也需要謹(jǐn)慎。今年6月，微軟刪除了包含1000萬張人臉圖像的全球最大公開面部識別數(shù)據(jù)庫MS Celeb。該數(shù)據(jù)庫最初于2016年發(fā)布，被微軟描述為世界上最大的公開面部識別數(shù)據(jù)庫，并用于培訓(xùn)全球科技公司和軍事研究人員的面部識別系統(tǒng)。

史上最嚴(yán)數(shù)據(jù)保護(hù)條例，歐盟GDPR最高開出2億美元罰單

《通用數(shù)據(jù)保護(hù)條例》（General Data Protection Regulation，GDPR）是在歐盟法律中對所有歐盟個人關(guān)于數(shù)據(jù)保護(hù)和隱私的規(guī)范，涉及了歐洲境外的個人資料出口。GDPR 主要目標(biāo)為取回公民以及住民對于個人資料的控制，以及為了國際商務(wù)而簡化在歐盟內(nèi)的統(tǒng)一規(guī)范。

GDPR取代了歐盟在1995年推出的歐盟個人資料《數(shù)據(jù)保護(hù)指令》（Data Protection Directive），該條例包含有關(guān)處理歐盟內(nèi)部數(shù)據(jù)主體的個人可識別資訊的條款和要求，適用于與歐洲做生意的所有企業(yè)。

本法案在2016年4月27日通過，緩沖期為兩年，于2018年5月25日起強(qiáng)制執(zhí)行。

截至目前，歐盟各國以及英國已經(jīng)根據(jù)GDPR對多個企業(yè)進(jìn)行了處罰，其中罰款額度最高的超過2億美元，被處罰的企業(yè)涉及各個行業(yè)。

2019年7月8日，英國監(jiān)管機(jī)構(gòu)信息委員會辦公室（ICO）決定對英國航空公司做出高達(dá)1.83億英鎊的罰款，原因是該公司的大量用戶信息被轉(zhuǎn)移至欺詐網(wǎng)站上，攻擊者通過虛假的英國航空公司網(wǎng)站收集了大約50萬乘客的個人信息。此次信息泄露已經(jīng)持續(xù)了一年有余，航空公司方面負(fù)有不可推卸的安全責(zé)任。

其實(shí)我國也有相關(guān)的標(biāo)準(zhǔn)來規(guī)范數(shù)據(jù)保護(hù)的。2018年5月1日，《信息安全技術(shù)個人信息安全規(guī)范》（GB/T 35273—2017），其中明確規(guī)定：

收集個人信息前，應(yīng)向個人信息主體明確告知所提供產(chǎn)品或服務(wù)的不同業(yè)務(wù)功能分別收集的個人信息類型，以及收集、使用個人信息的規(guī)則（例如收集和使用個人信息的目的、收集方式和頻率、存放地域、存儲期限、自身的數(shù)據(jù)安全能力、對外共享、轉(zhuǎn)讓、公開披露的有關(guān)情況等），并獲得個人信息主體的授權(quán)同意。

有規(guī)范是第一步，具體的落實(shí)需要各方共同的努力。最近AI換臉應(yīng)用“ZAO”一夜爆紅被推到輿論風(fēng)暴的中心再次印證了大家對于隱私保護(hù)的擔(dān)憂。在這個AI時代，如何權(quán)衡技術(shù)的發(fā)展與隱私的保護(hù)是值得我們深思的問題。