广告

开学AI登场,高校用人脸识别查考勤管理学生

2019-09-04 11:17 来源:新智元

近日,中国药科大学在教室试点安装人脸识别系统,除了能自动识别学生的出勤情况外,还能够实现对学生课堂听讲情况的全程监控。校方认为这是在督促学习,网友却不买账,你怎么看?

上学时害怕老师的火眼金睛,现在人脸识别教室来了

近日,位于江苏南京的中国药科大学被推到了舆论风口浪尖,原因就是在教室使用人脸识别系统。

跷课、玩手机都逃不过它的“法眼”,南京高校试水“人脸识别教室”

据报道,中国药科大学在两间教室试点安装的人脸识别系统,除了能自动识别学生的出勤情况外,还能够实现对学生课堂听讲情况的全程监控。

学生是否认真听讲、课堂上是否抬头低头、抬头低头了几次、抬头低头了多长时间、低头是否在玩手机、是否闭眼打瞌睡……都逃不过这个人脸识别系统的“法眼”。

中国药科大学图书与信息中心主任许建真表示:传统点名浪费时间、准确率不高,但是有人脸识别就没问题了。

4pQj-heqpwqy4951682.jpg

开学AI登场,高校用人脸识别查考勤管理学生

据悉,此举是学校教务部门的要求,意在减少学生逃课、早退、花钱找人代课以及上课不认真听讲等行为,提高学生到课率,严肃课堂纪律。

然而,也有一些学生认为这样做会侵犯个人隐私。

“为了(敦促)你学习,你还抱怨,请问你还是学生吗?”对于教室安装人脸识别系统侵犯学生隐私的说法,许建真表示,学校之前已向公安部门和法务部门咨询,由于教室属于公开场所,因此不存在“侵犯隐私”的说法。

除了教室,中国药科大学在校门口、学生宿舍大门口、图书馆、实验楼等场所均安装了人脸识别门禁。

人脸识别教室引发微博网友热议,大部分网友表示反对,认为这侵犯了学生隐私,不过一些人表示支持。

这位本校生表示自己没觉得隐私受到侵犯

这位网友认为刷脸进出相对安全,对学生来说是好事

这位药大学生认为没什么,刷脸进门挺方便。人脸识别教室只是一两个在试用,也没说都装。

孩子的微笑都要被监控?上海小学用AI 评估学生上课

在教室装摄像头并不是什么新鲜事,但教室采用人脸识别技术分析学生的上课情况还是最近才开始的。

上个月,上海中医药大学附属闵行蔷薇小学将人脸识别带入校园,通过智能课堂评价系统、智能环境分析与控制系统和智能教师培训系统这三套“AI+学校”系统,对学生和教师进行监控。此举同样引发了不小的争议。

根据宣传,进入教室的这套“智能课堂评价系统”可以在真实课堂的样本数据基础上,实现对师生行为与情感的自动检测,通过智能算法分析,给出基于课堂表现的评价和改进建议。

针对学生,系统可自动检测到学生举手、站立、坐姿不端等行为,通过记录分析形成对课堂效果的总体评价。可以说和南京高校使用的“人脸识别教室”有“异曲同工之妙”。

据悉,使用了这套系统后,学生在日常生活中有无微笑、有无跟老师问好、有无主动捡垃圾、队列是否整齐等细节都会被AI捕捉,反馈到总控中心。

根据“中国新闻周刊”的报道,一位上海某小学二年级学生的家长何女士听闻此消息后,立刻致电相关部门问询,她认为AI进入小学,必须通知家长,并且需要家长的联名同意,“这件事如果有一个家长反对,学校就不该实施。”她认为,“给学校装AI,家长必须签字。”

不过,也有人表示支持,因为这样可以预防危险发生、降低校园霸凌、提高教学质量。

瑞典一所高中用人脸识别监测学生出勤,被控违反隐私法挨罚15万

人脸识别走入教室并非中国独有,近日,瑞典一所高中用人脸识别监测学生出勤,被罚款20万瑞典克朗。此案引发了关于在教育机构中进一步应用AI技术问题的讨论。

位于瑞典北部城市Skellefteå的一家当地教育机构被瑞典数据保护局处以20万瑞典克朗(约合人民币15万元)的罚款,因为该校通过面部识别技术来监控高中生的出勤情况。

在该校的实验计划中,一共在三周时间内跟踪监测了22名学生的出勤情况,这些学生每次进入教室时都会录制面部信息。

在这项测试任务进行之前,确实获得了学生自己以及他们父母的许可。但是,瑞典数据保护局(DPA)的结论是,该计划仍然违反了欧盟隐私法规“通用数据保护条例”(GDPR)的若干条款,因此会对非法收集数据的校方处以罚款。

“Skellefteå的这所高中违反了数据保护条例的若干条款,因此我们对该校处以罚款。”DPA总干事Lena Lindgren Schelin在一份声明中说。

DPA做出结论,面部识别技术侵犯了学生的隐私,同时强调,监控学生出勤率可以采用不侵犯隐私的方式,使用一些不涉及摄像监控的方法。

“面部识别技术尚处于起步阶段,但发展很快。因此,我们非常需要明确可以适用于所有人的技术应用。“Schelin解释道。

Skellefteå市政委员会的Felicia Lundmark强调,我们需要评估用于监控出勤率的AI技术的未来,不仅是在Skellefteå市,而且是在整个瑞典来做这件事。

安德斯托普高中校长约根·马尔姆对罚款的结果表示惊讶。

“这个结果并不好。而且这个决定很有意思,因为我们处理信息的方式、以及如何在学校的环境下开发IT技术是一个很大的问题。“

参与这项实验的学生哈里认为,罚款是“不公正的”。

这是瑞典首次根据GDPR实施罚款,该协议于去年生效,旨在加强包括面部图像数据在内的个人数据和隐私保护。

技术的发展没有边界,但技术的使用必须有边界

科技飞速发展,人脸识别作为人工智能的一个重要领域,已经大量出现在我们的生活中,从手机解锁到刷脸支付,甚至上下班都要用人脸识别打卡、进出……那么对于这项技术,我们需要有所敬畏吗?

美国多个城市禁用人脸识别,微软删除全球最大公开面部识别数据库。

西方国家似乎对于技术的使用更加保守。比如在美国,面部识别的推进就困难重重。今年5月,旧金山成为美国第一个禁止面部识别监控的城市。

一个月后,美国国会两党在一场国会听证会上正式讨论了对执法部门使用面部识别软件所带来的日益担忧。两党一致认为面部识别软件有侵犯公民隐私权和抗议权的隐忧,寻求立法暂停此类工具的使用。包括面部识别软件专家在内的团队认为,在更完善的监管出台或技术充分成熟之前,此类面部识别工具应由国家叫停。

国会两党共同提案,寻求立法对面部识别进行监管

7月,美国又一城市通过了禁止在公共场所使用面部识别软件的法令,成为继旧金山之后全美第二个禁止面部识别技术的城市。新政策生效后,马萨诸塞州的萨默维尔市各机构、分局或下属部门,均不得在公共场所使用面部识别技术。

除了立法的监管,科技巨头在技术的使用上也需要谨慎。今年6月,微软删除了包含1000万张人脸图像的全球最大公开面部识别数据库MS Celeb。该数据库最初于2016年发布,被微软描述为世界上最大的公开面部识别数据库,并用于培训全球科技公司和军事研究人员的面部识别系统。

史上最严数据保护条例,欧盟GDPR最高开出2亿美元罚单

《通用数据保护条例》(General Data Protection Regulation,GDPR)是在欧盟法律中对所有欧盟个人关于数据保护和隐私的规范,涉及了欧洲境外的个人资料出口。GDPR 主要目标为取回公民以及住民对于个人资料的控制,以及为了国际商务而简化在欧盟内的统一规范。

GDPR取代了欧盟在1995年推出的欧盟个人资料《数据保护指令》(Data Protection Directive),该条例包含有关处理欧盟内部数据主体的个人可识别资讯的条款和要求,适用于与欧洲做生意的所有企业。

本法案在2016年4月27日通过,缓冲期为两年,于2018年5月25日起强制执行。

截至目前,欧盟各国以及英国已经根据GDPR对多个企业进行了处罚,其中罚款额度最高的超过2亿美元,被处罚的企业涉及各个行业。

2019年7月8日,英国监管机构信息委员会办公室(ICO)决定对英国航空公司做出高达1.83亿英镑的罚款,原因是该公司的大量用户信息被转移至欺诈网站上,攻击者通过虚假的英国航空公司网站收集了大约50万乘客的个人信息。此次信息泄露已经持续了一年有余,航空公司方面负有不可推卸的安全责任。

其实我国也有相关的标准来规范数据保护的。2018年5月1日,《信息安全技术个人信息安全规范》(GB/T 35273—2017),其中明确规定:

收集个人信息前,应向个人信息主体明确告知所提供产品或服务的不同业务功能分别收集的个人信息类型,以及收集、使用个人信息的规则(例如收集和使用个人信息的目的、收集方式和频率、存放地域、存储期限、自身的数据安全能力、对外共享、转让、公开披露的有关情况等),并获得个人信息主体的授权同意。

有规范是第一步,具体的落实需要各方共同的努力。最近AI换脸应用“ZAO”一夜爆红被推到舆论风暴的中心再次印证了大家对于隐私保护的担忧。在这个AI时代,如何权衡技术的发展与隐私的保护是值得我们深思的问题。

责任编辑:潘一大