上课开小差?校园人脸识别摄像头锁定你,专家:涉嫌技术滥用

发布时间: 2020-06-09 09:31:38当前位置:智通财经 > 资讯 > 本文 阅读( )
导读:本文是由黑龙江省双城市网友投稿,经过编辑发布关于"上课开小差?校园人脸识别摄像头锁定你,专家:涉嫌技术滥用"的内容介绍。
有专家表示,人脸识别进课堂已经超出了正当、合法、必要的法律限度,涉嫌技术滥用。需要征得学生及家长的同意,采集的信息不能作为商业化用途,也不得对外公开,学校还应保障学生删除信息的权利。

还记得校园时代被班主任在教室后门“暗中观察”所支配的恐惧吗?

如今,取而代之的可能是一个“360度无监控死角”的人脸识别摄像头。

近日,南京的中国药科大学在部分教室“试水”人脸识别系统引发网友热议。

上课开小差?校园人脸识别摄像头锁定你,专家:涉嫌技术滥用中国药科大学的人脸识别摄像头。图自“直播南京”官微

该系统不但可以识别每个进出教室的学生,自动签到签退,还能识别学生发呆、打瞌睡、玩手机等行为。校方称,此举是为提高学生到课率,严肃课堂纪律。

近年来,人脸识别进校园的尝试越来越多,但每一次曝光都伴随着极大的争议――

采集学生的人脸信息是否得到了所有学生或家长的明确同意?

校方是否有能力保护收集到的敏感数据?

评估学生上课专注度有必要动用人脸识别技术吗?

根据南都NDX热点站站队发起的调查,84%的网友不赞同学校用人脸识别系统采集学生的课堂行为吗,86.1%认为该行为侵犯了学生隐私。

对此,有专家表示,人脸识别进课堂已经超出了正当、合法、必要的法律限度,涉嫌技术滥用。也有观点认为,使用人脸识别系统需要征得学生及家长的同意;同时,采集的信息不能作为商业化用途,也不得对外公开,学校还应保障学生删除信息的权利。

落地

人脸识别摄像头入驻高校、中小学

2019年秋季开学的第二天,各大高校的官博还忙着晒开学典礼和新生军训照片,中国药科大学却因为几天前的一段视频被顶上了微博热搜。

原来,药大在校门、图书馆、宿舍安装了新的人脸识别门禁,部分教室内还装上了人脸识别系统,不仅可以有效杜绝由别人代为签到的情况,还能识别学生发呆、打瞌睡、玩手机等行为。校方表示,未来还将实现“刷脸”吃饭、借书等等。

从进教室的那一刻起,你往那一坐,它(摄像头)对你已经全程进行识别了……比如你抬头了几次、低头了几次,还有你是否在玩手机,是否在发呆,是否在看别的书,都能感知到”,药大图书与信息中心主任许建真称,目前课堂人脸识别系统会先在两间教室试点,效果好的话将在全校推广。

他还表示,学校之前已向公安部门和法务部门咨询,由于教室属于公开场所,因此不存在“侵犯隐私”的说法

南都记者注意到,这则新闻距离上一次引发广泛讨论的上海中医药大学附属闵行蔷薇小学智能课堂行为分析系统,仅仅过去了一个星期。

据澎湃新闻报道,蔷薇小学正在构建智能课堂行为分析系统,运用姿态评估、表情识别、语言识别、关键词匹配等技术,探索对课堂教学过程的定量分析。

比如孩子在校园生活中是否有微笑、向老师问好、主动捡垃圾、列队整齐等良好行为,或者快速奔跑、摔跤、打架、拥挤等危险动作。

上课开小差?校园人脸识别摄像头锁定你,专家:涉嫌技术滥用上海中医药大学附属闵行蔷薇小学智能课堂行为分析系统。图自澎湃新闻

系统还可以采集学生姿态行为如打哈欠、坐姿、走姿的图像数据,对孩子的走姿倾斜、不良坐姿和睡眠不良等情况等进行识别判断,生成预警报告。

上课开小差?校园人脸识别摄像头锁定你,专家:涉嫌技术滥用上海中医药大学附属闵行蔷薇小学智能课堂行为分析系统。图自澎湃新闻

事实上,早在去年5月,杭州第十一中学联合海康威视研发的全国首个智慧课堂行为管理系统――“慧眼”就曾引发过关于新技术在教育领域的应用边界的争议。

据了解,“慧眼”可以针对学生们阅读、举手、书写、起立、听讲、趴桌子等6种行为,再结合面部表情是高兴、伤心,还是愤怒、反感,分析出学生们在课堂上的状态。有学生直言:“自从教室装了慧眼,上课都不敢开小差了。”

校方表示,目前仅趴桌子一项为负分行为。若此类不专注行为达到一定分值,系统就会向显示屏推送提醒,任课教师可根据提醒进行教学管理,而显示屏仅任课教师可见。日后还会与学校医务室等其他后台的数据打通,若学生因身体不舒服,可列入“白名单”。

公众

逾八成不赞同人脸识别进课堂

与人脸识别技术在教育领域内的席卷之势相对的,是公众对人脸识别进课堂的疑虑和担忧。

对此,南都NDX实验室热点站站队以“你赞同学校用人脸识别系统采集学生的课堂行为吗?”为题,发起了话题讨论。调查结果显示,参与投票的3269位网友中,84%不赞同,86.1%认为该行为侵犯了学生隐私。

有网友认为,“这个系统只会教孩子虚伪”、“学生会把注意力集中在表情上,而不会专注学习了!”还有网友质疑,“监狱都不带这么控制表情的,这是把孩子当机器人来培养?”“其实当了老师那么多年眼明手快的了,怎么会没发现台下学生的小动作呢!”

上课开小差?校园人脸识别摄像头锁定你,专家:涉嫌技术滥用南都NDX热点站站队投票结果。

此外,尽管投票网友中只有1.3%表示,自己或孩子就读的学校安装了人脸识别系统,却有高达22.8%的网友称没有经过家长或自己的同意;剩下的网友中,81%表示不会同意学校安装人脸识别系统。

上课开小差?校园人脸识别摄像头锁定你,专家:涉嫌技术滥用81%网友不会同意学校安装人脸识别摄像头。

针对公众对隐私的担忧,杭州第十一中学校长倪子元回应媒体称,人脸识别系统只采集学生的行为状态信息,不会进行课堂录像。例如,认真听课的为A,趴下睡觉的是B,起立回答问题为C,系统只是统计这些符号信息。

副校长张冠超补充说,系统采用的摄像头背后都是一个小型处理器,操作原理为通过对学生面部的判断,之后形成一个与之相对应的代码。系统采集的对象为代码,而非学生的面部影像,否则数据量太大,服务器也吃不消。

不过,由始至终,上述三个学校都没有拿出学生或家长同意安装人脸识别系统的证据。而在一向以保护用户隐私严格而著称的欧盟看来,即使事先获得了同意,也不能证明什么。

8月21日,瑞典数据监管机构对当地一所高中开出一张20万瑞典克朗(约合人民币14.8万元)的罚单,因为该校为了统计学生的出勤率,在校园内试行了三周人脸识别系统。

尽管学校强调已经事先获得了学生的同意,但瑞典数据监管机构认为,“学生受学校董事会管理”,即无法判断是否为其独立意志,而且学校完全可以采用对学生权益侵害更小的方式,因此该校的监控行为侵犯了学生的隐私。

监管

鼓励建设智慧课堂,但行业规范缺失

南都记者梳理发现,人脸识别系统在高校、中学、小学的全面开花,不仅得益于AI技术的广泛应用,也符合国家鼓励的发展方向――教育部在2016年教育信息化工作要点中,首次正式提出智慧校园建设与应用。

2018年4月,教育部印发《教育信息化2.0行动计划》,提出构建智慧学习支持环境,推动人工智能(AI)在教学、管理等方面的全流程应用,利用智能技术加快推动人才培养模式、教学方法改革,探索泛在、灵活、智能的教育教学新环境建设与应用模式。

值得注意的是,上述文件仅为原则性要求,旨在鼓励云计算、大数据、移动互联网、人工智能等现代科技的应用,并没有对如何落实智慧课堂建设提出具体要求。

不过,各地的教育厅和学校纷纷在实践中摸索出了适合自身情况的路径。

比如同年5月印发的《江苏省中小学智慧校园建设指导意见(试行)》提出“支持教学行为数据采集和分析的智慧教室和学习体验中心”;随后出台的《广东省中小学智慧教室建设指南(试行)》则进一步明确,支持对课堂教学过程的数据分析,实现课堂对学生情绪分析、人脸识别及抬头率等课堂参与性指标的分析

在业界,这些基于人脸识别的课堂专注度分析已经形成了较为成熟的解决方案。从传统的班级授课到借助智能手段实现个性化教学,智慧教育是大势所趋――除了AI技术提供商,传统教育类公司和互联网企业也都想“分一杯羹”。

上课开小差?校园人脸识别摄像头锁定你,专家:涉嫌技术滥用智能教育市场关键角色及其代表特征。图自《智能教育创新应用发展报告》

然而,由于行业标准和规范的缺失,市场上的智能教育产品显现出质量良莠不齐、存在潜在数据安全风险等问题。另一方面,也鲜少有地方在相关文件中从保护学生隐私和AI伦理的角度提出要求。

对此,由科技部新一代人工智能发展研究中心联合罗兰贝格管理咨询公司发布的《智能教育创新应用发展报告》建议,加快制定AI在教育领域应用的标准规范体系,建立并完善基础共性、互联互通、行业应用、网络安全、隐私保护等技术标准,加快制定智能教育的标准和规范,推动智能教育的健康发展。

争议

AI采集人脸信息是否侵犯学生隐私?

南都记者梳理发现,公众的讨论主要聚焦在三个问题上:在安防目的之外使用人脸识别系统是否必要?学生被收集人脸信息是否侵犯隐私?课堂行为采集是否会对教师和学生的心理产生不好的影响,导致“作秀式”教学?

1

必要性

“学校是公共场所,也是敏感区域,因为涉及到学生之间的危险行为、教师体罚学生等情况,容易有纠纷,所以在教室里装摄像头总体应该还是起到一个正向作用”,中国信息安全研究院副院长左晓栋指出。

但他也强调,安装摄像头的目的应该限制在公共安全上面,用来识别开小差的学生的做法存在争议。“我不认为人脸识别进课堂现在能起到多么重要的作用,至少目前还看不到课堂行为分析的必要性。”

因此,他认为,人脸识别进课堂已经超出了正当、合法、必要的限度,涉嫌技术滥用――如果使用目的不成立,即使出发点是好的,也不能构成正当使用的理由,而是需要在这项技术带来的益处和用户失去的权利之间做出平衡。

2

隐私权

北京师范大学中国教育与社会发展研究院讲师高莉曾撰文表示,根据中国法律关于隐私权的规定,教室是集体场所,具有公共场所的性质,但又有别于医院、广场等一般公共场所,其开放性只属于共同完成教学任务的教师和学生。

在这个相对封闭的空间内,如何保障教师和学生的隐私权?如何安全使用和储存监控数据资料?

据杭州第十一中学副校长张冠超透露,为了避免信息外泄,系统使用的是本地服务器。后期统计出的数据也分权限,如校领导和中层管理人员,可以看到的数据信息也不同。至于代码运算出来的结果,则仅供任课教师关于课堂效果的一个参考。

在北京师范大学刑事法律科学研究院暨法学院副教授吴沈括看来,利用人脸信息识别学生的行为,对其进行课堂上的有效管理,是法律允许的行为;但若将信息影响大范围披露,借此对学生予以当众羞辱,或对采集内容未尽到妥善保管义务导致信息发生泄漏,以及在信息泄露事故发生后未能采取及时的止损措施等,则是法律禁止的行为。

对于中小学生来说,采集人脸信息还涉及未成年人隐私的问题。

“如果没有获得学生及家长同意,学校就没有权利进行监测”,中国政法大学传播法研究中心副主任朱巍认为,隐私权是一种民事权利,对未成年人使用人脸识别系统需要征得学生及家长的同意。同时,采集的信息不能作为商业化用途,也不得对外公开;学生毕业后,学校需保障其能够及时删除信息的权利。

3

心理影响

高莉还在文中指出,无论对于教师还是学生,人脸识别摄像头分析课堂行为的功能都可能带来负面效果。

如果把系统结果异化为评价教师教学的一种方式,那么在摄像头监控下的教学很可能会演变成一种拘谨的“作秀”式教学,比如降低教学难度,减少学生“困惑”表情产生;甚至为了取悦学生,增加与教学内容无关的“段子”,博取“掌声”。

她提到,教学本应是一种高度自主化的过程,教师与学生之间的关系也应该是相互尊重和融洽的,教育环境也应该是自由和充满信任的。

“面部识别技术一旦走进学校、监控课堂,学生的身体、时间不仅被规训着,甚至连注意力、一举一动、喜怒哀乐也将被纳入监控范畴。长期生活学习在这种不信任环境所带来的逆反心理,也会对学生的身心健康有影响”,她说。

采写:南都记者蒋琳

特别声明:文章内容仅供参考,不造成任何投资建议。投资者据此操作,所有平台仅提供服务对接功能,所载文章、数据仅供参考,股市有风险,投资需谨慎!

智通首页 - 资讯 - 股市 - 期货 - 投资 - 商业 - 外汇

本站不良内容举报联系客服QQ:594869847

所有平台仅提供服务对接功能,所载文章、数据仅供参考,股市有风险,投资需谨慎,用户需独立做出投资决策,风险自担!

Copyright © 2002-2020 智通财经 版权所有 鄂ICP备19025581号-5 智通财经XMl地图