戎州网 — 精彩生活从这里开始!
官方空间官方空间官方微信官方微信官方微博官方微博
当前位置:首页 > 教育 >

人脸识别进校园引发争议 对“人工智能+教育”应审慎

责任编辑:朱笠发布时间:2019-10-10 15:06:32
来源:人民网点击:
        人脸识别进校园引发争议实时监控或让学生变“戏精”?专家认为:

● 人脸识别进校园,既有数据安全也有个人隐私问题,包含学生的个人信息要非常谨慎,能不采集就不采集,能少采集就少采集,尤其涉及个人生物信息的

● 网络安全法规定,网络运营者收集、使用个人信息,应当遵循合法、正当、必要的原则,公开收集、使用规则,明示收集、使用信息的目的、方式和范围,并经被收集者同意

● 表情监控在某种程度上侵犯了学生的尊严,也是对学生自主学习能力和教师授课能力的不信任。学生长期在监控环境下学习、成长,容易养成“表演性人格”

随着人工智能不断发展,人脸识别技术被越来越多地应用于校园中。

据了解,一所知名大学2019级新生“刷脸”就能瞬间完成报到程序,系统是这所学校的学生研发的,学生对着摄像头,人脸识别系统就开始进行比对,眨眼间就能完成扫描,整个报到注册手续几乎不到一秒钟。此外,通过人脸识别还可以对学生进行考勤,以及实时观察学生的上课状况等。

对此,教育部科学技术司司长雷朝滋认为,“(对于人脸识别技术应用)我们要加以限制和管理。现在我们希望学校非常慎重地使用这些技术软件。教育部已经开始关注这个事情,组织专家论证研究”。

雷朝滋还说,人脸识别进校园,既有数据安全也有个人隐私问题,“包含学生的个人信息都要非常谨慎,能不采集就不采集,能少采集就少采集,尤其涉及个人生物信息的”。

人脸识别进校园究竟会有哪些利弊?记者对此进行了采访。

实时监控课堂表现

老师学生压力增大

近日,中国药科大学试水“人脸识别进课堂”,在校门口、学生宿舍、图书馆及部分教室等场所安装人脸识别系统。这个系统除了能自动识别学生的出勤情况外,还能识别出学生是否认真听讲,课堂上抬头低头了几次,低头是否在玩手机,是否闭眼打瞌睡等。有网友认为,这样的系统在校园广泛应用或涉嫌“侵犯隐私”。

据了解,早在2015年,国内一所知名高校就曾在高校信息化建设中首次引入人脸识别技术。近年来,有些地方的初中出于“提升校园安全”考虑,在校园门口安装人脸识别考勤系统。

“现在是互联网科技时代,到处都讲‘互联网+教育’,这是教育的创新,我们也很乐意看到新技术的应用能给教育行业带来新的生机。”一位从教近10年的高中老师杨妮(化名)对记者说。

“初、高中学生上课自觉性比较差,需要老师的督促,如果上课期间需要老师不停地维持课堂纪律,那么课堂质量就会有所降低。而且传统的点名方式浪费时间,准确率也不高。从这个方面来说,在教室安装人脸识别系统确实能帮助老师维持课堂的秩序,从而专心把精力放在对课堂内容的把控上,很大程度上提高了课堂效率。”杨妮说。

杨妮认为,尽管人脸识别系统能给教学带来一些好处,但是如果老师和学生长期处于人工智能的“监视”之下,有可能会适得其反。一旦学生意识到自己处于监控状态之下,那他们在课堂中的表现就必然是失真的,老师们无法得到真实的教学反馈,也不能准确了解学生们的兴趣点和对知识的掌握情况。

“对于老师而言,在监控之下教学,难免会出现迎合的心态,无法完全放开自主发挥。老师们把课堂教学变成表演,学生们也在表演,长此以往,教学效果就会不断降低。”杨妮说。

西安一名大学生陈霖(化名)告诉记者,没有哪个学生会喜欢这种上课方式。“这就像是有人在一直监视你,没有人会喜欢被监视。对于类似的系统,我们肯定是比较抵触的,如果强制安装,那只会让大家的逆反心理更重,根本达不到提高课堂质量的效果,学习关键还是要靠自觉。”

陈霖就读的大学目前已经开始通过人脸识别进行考勤,出入宿舍也会有人脸识别。

“这些都是出于安全考虑,我们可以理解,但如果人脸识别真的推广到教室里,连大家的细微表情都能监控,那就有点可怕了。”陈霖说。

人脸识别侵犯隐私

教育创新尊重学生

据中国药科大学图书与信息中心有关负责人介绍,目前学校在两间教室试点安装的人脸识别系统,除了自动识别学生出勤情况外,学生是否认真听讲,课堂上是否抬头低头,低头是否在玩手机,是否闭眼打瞌睡,都逃不过系统的“法眼”。

上述人脸识别系统引起关注后不久,该人脸识别系统的开发企业回应称,该图为技术场景化概念演示。针对网友热议的隐私保护等问题,这家开发企业称,在人工智能技术的各种场景中,会坚持正当性、数据隐私保护等核心原则,接受社会的广泛建议和监督。

中国传媒大学法律系主任郑宁认为,人脸识别系统在校园推广确实有侵犯学生隐私的可能性。人脸属于个人生物信息,而且属于可以识别的个人信息,一旦被泄露或被不法分子利用,风险远远高于其他信息。

郑宁告诉记者,网络安全法中提到,网络运营者收集、使用个人信息,应当遵循合法、正当、必要的原则,公开收集、使用规则,明示收集、使用信息的目的、方式和范围,并经被收集者同意。网络运营者不得收集与其提供的服务无关的个人信息,不得违反法律、行政法规的规定和双方的约定收集、使用个人信息,并应当依照法律、行政法规的规定和与用户的约定,处理其保存的个人信息。民法总则也明确提出,自然人的个人信息受法律保护。任何组织和个人需要获取他人个人信息的,应当依法取得并确保信息安全,不得非法收集、使用、加工、传输他人个人信息,不得非法买卖、提供或者公开他人个人信息。

郑宁认为,人格尊严是法律规定的人的基本权利,表情监控在某种程度上侵犯了学生的尊严,也是对学生自主学习能力和教师授课能力的不信任。

“作为一线教师,我认为,靠人脸识别系统对学生进行表情监控来提高课堂效率,既不合法,也不合理。提高课堂效率,归根到底,还是要靠先进的教学理念和教学方式、丰富生动的教学内容。”郑宁说。

21世纪教育研究院副院长熊丙奇告诉记者,去年,某中学使用“黑科技”打造“智慧教室”,对学生进行表情监控,以提高课堂教学效率,舆论对此普遍质疑,认为此举不尊重学生的人格权利,侵犯学生隐私。学生长期在监控环境下学习、成长,容易养成“表演性人格”。因此,对这种所谓的技术创新应该持十分慎重的态度。

熊丙奇还认为,在资本逐利和学校提高教学效果的双重驱动下,一些企业开发并推广这种以监控学生上课表情、行为的人工智能系统,也有一些学校采用这样的系统,并以使用后的效果,诸如学生上课更投入,老师管理学生更方便,学生成绩提升以及学生间、师生间的冲突与纠纷减少,来论证采用这一系统的科学性、合理性。

“现代科学技术当然可以用于教育教学中,但需要首先分辨清楚教育是什么。很显然,在教室里安装监控,全天无休地对着学生,适时采集学生的表情、动作,这种做法的反教育性质比较明显,但却得到个别教育管理者和学校的认可。这是因为有的教育者和办学者忽略了教育的本质,只是考虑怎么管理方便以及怎样提高成绩。”熊丙奇说,学校是育人的地方,必须帮助学生健康成长,所有的教育创新必须以尊重学生的人格为基本出发点。

新技术推广须谨慎

教育不能偏离正轨

另据了解,除了中国药科大学之外,某小学也在使用同一套系统。这套系统运用在姿态评估、表情识别、语言识别、教师轨迹热力分析等方面,可以捕捉到学生在校园生活中是否有微笑、向老师问好、主动捡垃圾、列队整齐等良好行为,或者快速奔跑、摔跤、打架、拥挤等危险动作。

郑宁认为,在学校推广人脸识别技术要特别慎重。一些学校启用人脸识别进出校门,作为校园安全管理措施,有其正当性,但应该向师生明示收集、使用个人信息的目的、方式、范围,并取得他们的授权,并且建立完善的个人信息安全保护措施,防止相关信息泄露或被不法分子利用,否则要承担相应的法律责任。在课堂里利用人脸识别进行表情监控,除非经过学生明确授权,否则应当禁止。

在熊丙奇看来,教室里可以安装监控,但应该只在两种情况下使用,一是在考试时监控考场秩序,二是在获得教师和学生同意的情况下,直播课堂教学,与其他学校、课堂共享教育资源。如果一直使用监控,盯着学生和教师的上课情况,会让整个教学活动变为表演,对学生的人格成长产生很大的负面影响。

“也有人说安装监控系统,便于教师管理学生,但其实在监控体系之下,教师也是被管理对象,长期使用监控系统,对教师的职业化、专业化发展也会有很大的负面影响,教师上课就依靠智能系统的‘反馈’,告诉教师哪个学生不认真,哪个学生不专注,这是技术识别的结果。离开了技术手段,老师还会教学吗?教育是有情感和灵魂的事业,无节制地使用人脸识别等技术,会把教育变得没有灵魂和情感,那还不如使用教育机器人。”熊丙奇说。

熊丙奇认为,要让教育创新符合教育规律,应该由教师委员会和学术委员会进行论证,并广泛听取教师和学生的意见,不能由少数人决定。在资本驱动下,某些企业倾向于对一些教育领域的新概念进行炒作,某些学校会因此变得急功近利,让“人工智能+教育”的路越走越偏,因此需要及时正本清源、回归正道。(杜晓 景千姿)