伦理正当性和法律合规性。核心问题是:人脸识别是否真的必要?是否在最小范围、最小数据、最小时间内使用?是否充分保障未成年人的权益?是否避免歧视、误识和“监控化校园”?
以下从伦理和法律两方面梳理。
教育机构应当首先评估:使用人脸识别是否真的不可替代。
例如:
人脸识别具有“非自愿性”和“高识别性”:人走进校园就可能被采集,且人脸信息难以像密码一样修改。因此,教育机构应遵循:
只有在其他较低敏感手段不能满足目的,且风险可控时,才考虑使用人脸识别。
校园不是单纯的工作场所或商业场所,学生尤其是未成年人长期处于教育机构管理之下。大规模人脸识别容易形成持续跟踪、行为画像和风险判断,可能造成:
伦理上应限制人脸识别的使用目的,避免用于:
尤其是“情绪识别”“专注度识别”等技术,科学可靠性不足,且可能带来教育伦理问题。
人脸信息不仅是普通照片,而是能够稳定识别个人身份的生物识别信息。学生进入校园后,其面部信息被采集、比对、存储,可能意味着:
教育机构应尊重学生的隐私边界,避免将校园变成“全景监控”空间。
学生中可能有未成年人,其同意能力有限。教育机构不能仅以“家长已签署入学协议”或“默认同意”为由,直接大规模采集人脸。
伦理上应特别注意:
否则可能形成“变相强制”,违背自愿原则。
人脸识别并非绝对准确,可能受到以下因素影响:
误识可能带来严重后果:
因此,教育机构应考虑误识率、人工复核机制、申诉渠道和补救措施,不能将算法结果直接作为最终决定。
如果系统对不同群体识别准确率不同,可能造成事实上的歧视。例如:
教育机构应评估算法对不同人群的表现,避免自动化决策造成不公平结果。
人脸信息一旦泄露,影响具有长期性和不可逆性。与普通个人信息不同,人脸无法重置。
风险包括:
伦理上应坚持:
不同法域的法律要求不同,但如果教育机构在中国境内运营,通常需要重点考虑以下法律框架:
根据中国《个人信息保护法》,人脸信息属于敏感个人信息,处理敏感个人信息应当具有特定目的和充分必要性,并采取严格保护措施。
处理敏感个人信息通常还需要取得个人的单独同意,而不是笼统地包含在用户协议、入学协议或隐私政策中。
对未满十四周岁未成年人的个人信息,还涉及儿童个人信息保护,通常需要取得其父母或其他监护人的同意,并制定专门处理规则。
因此,教育机构不能简单地说“学生入学即同意人脸采集”,而应当进行单独、明确、可理解的告知和同意。
教育机构应说明:
同意应当是:
教育机构必须明确人脸识别的具体目的,并不得随意扩大使用。
合法目的可能包括:
但不应泛化为:
如果原本用于门禁,后来扩展到行为分析、消费分析、课堂专注度分析,通常需要重新评估并取得新的同意。
校园场景中常见小学生、初中生、高中生,可能涉及未成年人。未成年人属于个人信息处理中的特殊保护对象。
需要特别注意:
法律上强调“最有利于未成年人”原则。教育机构不能以管理便利为由,牺牲未成年人权益。
教育机构应只采集实现目的所必需的最少信息。
应避免:
教育机构作为个人信息处理者,有义务采取技术和管理措施保护人脸信息。
常见措施包括:
如果学校将系统外包给第三方,学校仍不能免除自身责任。第三方只能作为受托处理者,在学校授权范围内处理数据。
很多学校的人脸识别系统由外部公司建设或提供云服务。这会产生以下法律问题:
教育机构应要求供应商:
如果系统供应商使用境外云服务,或数据可能传输到境外,需要考虑数据出境合规。
需要评估:
一般建议:校园人脸系统优先选择境内部署、境内存储、可审计的解决方案。
如果系统产生自动结果,例如:
则需要考虑自动化决策的公平性和透明度。
教育机构应当:
如果自动化决策对学生产生重大不利影响,应当允许人工复核。
学生或家长通常有权:
教育机构应建立可操作的流程。例如:
人脸识别往往依赖摄像头采集视频。视频图像本身也涉及个人信息。
需要区分:
教育机构应明确:
用途:控制进入校门、宿舍、实验室等。
需要考虑:
建议:
如使用人脸识别,应限定在必要区域,提供校园卡等替代方式,保存期限明确,避免将门禁数据扩展用于学生管理。
用途:记录学生到校、到课情况。
对于中小学,应特别谨慎。如使用,应限于必要考勤目的,并提供替代方式,避免将考勤数据直接作为纪律处分唯一依据。
用途:记录外来人员进出。
访客人脸采集应更加谨慎,可提供人工登记、临时通行证等替代方式,并缩短保存期限。
用途:刷脸支付餐费。
人脸支付并非必要,建议使用校园卡、二维码等替代。如使用,应防止消费数据被用于营销或画像。
用途:防止替考。
考试场景可考虑临时、一次性、低留存的人脸核验,避免长期建立学生人脸数据库。
用途:分析学生情绪、注意力、课堂状态。
伦理和法律风险较高:
教育机构应避免用于学生情绪识别、专注度识别、心理画像、行为预测等高风险场景。
教育机构如果确实考虑引入人脸识别系统,建议按以下步骤开展。
回答以下问题:
如果非必要,不采用。
建议形成书面评估报告,包括:
学校应制定内部制度,例如:
告知内容应包括:
对于未成年人,应同时告知学生本人和监护人,并取得监护人同意。
至少应提供:
不得因学生或家长不同意人脸采集而影响其正常入学、考勤、通行、就餐、考试等权利。
例如可考虑:
具体期限应结合目的确定,但不应无限期保存。
应建立:
与供应商合同中应明确:
应提供:
人脸识别系统不是一次建设后就不用管。学校应定期评估:
如果系统停止使用,应删除或匿名化相关数据,并通知相关主体。
教育机构应特别注意以下几类高风险行为:
未经单独同意,以入学协议默认采集人脸信息。 这可能导致违法处理敏感个人信息。
将未成年学生人脸信息长期保存且无明确期限。 违反最小必要和儿童个人信息保护要求。
将门禁、考勤数据用于学生行为画像或奖惩评价。 超目的使用,风险较高。
使用情绪识别、专注度识别等技术。 科学可靠性不足,伦理风险高,法律风险也高。
将数据提供给第三方供应商用于模型训练或商业用途。 容易构成超范围使用或非法共享。
对拒绝提供人脸信息的学生施加不利后果。 可能构成变相强制,侵犯学生权益。
发生数据泄露后未及时通知和补救。 可能承担行政、民事甚至更严重责任。
教育机构在校园内使用人脸识别系统,不能简单以“安全”“智慧校园”“管理便利”为由直接上马。应当坚持以下原则:
最稳妥的立场是:
教育机构应优先采用非生物识别方式;只有在确有必要、风险可控、合法告知同意充分、并提供替代方案的情况下,才可小范围使用人脸识别,并严格限定目的、期限、权限和保存范围。