科研之友
微信
新浪微博
Facebook
分享链接
摘要
人工智能（AI）技术为课堂教学反馈带来质效提升的同时，其引发的一系列伦理问题也日益受到关注。对应用个案的系统分析有助于揭示此类伦理困境产生的深层次原因。基于对X中学课堂反馈AI系统的开发者以及教师、学生等应用者的访谈，通过三级编码分析构建的“内因—外缘”解释模型表明：课堂反馈AI系统应用的伦理困境主要由算法陷阱引起，表现为算法黑箱与算法歧视；由于算法规则的不透明和偏向性，课堂智能反馈过程呈现出数据失信、数据滥用和隐私侵犯等现象，诱发了权力失范、关系失衡、情感异化等外发风险；这些风险表现为“师端”的教育自主权让渡，“生端”的学习自主性丧失、过度情感劳动以及情感遮蔽等。化解AI赋能课堂反馈的伦理风险，应该规避算法黑箱和算法歧视，主张师生对算法规则有知情权，以学生的主动性和发展性为落脚点完善法律法规对抗算法歧视；制定数据伦理规约，确保教育数据与师生隐私的安全；建立师生与AI之间的双向平等关系，强化人机协作效用；揭示学生情感变化规律，发展师生的积极情感关系。
- 出版日期2022
- 单位西南大学
