论文题目：通用大模型教育应用的潜在风险及其规避——基于技术伦理的视角

作者：吴砥，吴河江

发表于：华东师范大学学报（教育科学版）

发表时间：2024年

摘要：以ChatGPT为代表的通用大模型在教育行业快速普及，可能引发教育的系统性变革乃至生态重构。虽然技术应用于教育可能导致的伦理问题多年来一直受到关注，但从未像通用大模型的教育应用这样引发人们对技术伦理问题的担心。一方面，技术作用于教育活动的基本原理具有同质性，因此通用大模型教育应用的伦理风险类型较之以往具有趋同性，然而，因其智能化水平不同，在风险程度上将可能加剧传统伦理问题：在教育安全方面，对教育主体与组织的隐私窃取可能加剧教育过程安全危机、意识形态渗透可能加剧教育结果安全危机；在教育关系方面：可能加剧“师—机”关系中教师的技术恐惧与技术崇拜，以及“机—生”关系中学生的技术沉溺；在教育公平方面，可能加剧教育起点不公平与扩大教育结果不公平。另一方面，通用大模型有着特殊的技术基础与特征，为教育带来更为颠覆性的变革并导致新异化现象，可能产生新的伦理风险：在教育安全方面，大模型系统的对抗性攻击风险可能使学生面临算法规制而产生新的认知安全问题、模型能力的涌现性可能会让通用大模型在教育应用中失控；在教育关系方面，“人—机”协同育人模式可能阻碍师生间情感与思想交流；在教育公平方面，使用者可能在毫无察觉之下受到通用大模型的不公平对待，教育过程公平很可能难以保障。为规避通用大模型教育应用可能产生的伦理风险，应注重在制作层面确保通用大模型的道德化，在实践层面细化对通用大模型教育应用的指导，在管理层面建立通用大模型教育应用的监管体系，在研究层面加强对智能时代教育行业技术伦理问题的理论研究。