图片来源：unsplash

当前，AI已经渗入社会的方方面面，在教育领域中的应用也在不断普及和深入，尤其是在紧扣时代进步潮流、敏锐洞察市场变化、快速响应科技前沿的教育培训行业，AI更是大显身手，受到了热烈追捧和广泛应用，给教育培训行业带来了蓬勃生机和旺盛活力。

“小荷才露尖尖角”，AI在教育培训行业中的应用场景还有待进一步拓展，其价值表现形式亦不甚清晰，同样，AI应用引发的伦理问题也才初露端倪，许多潜在风险还没有完全凸显出来。那么，在这样一个机遇和挑战并存、契机与风险同在的关键时期，对AI在教育培训行业中的应用秉持一种既非辩护也非反对的理性审慎态度，在乐观中保有一份谨慎，对AI热进行伦理层面的冷思考，是我们必须面对的一项重要而紧迫的时代课题。

回顾技术发展史不难发现，任何技术在闪耀夺目光芒时，也或多或少存在一些黑暗面，正如控制论之父诺伯特·维纳所指出：“技术发展，对善和恶都带来无限的可能性。”和其他技术一样，AI也是一柄双刃剑，它一方面为教育培训行业的创新发展带来了难得机遇和巨大价值，另一方面也可能诱发负面影响和伦理风险。和学校“志愿求公益”的旨归不同，教育培训行业“自愿逐私利”的本质特点使其功利性更强、规范性更弱、监管难度更大、伦理负载性更低，因而更容易滋生多方面的伦理问题。

首先，悖离教育的伦理诉求。

在利益驱使下，一些教育科技公司倾向于炒作时髦概念和时兴技术，多数培训机构为博取眼球，也变得急功近利，盲目追风，其后果是AI应用偏离教育的常识和本真，悖离教育内在的伦理诉求。处于AI监控下的教育，表演多于真实，形式优于内容，支配高于自主。

• 第一，AI监控在某种程度上伤害了师生的人格尊严，是对学生自主学习能力和教师授课能力的不信任，在一开始就走向了教育的对立面。而且，某些教育软件开发者为牟取利益或出于其他目的，往往会将特定的算法和技术天然地植入用户设备中，以一种不易察觉的方式把新的行为代码强加给学生，学生不知不觉中受到智能系统的调整、控制甚至诱导，这是不道德的教育；

• 第二，当学生意识到一切行为都逃不过AI法眼时，其课堂表现是伪装的，教学反馈是失真的，这容易助长学生形成表演性人格，妨碍学生养成表里如一的道德品质，这是虚假的教育；

• 第三，长期使用AI教学辅助系统，会妨碍教师的专业发展，似乎离开了技术识别和系统反馈，教师就无法掌握课堂表现和教学状况，这是不负责任的教育；

• 第四，单靠AI手段来提高课堂效率，而不是凭借先进的教育理念、鲜活的教育内容、高超的教育艺术、独特的人格魅力来提高学生的抬头率、参与度和获得感，这是本末倒置、违反常识的教育；

• 第五，无节制地使用AI技术来追求教育的“精度”，将有血有肉的学生及其行为简化为冰冷的数据，罔顾人的不确定性和多样性，忽视教育的复杂性和情境性，会让教育沦为情感和灵魂缺场的荒漠，这是缺乏温度的教育。

其次，践踏学生的隐私权利。

总体上说，AI应用对学生隐私的侵犯主要体现在三个方面：

• 一是较为明显的全面监控，即在线学习平台、可穿戴设备、万物互联、遍布的摄像头和数字化生存方式共同构筑起来的“数字圆形监狱”随时随地都在窥探、跟踪和分析学生的一言一行；

• 二是在利益的驱使下，培训机构及其人员有可能窃取、贩卖和滥用学生的敏感数据和私人信息；

• 三是不易察觉的数据挖掘，大数据是AI由弱变强的关键养分，没有数据挖掘作为基础，AI的发展如同无源之水、无本之木。

正因为此，大数据自身的海量、多样、关联、易提取和交叉检验等特征让数据泄露和隐私侵犯更加容易和隐蔽，危害后果更严重。一些小的、简单的、孤立的数据可能安全可靠，不会威胁到个人隐私，但是通过自动化技术积聚整合成一个信息整体后，各种各样的数据就可以彼此叠加、联动挖掘、复合运算、相互佐证，看似不相干的碎片数据变成了有价值的信息关联，很容易突破传统的安全保护屏障而追溯到个人。而且大多时候，彼此关联整合的数据对隐私的穿透力是1+1>2的。当前，隐私问题已经成为学生、家长乃至全社会的敏感神经和关注焦点，切实保护好数据安全和用户隐私，构建一个相互信任的和谐环境，是AI在教育培训行业实现可持续发展的关键举措。

再次，侵蚀学生的思考能力。

基于大数据算法的智能系统好比一盏有求必应的阿拉丁神灯，可以根据用户的兴趣、需求、特征和知识基础量身定制个性化的学习方案。更可怕的是，智能系统一直在源源不断地汲取和分析用户的各项数据，从而使决策的效率和质量越来越高，一旦接近人脑水平甚至比用户自己还了解自己的时候，他们极有可能放弃自主权利，心甘情愿地让系统代为选择。长此以往，难免形成智能依赖症，随之而来的是学生智力迟缓、好奇心萎缩、深度思考能力缺失。

在算法盛行的AI领域，学生可能逐渐丧失反思和批判的能力，而听从诸如智能Agent或AI助手代替自己做出选择。比如，AI可以为学生推送独一无二的文章、视频或网站，其后果是学生的阅读品味受潮流和惯习裹挟而出现去我化和同质化倾向，影响学生批判性思维的发展。

再如，AI个性化服务虽然可以为学生提供最优化的学业方案和职业发展规划，让他们少走弯路，少冒风险，但当学生愿意接受其诱导走向“规定未来”（fixed future）的时候，他们变得服服帖帖，无形之中受到束缚，完全丧失了自我，其主体意识、创新精神、探索勇气、思考能力已消磨殆尽。试想，如果学生不需要自己思考、选择就能获得最佳发展，却因此丧失了自主选择和深度感受生命过程的权利，他们的幸福何在？

最后，拘囿学生的知识视野。

AI时代是平均终结、个体科学兴起的崭新时代，个性化技术是AI的集大成者，也是教育培训行业的杀手锏。说到底，AI教育就是一种能够让“因材施教”的美好夙愿落地生根的个性化教育服务。

通过聚类分析，AI系统可以向细分的用户精准推送契合其真实需要的学习资源，为每位学生呈现不一样的学习界面，这极大提高了信息传播的有效性和针对性。但另一方面，精准推送可能隔断学生接触更多资源的机会，让学生的知识视野变得狭隘。

为了更好满足细分群体的需要，智能推荐系统会对丰富多样的资源进行漏斗式的层层过滤，结果传递到学生手中的资源高度同质化，他们正蜗居于自己的小“文化地带”，观点想法相似的人在此聚集交流，无形之中封闭了异质思想的传播渠道，斩断了学生“日新又新”的机会。

如此一来，学生的观念变得封闭，思维逐渐僵化，视野不断窄化。精准推送构筑起来的观点“隔离墙”和思想“同温层”会形成信息茧房效应，学生很可能成为孔子眼中的“三季人”。也就是说，学生往往被牵着鼻子走，绝大多数时候是根据自身兴趣选择信息资源和学习内容，倾向于阅读与自己观点类似的信息，其后果是学生就像春蚕吐丝一样，把自己裹得严严实实。更糟糕的是，持续不断地为学生推送支持其自身观点的信息和资料，长期浸泡在同质化的信息海洋中，会让他们越来越固执，越来越排斥异己思想，出现叔本华所指出的那种现象：“人们会把自己视野的局限，当作世界的极限。” 可见，精准推送是碎片化阅读和表浅化思考的温床，也是导致学生缺乏主见、人云亦云、一叶障目的重要诱因。

总之，AI和教育融合不只是技术层面的问题，归根结底还是伦理问题，教育培训行业中的AI应用必须从伦理维度加以理解和审视。要想实现AI科学有效、安全合理的应用，让其真正造福于教育培训行业，除了要充分肯定和释放AI的强大功能和巨大价值外，还要对AI的教育应用有所限制，设立“禁区”，构建相应的伦理原则规范AI的使用行为，警惕和防范AI应用可能给教育培训行业带来的不利影响和伦理风险。

本文转载自微信公众号“京师飞渡 FEdu”，作者为湖北民族大学教育学院邹太龙（未来教育研究中心特约研究员），编辑甘霖，审稿陈超凡。