以下是我们如何避免这些危险，最大限度地利用这项强大但仍在不断发展的技术带来的好处
在2013年的一篇文章中，Facebook首席执行官马克·扎克伯格草拟了一份“粗略计划”，向全世界提供免费的基础互联网，从而传播机会和互联互通。然而，联合国人权理事会报告称，在缅甸，Facebook为实现这些愿望所做的努力加速了仇恨言论、煽动了分裂，并在罗辛亚种族灭绝中煽动了线下暴力。免费的基础互联网如今成为了技术对社会影响复杂性的警示。对于教育领域的人工智能研究员克里斯和科学教育家、国际网络政策学生丽莎来说，这个例子让他们停下了脚步:人工智能在教育领域可能会产生哪些意想不到的后果?
许多人希望借助人工智能工具来解决扩大高质量教育规模的需求，而且有充分的理由。在线课程带来的教育内容激增，数字设备的普及，以及当代人工智能的复兴，似乎为大规模提供个性化学习提供了必要的条件。科技在解决社会问题而不造成意外伤害方面的记录向来不佳。我们能预测哪些负面影响?我们如何改进人工智能研究人员的目标，以解释这些意料之外的后果?
数十年来，人工智能在教育领域的圣杯一直是自动导师的诞生:这是一种算法，可以监控学生的进步，了解他们知道什么，是什么在激励他们，并提供最佳的、适应性的学习体验。有了自动导师的帮助，学生们可以在世界任何地方的家里学习。然而，2020年的自动导师看起来与这个理想有很大的不同。带有自动导师的教育通常会让学生面对一些设计为易于算法解释的问题，而不是为学习者带来乐趣。
目前的算法无法解读动机，也远不能产生长期的学习收益，而是专注于让学生在短期内参与进来。技术上的挑战是巨大的:构建理想的自动导师系统可能和实现真正的人工智能一样困难。研究界认为这是一个挑战:我们只需要克服我们的技术缺陷，实现乌托邦梦想。
但是，自动导师乌托邦是一个值得为之奋斗的梦想吗?我们提出了一些由于使用人工智能系统(如自动导师)而产生的危险，并呼吁研究如何利用人工智能在教育中应用的潜在好处，同时降低风险。我们相信，经过深思熟虑开发的人工智能系统与具有自然智能的人类协同工作，能够支持世界各地广大的学习者社区。
人工智能融入教育的三个危险
1. 破坏社会情感联系和技能。
除了死记硬背的知识获取外，学生上学还有很多其他原因，包括社会情感技能的发展、人类导师和人类社区。对于人类教师和传统课堂的所有潜在不足，取代这些结构是有代价的。我们许多人都记得从老师那里学到的东西，他们的指导和指导远远超出了他们所负责的教学课题。人工智能会取代这些互动吗?
此外，孤独感正在上升，年轻一代比年长一代更孤独。一项研究发现，与那些花时间进行线下活动(如面对面的社交互动、体育活动或家庭作业)的青少年相比，抑郁症在青少年中存在一定的相关性。减少看屏幕的时间可以显著提高同理心水平。联合国教科文组织正在考虑调整教育目标的方向，以强调培养社会情感能力，实现社会的和平与可持续发展，而强迫儿童看屏幕可能会破坏这些目标。
然而，人工智能系统的设计往往是为了最大化学生上网的时间。就连开发出令人上瘾的技术的高管也明白这些风险，因为许多人把孩子送到昂贵的没有屏幕的私立学校，为的是“享受人机交互的乐趣”，而贫困学生则被迫接受廉价的技术解决方案。除此之外，由人工智能驱动的学习模块可能会破坏重要的元学习技能，比如自我调节的能力，因为学生可能会适应机器对他们注意力进行调节的工作，而无法培养他们这样做的能力。同样，学生可能会失去独立适应现实世界中不提供即时反馈或指导的创造性任务的能力。
与此同时，人工智能在课堂上带来的破坏可能会扩展到家庭和社区。包括教师和家长在内的权威人士可能很难适应完全移植到数字设备上的课程，无论这些技术显示出多少“人性”。这种抗拒在生活在贫困中的传统社区可能最为强烈，在那里，一些人看到了人工智能技术的最大潜在影响，因为不习惯让孩子在屏幕上花费时间的家庭，可能会抵制从人类指导转向人工智能导师的趋势。
如果事实证明这些工具并不像我们所希望的那样能够很好地改进知识，那么在增加知识获取和减少以人为主导的学习之间的权衡就尤其消极。考虑到动机在学习中扮演的重要角色以及我们还需要克服的技术挑战，这是一种明显的可能性。
2. 在教育中滥用人工智能以扩大权力。
也必须考虑到恶意的行动者会利用新强大的、激励人心的教育工具来教授暴力题材的可能性。Facebook的崛起同样放大了一些组织的破坏性，新的有效教学工具可以帮助恐怖分子扩大有关破坏行为的培训规模。此外，在人工智能导师中培养类人同理心的目标需要对学习者的情感和心理状态进行深入的个人数据处理。暴虐的政府会利用公民在上学时的心理情感数据来进行迫害或权力巩固吗?或者，富人只会变得更富吗?
虽然倡导者吹捧人工智能教育工具在全球普及教育的潜力，但研究人员必须考虑这些工具如何能使不平等持续存在或加剧。拥有数字工具的特权群体成为当前人工智能算法的训练数据来源。当机器学习算法在特定的数据集上训练时——可能是来自美国的白人学生被过度表达的数据集——结果可能对来自其他背景的群体有偏见，因此在不同的群体上使用时可能是无效的，甚至是歧视性的。
此外，通过一种集中的模式来扩大教育规模，会减少决定教学内容的声音的数量。考虑到对于那些教书的人来说，教学也是一个很好的学习工具，那么选择谁来教书就变成了选择谁来学习。是的，在几乎没有教科书的社区提供新工具将提供一种形式的知识。然而，扩大中央倡导的课程规模可能会强化同质学习目标，削弱本地知识提供者的能力。正如塔斯基恩•亚当所言:“随着技术渗透到全球各地的社区，新自由主义价值观也渗透进了这些社区，以至于这些价值观成为了一种价值体系，在这种体系中，地方、文化或宗教价值观被放在第二位，如果它们完全适合的话。”如果不考虑当地的声音，技术就会与教育差距最大的社区无关，甚至毫无用处，这些社区可能会完全排斥技术，从而加剧他们试图纠正的不平等。
3.侵犯儿童权利:缺乏数据隐私和网络安全。
在保护个人隐私和偏好的同时，如何使用大量的个人数据进行个性化学习，这一挑战上升到了危险的水平，因为人工智能的服务目标是尚未同意收集个人数据的年轻学习者，他们可能不理解共享个人数据或与匿名陌生人在线互动的风险。把世界各地的学习者联系起来的平台，对于那些花时间调节互动水平的人来说，并不是乌托邦。Facebook前首席安全官亚历克斯•斯塔莫斯表示:“到处都有和儿童的在线交流，到处都有对儿童的剥削。”
一款乐高MMO(大型多人在线游戏)，允许用户创建和共享乐高结构。部分用户开始用乐高积木制作情趣用品，并与其他玩家分享。该公司的员工哀叹，他们无法以足够快的速度“检测到丁字裤”，以防止他们的儿童友好品牌被玷污。
从Lego到Roblox再到Fortnite，每一个平台都经历了各种类型的儿童剥削，而在那些不太熟悉互联网的社区，剥削很可能会加剧。为了实现在线教育支持最不发达国家的承诺，研究人员必须考虑到在线工具新用户的安全性。
迈向更美好的愿景
风险的存在并不需要消除我们的乐观情绪;相反，它可以成为一种发展更成熟目标的力量。许多人描绘了一个更好的教育体系。我们呼吁人工智能研究界和教育政策界共同设想AiEd面临的一系列重大挑战，这些挑战要更好地符合我们的教育梦想，并更好地考虑风险。我们提供了六个讨论目标，并邀请公众参与讨论。
1. 人工智能促进更多(和更高质量)的人类学习互动。人工智能可以通过自动化任务和开发令人兴奋的问题来支持教育工作者和教育系统，而不是取代教师。教师和工具可以协同工作:教师从AIs系统中过滤有用的建议，利用工具进行教师评分和跟踪学生。
2. 人工智能来产生令人鼓舞的问题。人工智能还可以帮助在本地环境中创建和传播有趣的问题。机器学习可以创造出看起来像伦勃朗作品的画作。我们还可以使用算法来创建吸引人的、个性化的活动。这种综合可以建立一个丰富的教与学的生态系统，社会和情感的互动将得到支持，而不是被技术所取代。
3.低数据反馈。鼓舞人心的开放式任务为探索和创造提供了机会。如果人工智能的设计是为了支持和提供这类问题的反馈，那么它可以帮助教师。然而，当前的方法需要大量的学生数据来支持有意义的、由人工智能驱动的开放式工作的反馈。我们需要学会在不消耗大量学生数据的情况下做到这一点。低数据人工智能似乎很有前途，可以降低数据滥用的风险。低数据是实用的，因为解决方案不需要等待数百万学生在每次作业中充当小白鼠来训练我们的算法。
4. 用人工智能来理解过程。人工智能目前在教授死记硬背、结构化的课程方面最有效，而不是支持在现代世界蓬勃发展所必需的创造性、开放性、团队式学习。目前的研究侧重于理解过程和学习能力，而不仅仅是最终产品。对于老师来说，尤其是在大教室里，不可能像钢琴老师对学生的手的位置提供反馈那样，密切关注每个学生。人工智能工具可以与教师协同工作，监控过程，而教师仍然是教练，避免拆除允许社会情绪学习的学校环境。人工智能和人工智能的混合模型可以帮助教师了解学生的学习过程，将教师提升为教练和导师。
5. AI用于翻译教育内容。内容的贡献是不平衡的，特别是对于低资源语言。作为人工智能的一个分支，自然语言处理在支持翻译方面处于有利地位，可以帮助在最需要的地方提供全纳教育，并鼓励社区从头开始建设教育技术的发展，而不是完全任由西方强加。
6. 基于人工智能的儿童安全风险检测。应该把大量的精力放在开发可扩展的内容审核工具上，这样在线学习空间对所有学习者(例如来自恶意图片的学习者)都是安全的，尤其是儿童和那些处于脆弱环境中的人。
人工智能在促进快乐学习方面有很大的潜力，但前提是所讨论的问题得到适当的解决。联合起来，教育政策社区和开发大规模部署人工智能工具的研究人员负有重大责任。我们必须集体考虑我们的技术可能的应用范围，包括有害的应用。我们邀请公众参与讨论这些人工智能挑战，以及如何减轻它们的潜在危害，促进人类繁荣。
教育人工智能似乎是一种纯粹的好东西;然而，在这个领域，就像在医学领域一样，希波克拉底誓言适用于:第一，不要伤害他人。
閱讀更多 吃瓜分享 的文章
