联合国教科文：生成式人工智能与教育的未来

观点 | 联合国教科文斯蒂芬妮亚·贾尼尼

编译 | 中国教科院比较教育研究所吴云雁博士

转自 | 国际与比较教育研究所

01

生成式人工智能对人类的影响

  数字革命颠覆了人们的生活方式和教学与学习方式，不断丰富和改善人们的生活、人际关系，并为教育开辟新的视野。贾尼尼从语言、知识和教育三方面分析了人工智能如何颠覆人类生活，并引发人类对人工智能技术发展的反思。

（一）语言

  语言是人类身份与文化多样性的核心，也是人类核心技能。从生物学角度，语言使人类与其他动物区分开，人类通过教育达成了对高级语言的垄断，通过语言学掌握语言的结构、形式、意义和力量。而人工智能在短期内通过改进的算力、合成神经网络和大型语言模型掌握了人类语言，并跨越了多语言的门槛。这不得不引起人类的反思：生成式预训练语言模型将如何改变“人类”这一基本概念？未来将如何重塑对“人类智能”的理解？它将如何影响人与人之间的关系？

  此外，在没有明确的指导情况下，人工智能生成语言的结果和方向是不可预测的。精通语言和学习的数字技术未来是否会发展出感知能力，并渴望更大的自主权？把人类几千年的知识积淀交给似乎能够超越人类能力边界的机器，是否明智？同时，如何对待人工智能，并科学地与之互动，也是目前面临的一个重要挑战。

（二）知识

  技术不是意识形态中立的，而是表达并推崇某些世界观，反映出特定的思维和认知方式。大型语言模型聊天机器人生成单一的、看起来更权威的答案，然而，这些答案并没有追溯人类思想，只是通过复杂的算法得出答案，即使是技术开发者也不尽理解，这显然是缺乏人性的。

  机器对一些知识性问题提供即时、简洁和看似准确的答案，表面上提供了帮助，但也导致机器知识占据主导地位，使一些投射了某些世界观和背景的人工智能模型成为“权威”。如果只有为数不多的几个人工智能模型和平台垄断人类与知识的接口，或者占据主导地位，那么人类必须思考如何保护知识系统的多样性，并通过扩展知识共享方式来开发人工智能。

（三）教育

  生成式人工智能的发展对未来教育提出了根本性问题：教师将扮演什么角色？教育系统应该培养学生哪些技能、观念和能力？学校应对人工智能应该做出何种转变？人工智能可能会在未来实现能力通用，不止停留在下棋等狭窄领域，并在更多领域超越人类，那么未来教育应该是什么样？其目的和作用是什么？

  教育通常会陷入理所当然的假设中，人类当前的学习系统旨在帮助人类培养驾驭世界的各种能力。人工智能的出现，迫使人类提出新的命题，使我们不得不思考，如何为人工智能世界做好准备。

02

减缓和规范人工智能在教育中的使用

  贾尼尼认为，在技术主导的现状下，应该适时停下来，反思和探寻人类发展的真正方向和目标。人工智能的发展速度将会不断加快，当前技术领域尚未制定方向性的发展路线图。人工智能最主要的风险之一是其对人类的“操纵力”，儿童和青少年尤其容易受到操纵。在未经检查、未制定规则或法规的情况下，人们已经开始忽视生成式人工智能技术隐藏或潜在的风险，使之进入教育系统。

  应该减缓、暂停或停止使用人类尚不充分了解的人工智能技术，同时增加对技术本身的理解，研究何时和如何安全使用这些技术，以及使用目的。必须高度关注安全问题，效仿教科书的审查和验证过程，对大型语言模型类人工智能技术进行检验，至少应遵循四个主要检验标准：内容的准确性，年龄适宜性，教学方法的相关性，以及文化和社会适用性，包括算法偏见。

  教育部门需要根据实际情况对人工智能模型进行“资格”检验，不能依赖于人工智能开发商，而应与政府和其他技术监管部门协作，在教育系统内部组建专家技术团队，对人工智能应用进行安全性审核，防止技术滥用，制定相关应对举措。

03

规划人工智能技术在教育中应用的路线图

  联合国教科文组织正在协助各国共同制定人工智能战略、计划和法规，以确保人工智能在教育中的安全和有益使用。2023年5月，UNESCO组织了第一次全球教育部长会议，分享有关生成式人工智能工具对教育影响的知识。《联合国教科文组织关于人工智能伦理的建议》（2021）、《北京共识——人工智能与教育》（2019）和《人工智能与教育政策制定者指南》（2021）均提供了重要参考。

  联合国教科文组织鼓励各国在使用人工智能工具时，优先考虑公平、质量、以及安全原则，在达到安全保障的基础上，对人工智能持开放和乐观的态度，使之成为支持、补充和丰富正规教育体系的重要学习方式。

04

数字技术在教育领域的新挑战

  人工智能会加速自动化进程，显著提高生产力。新技术的使用应优先考虑缩小差距，因此，需要抵制人工智能对扩大社会不平等的影响。对教育而言，应考虑如何缩小现有的教育鸿沟，警惕技术对教师权威和地位的削弱作用，审慎看待“教育自动化”，比如：没有教师的学校，没有学校的教育，以及其他反乌托邦的愿景等，这种教育的自动化设想往往以效率的名义，首先对弱势学习者产生不利影响。

  贾尼尼指出，很多人呼吁使用生成式人工智能，为学校无法正常运转、教师短缺或工资低的地区带来“高质量”教育。在充满挑战的环境中，前沿技术只是一种途径，并不是解决方案。管理良好的学校、充足的师资、必备的环境条件和资金支持，仍是主要的可持续性补救措施。

  在教育投资领域，人工智能技术也面临投资选择困境，“教育”和“培训”等人工智能技术的业务规模拓展也将引发新的国际竞争。并且，对技术的投资将挤压对人的技能发展投资，对人工智能技能发展的投资有一天可能会多于对儿童和其他教育相关者的投资。即使人工智能在智力和能力上超过人类，对“人”的教育仍然很重要，而培养读写能力也是教育最重要的内容之一。

05

重新思考教育如何重塑未来

  在人工智能加速发展和不确定的未来环境中，人类需要借助教育系统来构建对人工智能的认知、使用和规范。贾尼尼认为，人类的惯性思维一般只会思考一项新技术将如何改变教育；而更有趣的思考则是，教育如何促进人类接受新技术，并引导当前技术和未来技术的整合。

  教育体系可以帮助人类理解技术革命，确定未来发展轨迹，并建立规范；帮助人们更清楚地了解何时、由谁、如何以及是否使用新技术。人工智能也促进教育参与者重新审视在教育中“做了什么”，“如何做”，以及“为何做”。

最后，贾尼尼表示，现在是迎接人工智能挑战的时刻。在人类健康甚至生存可能受到威胁的时代，全球必须充满紧迫感，共同努力，确保教育系统在人类正确过渡到人工智能世界的过程中发挥关键作用。

                本文由中国教育科学研究院比较教育研究所吴云雁博士编译