人工智能的深入运用将在本体意义上动摇我们原有的对教育的理解、判断和追求，从而产生前所未有的困惑和焦虑，因此，有必要重新思考人工智能时代教育将如何存在。“替代人脑”，教育的意义和价值何在；“人机一体”，教育的方式和性质将如何改变；“失去控制”，如何保证教育的价值选择和方向；“道德难题”，教育将面临怎样的伦理抉择。对这些深层问题的思考和回答将是决定人工智能在教育上乃至在未来社会能够走多远的关键。

唐汉卫，华东师范大学教育学部教授

人工智能时代已然来临，关乎人工智能的讨论骤然升温，各行各业都展开了关于人工智能的无穷想象。对于教育领域而言，人工智能所带来的冲击更值得关注。人工智能介入教育将直接参与人自身的改写和塑造——人工智能的深入运用将在本体意义上动摇我们原有的对教育的理解、判断和追求，从而产生前所未有的困惑和焦虑，有必要重新思考人工智能时代教育将如何存在。习近平总书记明确指出，“人工智能是引领这一轮科技革命和产业变革的战略性技术，具有溢出带动性很强的‘头雁’效应。在移动互联网、大数据、超级计算、传感网、脑科学等新理论新技术的驱动下，人工智能加速发展，呈现出深度学习、跨界融合、人机协同、群智开放、自主操控等新特征，正在对经济发展、社会进步、国际政治经济格局等方面产生重大而深远的影响。”技术驱动的教育变革在很大意义上已超出技术的范畴，而对这些深层问题的思考和回答将是决定人工智能在教育上乃至在未来社会能够走多远的关键，也是时刻考量技术应用的重要法度。

“替代人脑”：教育的意义和价值何在

工业革命所引发的现代化大生产和现代分工需要庞大的、专业化的劳动力，需要培养具有敬业精神和一技之长的生产者和劳动者，这既是现代教育的基本动力也是其重要目标。人工智能在很大程度上实现了对人的替代，不仅是体力，更重要的是替代了脑力，“我思故我在”、“人是一棵能够思想的芦苇”这一人类引以为豪的本体特性和天然优势似乎已经消解。技术性失业将全面来临，并非危言耸听。现实中，大量的工作和行业正在被人工智能全面取代。例如，长期在国内拥有近百万雇工规模的“用工大户”富士康，已用机器人取代数以万计的工人，美国特斯拉工厂中则很难看到人，电脑控制的机器人可以完成汽车制造几乎所有流程。“未来智能机器将全面取代人类工作，真正能够工作的或许只有２％的人。”《未来简史》的作者赫拉利指出，人类社会将出现“无用阶级”。各种预测、评估未必准确，至少一个清楚的事实摆在那儿，就是人工智能在越来越多的领域起到解放人力、取代人的作用，让教育为培养未来的生产者、工作者、就业者的任务、职责和价值变得不再重要甚至没有必要，以工业化生产、需要及其思维模式为支撑的现代教育体系面临着坍塌。目前，我们无法简单的断言教育将发生多大的变革，这要取决于未来人工智能的发展水平、应用普及程度、对人力的解放和代替程度及人们对人工智能的接受程度等，但无论如何，大量工作被取代必然导致教育的重新洗牌，特别是离就业最近的职业教育和高等教育，即便是基础教育，也要从根本上重新思考教育的目标和追求。所以，面向未来，贯穿工业化理念的现代教育在某些方面的消解、消失是必然的。只有那些高端、复杂的不能被替代至少一段时间内不能被机器替代的，还有那些需要创造力的工作，还是需要人和相应的教育培养。此外，人工智能自我进化的速度远远超乎人的想象，我们目前能看到想到的不能被取代的工作，又能保持多久呢？机器人创作诗歌、音乐、评论等这些具有高度人文和艺术特色的活动都已经成为现实。从长远的角度来看，随着人工智能逐渐接近并全面超越人脑，倘若真的是“奇点来临”，那么，稍带乐观和极端的观点认为，没有什么工作、职业是机器人取代不了的。到那时，考虑工作、生存技能已真的不再是教育存在的理由了。当然，也有人会讲，人工智能也会创造新的就业机会，比如，“新的就业机会可能会出现，包括解梦专家、数据处理顾问、宠物遗传学家、人类与机器人关系顾问、数据纠错员、机器人维修技工……软件伦理学家、临终顾问和神秘医疗者等”。同时，总有人工智能不能完全取代的工作，但这些工作的高度专业性、创造性并不适合一般大众，只能是极少数人的事情了。

对大多数人来说，工作总有一天被人工智能所取代，从工作中解放出来。大多数人不需要去考虑生存和工作问题，会有更多的时间去做自己喜欢的事情，交往、休闲、娱乐、消费，享受生活，从事人文艺术，或者去做机器不能做的事情，我们人类剩下的阵地只有灵感、顿悟、情感、大局观、责任心……这样，现代教育的考虑工作需求的、培养各行各业专门人才的驱动和规模性指向已经不存在，教育可以更加专注于人自身的成长，一般性的以及特定职业的知识技能不再是教育的关注点。“教育是人的灵魂的教育，而非理智知识和认识的堆积”，此一命题在人工智能时代将得到更加充分的实现。而人自身的成长，在一个新的时代和环境中人的价值观、人格、心理的成熟和完善有什么新的诉求、会遇到什么样的问题、如何需要教育的引领和支持目前不得而知。综上，笔者的观点是，在人工智能快速发展的时代，传统的、流水线一样的教育形态终将消失，但教育仍将存在，只不过重心转向了人工智能替代不了的工作，转向人自身的成长和完善。关于教师是否会被机器取代，这也是一个几十年来不断被提及和重复的老话题，只不过人工智能的快速发展使得这一话题再一次引人注目。从实践中看，教师的某些工作正在与人工智能相结合或被人工智能取代，在技术层面上实现了智能批改作业、试卷、评分、纠正发音、批改作文、个性化教学设计、针对性的辅导等，通过千万量级的数据，在帮助差异化、个性化、定制化的学习方面，人工智能都比人做得好。但教师这个职业在学生成长中发挥的作用和扮演的角色目前还看不到被完全取代的迹象，至少人的社会性交往、情感、价值观等方面机器还取代不了。“信息技术应用于教育绝不是简单地将现有的教学内容和教学方式加到互联网上，不是物理变化，而应当是化学变化。技术可以放大杰出的教学，但是再伟大的技术也不能代替平庸的教学。”但人工智能会给教师提出更高的、新的要求也应该是不争的事实。

二

“人机一体”：教育的方式和性质将如何改变

“人工智能正在接入学校的‘教’‘学’‘管’等各个环节”，呈现出了像“泛在教育”、“慕课”、“可汗学院”等新的概念和实践蓝图。但是，所有这一切都是以“人机分离”为前提的，只不过互联网、大数据、算法、程序等组成的人工智能、机器帮助了人的学习，实现了学习的个性化、精准化、超时空化，人归根结底还是靠自己的脑力、体力在提升自己的能力和水平。教育在本质上并没有改变人自身的生物遗传学基础和身心发展的自然规律，反而是在积极寻找、尊重和适应这种规律，让人成为他自己。而人工智能展示的“人机一体”或“人机融合”，学习和教育的方式将可能发生质的改变。

所谓“人机一体”或“人机融合”，是指随着纳米技术、基因技术、人工智能技术的迅速发展，人从生理、肉体上与机器合为一体，实现了“人的机器化”和“机器的人化”。在这方面，医学上已展示了很好的前景。在这里，笔者关心的是教育问题，即通过机器与人脑的联结而实现的“意识传导”将会对教育方式进而对教育的性质产生的影响。“意识传导”是指机器与人脑进行联结，从而实现意识、信息在机器和人脑之间的直接传导。目前人脑与电子设备和网络结合的实验虽然仍处于实验阶段，但也不再是遥不可及的梦想。人工智能在应用于人机一体、意识传导方面所展示出的巨大潜力不可估量。在乐观派看来，“意识上传成为现实只是个时间问题，”并且通过意识上传，可以不受身体寿命的限制从而实现人的思维、意识、精神的保存和永生。那么，未来随着人脑和电脑的联通，人体和电脑是否也将互相成为彼此的外挂设备？

“人机一体”不仅表现于意识的上传和下传，人体与机器物理性互融和共存也慢慢成为现实。信息科技正在嵌入人们的身体，个人感知与联系外部世界的方式也会因为它们的“介入”而全然不同。例如，无论可穿戴设备将来是否会成为主流，它都让人们以不同的方式看待技术，思考技术与人类互动方式的多种可能。而人类的健康信息、感官体验，乃至所思所想，也将经由身上这些几乎“无感”的电子设备“接通联网”，我们对外界的感知、交流和行为，内部的思维和意识、精神状态都不再仅是基于我们的个体身心，而是在嵌入我们身体的各种智能体的直接作用下而进行的。人机实现了生化和物理意义上的合体，真的成为“机器人”——人和机器的合一。再发挥一点想象力，著名未来学家库兹韦尔认为，“人机合体”是人工智能的必然，最终带来人和机器的共生演化。库兹韦尔预言，在接下来的几十年或者一百年中，我们可能会看到一些非有机生物体的出现，库兹韦尔称为“后人类时期”，“由于我们生物智能的能力基本上是固定的，当非生物部分有数十亿倍的能力时，我们还会坚持将我们的意识与我们智能的生物部分相联系吗？”共生演化成为“人机合一”的更高阶段，演化逃脱了大自然千百年来的自然法则，人机合在一起，在人工智能的帮助下，人机合体的后人类开启了新的旅程。

无论是哪种形式的“人机一体”，都将给学习和教育的根本方式和性质带来不可思议的冲击。学习，将不再只是人脑的机能，受限于人脑的容量、接受程度、生理特征等自然性基础，受制于人的时间、精力和体力限制，而是有了质的飞跃，人脑和电脑、互联网等可以直接连为一体了，人不用再靠原有的方式经过漫长的训练、积累过程逐步提升大脑的各种能力，而是直接借助人工智能技术有可能实现、达到历史上从来不可想象的超能力。试想一下，意识传导、不断自我演化的人工智能给人提供源源不断的心智支持和同步共生，这意味着什么？有点像科幻，但人工智能的发展展示出了这样的可能和前景。到这个时候，教育又将意味着什么，教育将以怎样的方式存在；传统、现代和未来的教育将是怎样的关系；难道教育就仅仅意味着将网线直接联接大脑，还是要对这种连接进行某种形式的审查和干预；如何看待这种连接和人类自身的生长规律间的关系；原有的教育方式是否还有存在的必要，这一切都将是问题。唯一不是问题的是，面对“人机一体”的现实和可能，人们将不得不重新审视教育的性质、实质。未来，究竟是教育的含义和本质规定性需要拓宽和重新定义，还是要让人工智能的人体介入保持在一定限度之内，再或二者不是非此即彼，而是“既和又”的关系，在不断的探索和实践中去寻找二者的交叉点和平衡点。答案只能在实践中去探寻。不过笔者认为，在不清楚“人机一体”给儿童成长和教育带来的后果之先，保持节制与防范、慎而又慎的态度是极其必要的。

三

“失去控制”：如何保证教育的价值选择和方向

短时期内，人工智能技术发展迅速但又不是足够智能，在人的掌控下，人工智能为人服务、满足人的需要，似乎给人类社会、给教育描绘了一幅美丽的画卷。但长远来看，随着人工智能变得越来越智能、能够加速度的自主学习和演化，那么，还能确保人工智能在人的控制下吗？教育首先意味着价值判断和选择，意味着方向性。未来，若人工智能失去控制或不能完全控制，对教育来说又意味着什么？如何保证教育的方向？

人类思维活动丰富多彩，也有情感因素夹杂，机器难以在短期内取代人类所有的思维活动，但人类受到缓慢生物进化的限制，机器却以不断增长的速度重新设计自身。“技术变革的速度将不再受限于人类智能的增长速度。机器智能在反馈循环中不断提高自己的能力，并将远远超出无机器辅助的人类智能。”人类有可能制造出智能极高而又忠实服从使用者指令的机器人，但这只是可能性，而非必然性，还有其他各种可能性包括相反的可能性。所以，对人工智能存在的失控风险，许多有之士都发出了警告，指出人工智能可能演变到人类无法控制。“一旦机器的智慧超过人的智慧，它们就会自己设计下一代机器。到那时我们不仅要烦恼人类获得永生后的意义问题，更要担心人类将来可能会从这个循环中被淘汰”的危险。《未来简史》的作者赫拉利则预测人类将失去其神圣地位，成为机器人所圈养的动物，并可能被机器人随意屠宰。可见，人工智能失控的可能性确实存在。有学者认为，“我们没有任何理由去相信超图灵机将遵循人类价值观和人性去行事（其实人性是个蕴含着许多恐怖可能性的概念）。”超级智能自我进化同时又超越人类的智能，不可能按照人类的意愿行事，从哲学上看，最终只能导致人类的自我否定，人类创造出了否定自我的东西。这或许是一种悖论和历史的玩笑，但的确如此。

人工智能在人的控制下，确保人工智能参与的领域和活动都是按照人的价值选择和判断来进行的，但人工智能一旦高度发展、到了强人工智能特别是超人工智能阶段，到了它能够不受人的控制而自主学习调节、自我主宰的阶段，我们的确无法想象将会是怎样的一番景象。同样，人工智能运用于教育，教育的价值方向和选择如何保证。具体来说，本来是作为辅助手段的人工智能要服从服务于人的价值判断和取舍，在教育者和受教育者的互动关系中，技术手段本来是价值无涉的、中性的，是师生沟通交流的工具和手段，是学生学习的工具和介质。教师、学生作为能动的主体，是价值选择判断的主导者，但强人工智能却一跃成为学生的导师，且是无可替代的、能力超强的、不断加速成长和蜕变的导师，它将把学生导向何方，自主的给学生选择和配送什么学习内容，如何保证这种引导、传递和交互过程是符合人类期望的？是符合国家社会需要的。说到底，如何保证人工智能教育的价值方向。

即便人工智能不可能完全失去控制，一定程度的失控又如何承受。当科学家、人类最聪明的大脑都无法理解洞察如何运算和做出决定的机器，机器为什么就要按照人的期望和价值选择来教育人类？从逻辑上讲，它并不是必然的对抗人类，也不是简单的听从或依赖于人类，而仅仅是按照机器自己的“意愿”、逻辑、不断升级和进化的算法在工作，在引导和教育学习者。在人工智能普遍应用之后，对一般的个体、儿童来说，不是机器在依赖于人，而是人的一切都离不开机器，包括教育和学习，不是个体在控制机器，而是高度进化的机器在洞察、分析、调节和引导着人的生活、学习、成长。在很大程度上，我们还不如人工智能更了解自己，只能把我们自己的规划、改善和提升都交给了机器和算法。当然，有人会说，儿童带有主观能动性、自身有价值选择和判断能力，同时，人工智能并不能完全替代教师和家长，教师和家长有自己的价值判断，在儿童成长中仍然发挥不可或缺的作用。是的，以上两点是成立的。但和前面的观点并不矛盾，只不过在儿童、教师、家长之间加入了另外一个同样也具有高度自主性的因素，而且这个因素从长远来看可能并不受成人的控制，其自动化程度越高，对儿童的影响也就越大，正面影响和负面影响都是一样。那么，问题依然是，教育的价值选择、价值方向如何保证？在笔者看来，发展到这一步，当人工智能高度自主、人无法洞悉并随时可以调节它的时候，人工智能教育对学习者的引导、改变、支持虽然存在，但由它所提供的这种“教育”的价值方向难以完全保证，因为毕竟它不是人。这一“失控”的可能性，应该引起足够的重视，“要加强人工智能发展的潜在风险研判和防范，维护人民利益和国家安全，确保人工智能安全、可靠、可控”。在技术发展的快车道上，要有来自技术以外的诸如法律、政策、媒体监督、舆论审查、伦理宗教等各种形式的规制和引导，做到“道”在“魔”先，才能保证人工智能服务于教育和人生，而不是相反。

四

“道德难题”：教育将面临怎样的伦理抉择

人不仅是自然生物性的存在，更是社会伦理性存在。千百年来，人类建构和适应了一套习以为常的社会伦理和精神秩序，尽管这些秩序也在不断遇到困难和更新，但大致处于能够自我调节和完善阶段。人工智能将有可能从根本上瓦解和颠覆原有的伦理秩序，制造了传统的和现有的伦理框架无法解决的道德难题。“人工智能‘能够’做的事情正不断突破既有的阀限，我们已经难以清晰地预测技术发展的边界和可能造成的后果；特别是未来可能出现的超越人脑智能的‘超级智能’，可能对既有的伦理关系和伦理秩序提出严峻的挑战，甚至将人类的前途和命运置于巨大的风险之中。”教育不仅要对这些困惑和难题做出正面回应，同时，人工智能应用于教育过程中本身也会产生一些新的道德难题。这些难题能否得到破解以及如何破解，将是影响未来教育存在的又一关键因素。

人工智能的发展让人不得不追问，“所有形式的自动化和人工智能是在一个约定的道德框架内存在的吗？”实际上，关于人工智能引发的伦理问题经历了从简单到复杂的过程，比如从起初的人们关心工业机器人的单一安全性问题，逐步转移到与人类相关的社会问题上，更深入的思考则开始关注人工智能体的道德行为主体、自由意志、社会角色定位等，再进一步，则关涉与以各种各样的方式与人共存的“人和机器”的交互关系等诸多社会伦理问题。诸如，该不该赋予“人性”的机器以人权，人工智能机器能否承担责任，谁来负责智能机器人的过错，如何定位智能机器人的道德地位，当遇到人类自身解决不了的道德困惑时机器该如何做出决定，等等。

对人工智能、自动化技术可能给人类自身的地位和价值影响的担忧由来已久。1942年，阿西莫夫在科幻小说《环舞》中就提出了著名的机器人三定律（不伤害定律、服从定律、自保定律）。2004年，第一届世界机器人伦理学大会则在意大利召开。“2014年1月，谷歌收购深度学习公司DeepMind时，一切发生了重大变化。作为交易的一部分，谷歌必须成立人工智能伦理委员会，目标是确保对人工智能这项技术的明智使用。”2015年，由Skype联合创始人塔林、物理学家霍金、SpaceX和特斯拉创始人马斯克等创立的未来生命研究所发表《为稳健性和利益性的人工智能而进行研究》的公开信，提出“我们的人工智能必须只做我们要它们做的”，即“有益的人工智能”（BeneficialAI）的口号。2017年1月，在加利福尼亚州阿西洛马举行的“为了人和人类利益的人工智能”会议上，近千名人工智能和机器人领域的专家，联合签署了阿西洛马人工智能23条原则，呼吁全世界在发展人工智能的同时严格遵守这些原则，共同保障人类未来的伦理、利益和安全。问题是这些仅是抽象的原则能否形成世界性的普遍共识，又如何化为具体的操作准则；况且，这些原则在人类社会都难以实现，又何况人工智能呢；若有违背，又如何处理。无论如何，人工智能的伦理、安全问题已引起了科学家的高度关注和业内外的严肃讨论。

除一般意义上各领域都要面对的伦理问题之外，人工智能介入教育过程也会产生一些伦理问题。例如：人工智能应用于教育必然会使用大量的敏感数据，个人隐私如何保障。“学生家长、教育专家长期以来对未成年人的隐私保护和对学生的学业追踪带来的后果忧心忡忡，因为这是限制学生未来发展机遇的潜在威胁。大数据不但会放大这些问题，还会改变它们的本质。”现在已经推出了高度智能而且能不断自我更新的儿童陪伴机器人、教育机器人，越来越多的教育类、护理类、服务类的机器人在看护孩子、老人和病人，这些长时间交互，儿童的依赖和行为的变异已经明显。由于人工智能缺乏必要的价值反省和自觉，参与教育、陪伴的人工智能有可能会走向另一方面，“在硬币的另一面，微软聊天机器人TAY在推特上玩耍了24小时，就学会满口脏话、种族歧视、性别歧视，这倒是非常的‘美国特色’”。2016年3月，微软公司在美国的Twitter上上线的聊天机器人Tay在与网民互动过程中，成为一个集性别歧视、种族歧视等于一身的“不良少女”。随着算法决策越来越多，类似的歧视也将越来越多。因此，如何从伦理上看待这些问题，这些是否符合教育的价值追求成为新问题。习近平总书记强调，“要整合多学科力量，加强人工智能相关法律、伦理、社会问题研究，建立健全保障人工智能健康发展的法律法规、制度体系、伦理道德。”可见，伦理选择和重建是人工智能时代的教育面临的重要任务。“只要未来人类依然想着与其他智能体的无碍交流，那么，构建出一个人类与机器人共同认可的伦理规范将是必经之路。”

受制于技术发展和时代进程的限制，目前尚很难对人工智能时代教育的存在状态做出清晰准确的回答。本文与其说是回答，倒不如说是一种面向未来的、从更本源的角度对人工智能时代的教育进行的敞开、反思和追问，以揭示教育将面临的深层困惑和可能的选择。“不管你对于人工智能的感觉如何，无可否认的是，它开启了一个充满可能性的世界。”面对这个充满可能性的世界，盲目的乐观和悲观都无济于事，我们在积极推进教育智能化的同时，也应该保持审慎和理性、尝试和反思、有限运用和多角度思考的态度，在发展中解决问题。“教育信息化的潮流不可阻挡。我们要用发展来解决发展中的问题；应当从理念、技术、方法层面，逐步研究、探索，解决已有的问题，兴利除弊。”

--end--

声明：本文章由网友投稿作为教育分享用途，如有侵权原作者可通过邮件及时和我们联系删除：freemanzk@qq.com