新闻 | 产业

AI技术是“潘多拉盒子”?探讨AI教育的伦理问题

日期:2017-09-05    来源:芥末翻    浏览:9560    评论更精彩

编者注:过去五周,芥末翻连载了培生AI+教育的研究报告,在肯定人工智能的优势和巨大潜力的同时,报告提出了一些有争议的话题,包括人工智能与人类和真实世界的关系,人工智能在道德伦理上面临的挑战等,...
AI技术是“潘多拉盒子”?探讨AI教育的伦理问题
 
  AI 会取代人类吗?
 
  一些科学界人士担心AI是个“潘多拉盒子”,会导致危险的后果。早在1993年,计算机科学家Vernon Vinge推广了技术新概念: AI驱动的计算机或机器人能重新设计并改进自身,或者能设计比自身更先进的AI。自然有人认为,这将导致AI超出人类智慧、理解和控制,从而导致人类时代的终结。近来,史蒂芬·霍金和其他权威科学家,包括Stuart Russell, Max Tegmark, 和 Frank Wilczek 同样警告过,AI太过“聪明”的潜在后果。
 
  这个令人忧虑的想法给好莱坞电影提供了素材,从60年代的《2001太空漫游》,到80年代的《终结者》系列及近期的《超验骇客》,所有电影都选择描述各种失去控制的AI主导的反乌托邦世界。
 
  但在我们太过担忧之前,需要说明一下人工智能当前的水平。如果实现,首先“全能AI”必须实现重大进展,即可以AI机器人可以成功胜任所有人类胜任的智能任务。而现在,该AI技术根本还未实现。通用AI不同于我们大多数人熟悉的“领域特定AI”。这些领域特定AI专注于一件事情——例如,掌握国际象棋(Deep Blue或Giraffe),或者Go(谷歌的Deep Mind)、驾驶汽车(谷歌的自动驾驶)、或护照照片人脸识别。即使是知名的AI倡导者也认为,Vernon Vinge提出的新观点在未来某天终会到来, 通常在他们写出程序后的三十年左右。
 
  然而,AI越来越发达,它已经对我们的经济产生了深远影响。在2013年的一项研究中,经济学家 Frey 和 Osborne 使用AI技术探索自动化对职业影响的研究。基于他们的预测,美国职场上约47%的职位面临极大的风险,可能在接下来的十年或二十年将会被机器 取代。迄今为止,中等收入职位受到的影响最大,也体现了当下最易受自动化影响的工作内容。
 
  对于过去经济发展过程中出现的重大变革(例如,从农业为主的经济转变成工业经济),人们通过改变教育和学习的范围和内容逐渐适应。这种观点是,如果“工人有灵活的技能,如果教育基础设施得到充分发展,那么...技术和教育之间的竞争没有胜利者,成果将会被更多人共享”。
 
  在快速发展的AI面前,这种方法是否适用值得商榷。历史证明,技术的改变通常会带来很多无法预料的新角色。而其他人,如Martin Ford认为随着自动化承接越来越复杂的任务,工作机会会减少,无法保持当前的就业率。
 
  AIEd的伦理问题
 
  人工智能(AI)的发展正在加速,渗透到我们生活的每一方面。问题在于,我们是否已准备好可控制的情况下让此发生?正如牛津大学的哲学家 Nick Bostrum 所论述的,需特别谨慎地关注 AI 的伦理问题:“责任、透明性、可审计性、防破坏性、可预测性 (...);必须在旨在取代人类社会功能判断的算法中考虑这些标准”。
 
  例如,如果 AI“出错”(比如,可参见 2010 年金融界“闪电崩盘”事件中算法起到的作用)由谁来承担责任,是最终用户还是程序员?如果交通事故涉及自动驾驶车辆,该怎么处理?能否知晓它是如何做出决定并对其进行修正来防止问题的?如果 AI 使用的是神经网络,这已变得非常困难。而且,AI 是否开放操控?我们都非常清楚电脑黑客行为的后果。如果出于犯罪目的开发或修改 AI,会发生什么?
 
  对于 AIEd,同样存在这些伦理问题。例如,我们知道共享数据对 AIEd 系统的集成至关重要,而且,匿名化数据的共享,通过削减浪费、重复性工作,可促成该领域的飞跃式进步。但这种共享带来了从个人隐私到专有知识产权的大量问题。的确,AIEd 系统所生成的数据越来越多,同时更加多样化,这让现有的教育数据伦理问题风险加倍。AIEd 系统数据生成、分析、解释和使用有什么影响意义?谁持有数据、谁可使用数据,出于何种目的使用数据、谁负最终责任?
 
  另一个需考虑的问题是,AIEd 旨在影响用户的长期行为并对其进行改变。例如,系统可作出建议、进行劝说或提供反馈,使人机之间建立关系。行为改变毫无疑问是一种可能,但这仍没有经过严肃的伦理考虑。
 
  其他担忧则与学习伙伴相关,虽然它们被设计出来的原意是支持学习者学习,但恐怕 “跟随”您的伙伴反而会永久性地记录下学习失败经历,不利于未来的发展。
 
  同样地,AIEd 教学辅助工具的概念也引发了担忧:该技术是否会被教师用作课堂“间谍”来记录和报告学生的不良表现?
 
  因此,我们有责任确保社会能对 AIEd 有充足的认识,使我们以恰当、有效和符合伦理的方式使用这些新技术。
 
  AIEd与真实世界
 
  很多时候,人工智能教育(AIEd)中的“仿真人工”一词造成了该技术在某种程度上脱离我们真实生活的感觉。我们的观点是,AIEd 本质上是人类的真实尝试,在其发展过程中,AIEd 将愈加依赖人类和实体环境,并由此变为学习过程不可分割的组成部分。
 
  1、AIEd 将增强实体环境
 
  增强现实(AR)系统能够支持学习者和教师以不同的方式体验实体世界并与之交互, 从而比智能虚拟现实系统更进一步。AR 技术可展示关于人环境信息的叠加层,使课堂内容叠加到学习者的真实体验中。例如,学习者在周游世界过程中,周围建筑物的年代、建筑风格等都可以随之变化。
 
  我们已经看到现有的 AIEd 系统如何以社交和文化智能,让它们在虚拟环境中引导和支持学习者的。在 AR 系统中增加 AIEd 将促成个人化的自适应教育体验;其中虚拟导师引导学生进行实地考察,而教师将注意力集中到需求最为强烈的学习者身上。
 
  2、AIEd 将与万物网相连
 
  具备内置计算系统、传感器和网络连接的物品及支撑网络被统称为“万物网(IoT)”。IoT 使任何网络支持的物体可与任何其他网络支持的物体相互连接。这为 AIEd 系统开拓了新的可能性,例如,支持学习者形成需要较多一致性练习的运动技能,比如跳舞、演奏乐器、甚至是学习手术技能。
 
  3、AIEd 将理解我们如何感觉及运动
 
  我们如何感觉(情感)和我们如何运动对学习有显著的影响。最近的研究已支持这一观点。这些深入的见解表明,可通过将这些额外信息纳入考虑范围进而改进学习技术。现在,学习者模型已不再仅限于记录和展现学习者的学业进步情况,可佩戴在衣物中或绑在身体部位的传感器(如Fitbit)已经开发出来。
 
  通过采集学习者情绪和生理状态数据的复杂模型,未来的 AIEd 系统将更加支持学习者。这些得到完善的模型将进一步促进学习者的学习,且将向单个教师提供关于学习者的生理和情绪健康状态,并支持其认知发展的实时信息,使教师可以对学习者进行恰当及时的干预。
 
  教师与 AIEd
 
  毫无疑问,在 AIEd 发展的下一个阶段,老师将成为中心点。一方面,老师会成为协调者,决定何时以及如何使用AIEd 工具。同时,AIED 也将提供工具和数据分析,支持老师更好地利用丰富多样的教学资源。
 
  不仅仅局限于此,老师、学生和家长应当在 AIED 教学工具的设计与使用方式上发挥重要作用。共同参与式的设计方式能够确保产品满足老师的需求,比如为现实中混乱的课堂提供支持,而不是技术或设计人员想象的需求。参与产品的设计与研发过程的老师也会有收获,增强其对技术,产品设计,以及AIED 系统的理解。
 
  如前所述,我们认为,引入 AI 支持工具将促使老师进行角色转换。目前我们希望由老师承担的部分工作将由 AIED系统完成,比如对学生的学习进程做标记和记录。 AIED系统会把老师从日常耗费大量时间的重复性工作中解放出来,把更多精力放在创造力、人文关怀上,使学生的学习更上一层楼。伴随着这一转变,教师也需要学习新的技能(可能是由 AIEd 系统提供的职业发展培训)。他们将特别需要:
 
  · 深入理解并评估 AIED 系统,正确判断新的AIED产品的价值;
 
  · 提升研究能力,学会解读数据,从数据中发现问题,并帮助学生解决问题;
 
  · 新的团队合作模式和管理能力,每个老师都会有虚拟的人工智能助手,“他们”负责有效管理资源。
中文网玩具资讯微信二维码

中外玩具网微信公众号

玩具业领先的网络全媒体,唯一被百度、谷歌、搜狗等搜索引擎同时收录的新闻源,为业界提供及时、权威、丰富的行业资讯

相关阅读
一周热文
热点推荐:乐高玩具 芭比娃娃玩具 玩具批发 儿童玩具 玩具 玩具车 芭比娃娃 乐高积木 玩具批发市场 儿童玩具批发 儿童玩具批发市场 钥匙扣 乒乓枪 激光 郑州腾龙 科学实验 刺猬 小智老师 桌面游戏 秋千鱼 洗澡玩具 费雪 玩具 变形 画画 发光球 跳舞毯 星球大战 婴儿床 澄海