近日,智源研究院联合北京大学人工智能研究院、清华大学人工智能研究院、清华大学人工智能国际治理研究院、中科院自动化所、中科院计算所、中科院心理所等高校院所,以及小米、旷视、奇虎360、好未来、爱学习、极客邦、新一代人工智能产业技术创新战略联盟等人工智能企业和联盟组织,共同发布了我国首个针对儿童的人工智能发展原则《面向儿童的人工智能北京共识》。

近年来随着在线课程、游戏娱乐和社交软件等产品的日益普及,儿童能够接触并使用的人工智能的场景越来越多。作为特别需要关爱的群体,儿童在接受使用AI产品与解决方案时,存在一定的特殊性与被动性,可选择能力差,对风险和隐患识别的能力严重不足。此外,当下诸多人工智能产品在开发、使用和售后服务方面,针对数据保护、授权范围、隐私安全等问题的重视程度仍有待提升,对用户群体尤其是儿童用户的关爱与考虑不足,将对其健康成长产生一定程度的负面影响。


在全球范围内,目前非常缺乏与儿童有关的人工智能伦理原则,因此有必要针对儿童这一特殊群体接触使用的人工智能技术产品加以伦理研究和规制,帮助相关企业避免潜在风险、以保障未成年人的健康成长。此番《面向儿童的人工智能北京共识》一经发布,便收获教育、科研、产业各界的广泛关注:


热烈祝贺《面向儿童的人工智能北京共识》的发布。这是中国人工智能发展轨迹中的一份关键文件,也是中国在论述如何利用人工智能的力量造福全人类中受欢迎的补充。国际间在儿童与人工智能相关的研发、设计、使用与共存方面的努力会因为有了中国的参与而变得更加有效。现在,我们比以往任何时候都更加必须团结一致,以确保人工智能符合所有人的道德和安全要求,而中国在使人工智能成为全球共享的现实中可以发挥重要作用。我真诚期待继续与我的中国朋友和同事合作,通过人工智能使世界更美好。

——Danit Gal  联合国技术顾问,人工智能主任(Technology Advisor and AI Lead, The United Nations)


非常欢迎《面向儿童的人工智能北京共识》:我们一直都知道,“儿童是人类发展的希望”,但到目前为止,我们并没有采取措施,努力保护他们,特别是AI,这就像我们在生活的几乎所有其他方面都做的一样。这项共识正在就此破冰。《面向儿童的人工智能北京共识》的这一部分列举了一些重要价值观,从尊严和公平到隐私。关于后者,收集关于儿童的信息应遵循“合法、正当和必要”的原则,确保监护人的知情同意,避免非法收集和虐待儿童的信息,很可惜这与如今的现实相去甚远。在这些原则的基础上,我们现在可以推动政策变革!值得庆幸的是,共识还概述了通过“多方利益相关方治理”改善政策的道路。

——Vincent Müller  荷兰爱因霍芬理工大学教授,艾伦图灵研究所研究员,全球人工智能伙伴关系(GPAI)AI伦理专家组成员


《面向儿童的人工智能北京共识》是人工智能伦理界受欢迎的贡献。儿童在很多方面都是易被人工智能系统操纵和利用的最弱势的群体,因此也应得到最强有力的保护。

——Max Tegmark  麻省理工大学教授,阿西洛玛人工智能原则发起者


《人工智能北京共识》是精彩的第一步,因此,这次看到《面向儿童的人工智能北京共识》应用在保护儿童免受人工智能滥用和鼓励人工智能应用以改善儿童生活的应用中得到充实,确实令人振奋。祝贺所有参与者,祝贺中国在人工智能伦理方面取得的令人兴奋的进展。

——Wendell Wallach  耶鲁大学研究员,黑斯廷中心高级顾问


我很高兴能够见证面向儿童的人工智能共识在亚洲诞生。

——Toyoaki Nishida  日本京都大学教授,日本人工智能学会前会长


感谢来自人工智能学术和企业界对儿童的关爱。对儿童发展负责任的科技创新是促进人类长远发展的源动力,中科院幼儿园一直以儿童教育的时代性、科学性、艺术性为出发点和着力点,致力于推进科教融合发展,为国家的发展从儿童起培养适应未来的人。期待与人工智能科技界的互动,倡导人工智能的善用,用科技助力儿童健康成长。

——中国科学院幼儿园园长 王春菊


感谢人工智能学术和企业界联合起来对孩子们的未来发展注入动力。北大附小一直以来着眼孩子们全面而有个性的发展,主张用科学技术为教育教学创新赋能。学校开设了智能机器人、单片机、创客、程序设计等必修和选修课程,学生获得了包括机器人世界杯冠军、全国青少年机器人大赛金牌等多项国际和全国大奖。近年来,我们的人工智能课堂探索也逐渐走向深入。期待与人工智能科技界携起手来,用科技助力孩子们健康快乐成长。

——北京大学附属小学校长  尹超


好未来作为智慧教育国家新一代人工智能开放创新平台的承建单位,十分关注人工智能伦理与边界,此次非常感谢北京智源人工智能研究院的邀请,有幸参与到《面向儿童的人工智能北京共识》的探讨工作中来。好未来将积极参与《面向儿童的人工智能北京共识》的制定与实践,未来也将在《面向儿童的人工智能北京共识》指导下,在智慧教育领域善用人工智能的力量。

——好未来技术体系副总裁  李非


教书育人是一个社会、文明可持续发展的引擎,它将过去的文化、经验、知识传授给下一代,让他们成长为推动文明前进的中流砥柱。从传统的私塾教育到后来的学院教育,再到今天结合了多媒体、互联网、AI等丰富形式和内容的教育模式,我们的教育模式正面临着前所未有的变革与挑战。如何认识、理解并优化这些技术在教育相关场景的规范与应用,让其真正服务于我们下一代的健康成长,是旷视以及相关方面必须直面回答的议题,也是整个时代的责任。旷视高度赞同《面向儿童的人工智能北京共识》的发布,面向儿童的“AI+教育”是全球可持续发展的关键一环,旷视始终致力于可持续发展的AI研究,今后将持续与北京智源人工智能研究院、北京市科委以及任何真正关注儿童教育的机构、组织展开积极合作,确保我们的下一代能够健康、快乐地成长。

——旷视科技人工智能治理研究院院长  徐云程


儿童是人类的未来,AI代表着科技进步的未来。如何让每一位儿童更健康、更快乐、更安全地成长,是我们每一个人的使命,也寄托着每一位家长的深情期待。人工智能,若善加利用,可以帮助保护儿童的身心健康,促进儿童的快乐成长,为每一位儿童提供公平公正的社会环境。三六零作为国家新一代人工智能安全开放创新平台的承建者,高度赞同《面向儿童的人工智能北京共识》的倡议,将一如既往地坚持“让世界更安全更美好”的使命,并积极参与到AI For Children工作组的各项活动中,继续发展对下一代负责任的人工智能技术和产品,为儿童打造温情的人工智能。

——三六零集团副总裁、人工智能研究院负责人  邓亚峰


《面向儿童的人工智能北京共识》的发布,是北京智源人工智能研究院继《人工智能北京共识》之后的又一力作,从最基础的伦理与道德的角度,鼓励人们对儿童的关注和关爱,努力为他们营造一个安全可信赖的环境。极客邦科技自成立以来就非常注重IT技术对儿童的影响,从五年前就通过Tech4Kids这样的活动吸引小朋友参加,并通过各媒体的宣传,鼓励家长和儿童一起参与,包括对编程的了解,对人工智能知识的了解等。科技发展的趋势不可避免,更好的方式不是逃避,而是拥抱它。极客邦科技高度赞同《面向儿童的人工智能北京共识》的倡议,未来也将在共识的指导下,为儿童及青少年提供更多更加有益的人工智能技术教育服务。再次祝贺成功发布!

——极客邦科技创始人兼CEO  霍泰稳


此次疫情期间的互联网授课,为孩子们展示了一个前所未有的学习模式,也看到了互联网应用的巨大前景。但因为孩子的自控能力很差,而相关企业又没有限制这些标准,很多家长也很担心孩子会沉溺网瘾。不仅针对中国家长,这应该是一个世界性的话题。为此,欧盟、日本、英国之前都已经出台了人工智能伦理的相关规范,这一次我们看到的《面向儿童的人工智能北京共识》,是对上述问题,对儿童保护,乃至对整个互联网未来伦理提出了一个“北京方案”。总之,为人工智能加上一个伦理规范,是未来人工智能发展的基石。

——北京电视台《首都晚间报道》




《面向儿童的人工智能北京共识》中文版


《面向儿童的人工智能北京共识》英文版