EN

人工智能伦理与
可持续发展研究中心

北京智源人工智能研究院人工智能伦理与可持续发展研究中心重点开展人工智能伦理的技术研究,旨在低风险、高安全、符合道德伦理的人工智能技术模型、人工智能风险检测等方面取得一系列创新性成果,降低人工智能发展过程中可能存在的技术风险、伦理隐患,确保人工智能科技创新向对社会有益的方向稳健发展,推动北京国家新一代人工智能创新发展试验区建设,促进北京成为负责任的人工智能创新发展的全球典范。
首页 科研 研究中心 人工智能伦理与可持续发展研究中心

研究方向

  • 面向伦理安全的AI模型与平台研究

    高安全性机器学习模型与平台

    本项目以提升深度学习模型在对抗攻防条件下的鲁棒性为目标,深入研究深度学习模型对抗样本的生成机理,建立面向深度学习统一的对抗攻击和防御理论框架,研制面向深度学习对抗攻防的算法平台,推动新一代鲁棒深度学习模型的算法研发。


    基于类脑脉冲神经网络的对抗攻防研究 > 

    该项目从内部组成、学习方法、框架构成等多个方面,对不同的类脑脉冲神经的鲁棒性进行研究,设计并实现脉冲神经网络对抗攻击框架,促进类脑脉冲神经网络的对抗攻防算法在理论和实际应用方面的进一步发展。


    伦理道德的类脑自主学习模型 > 

    该项目探索如何构建受脑启发的具备自我感知和建模、对他人感知和建模能力的智能体,以及智能体在复杂场景下如何进行更安全和更道德的行为决策,为未来构建更加符合人类伦理道德规范的智能体奠定基础。


  • 数据安全及隐私保护研究

    面向数据安全和隐私保护的AI基础平台 > 

    该平台可实现采集安全、传输安全、存储安全、访问安全、隐私安全、主权明确等功能,做到数据不泄漏、使用可追溯、行为可审计、隐私有保证,明确数据主权,用户可撤销,有效解决数据安全和个人隐私问题,促进行业健康发展。


    《数据安全与隐私最佳实践》白皮书 > 

    白皮书结合当前AI技术应用典型场景需求,对隐私和数据风险进行场景化分析,构建比较完善的隐私保护和数据安全合规分析路径,同时结合行业特点对典型场景下数据安全风险进行分析并给出应对方案,可供行业参考借鉴。


    企业级AI数据分级规则、标准指南与最佳实践 > 

    该项目针对数据多样、种类繁多、规模巨大以及用户隐私难管理、易泄漏等问题,梳理研究国内外企业级AI数据分级规则、标准指南与最佳实践,同时梳理研究相关的AI数据安全与隐私保护机制,树立行业标准,起到示范作用。


  • 面向可持续发展的人工智能(AI4SDGs)

    面向可持续发展的人工智能智库 > 

    联合国可持续发展目标(Sustainable Development Goals,SDG)于2015年正式通过,旨在从2015年到2030年间以综合方式彻底解决社会、经济和环境三个维度的发展问题,转向可持续发展道路。AI是能够改变社会的颠覆性技术,也是能够推动社会进步的使能技术。智源研究院联合北京大学、清华大学、中国科学院相关机构的学者,邀请对采用人工智能实现可持续发展有共同愿景的企业作为共同发起单位,于2020年6月成立面向可持续发展的人工智能智库,推动面向可持续发展的人工智能研究。


    面向可持续发展的人工智能公益研究计划 > 

    2020年6月,智源研究院联合小米、百度、旷视、滴滴等IT企业,发布面向可持续发展的人工智能公益研究计划(AI4SDGs Research Program),面向全球发布首批项目申请。公益研究计划报告类项目产出的研究报告全部公开发布,程序系统类课题产出的AI系统全部开源开放,以最大的可能性推动公益研究计划成果的全球共享。