EN
2022年03月24日研究成果

具有可认证鲁棒性的图神经网络对抗免疫策略

沈华伟团队

       图神经网络模型在图表示学习、节点分类、链路预测等任务上取得了很大的成功。然而,和其他深度神经网络模型一样,图神经网络模型同样容易遭受对抗攻击。现有方法主要着眼于如何提高图神经网络模型抵御对抗攻击的能力,陷入攻击和防御之间永无止境的猫鼠游戏。中科院计算所研究员、智源青年科学家沈华伟团队跳出从模型层面提升抗攻击能力的传统思路,着眼于从网络数据层面探讨对抗攻击的免疫策略,提出了图神经网络模型的对抗免疫策略(AdvImmune),通过对一些边或节点对进行免疫(禁止部分边的增加或删除),使得任意基于结构改变的对抗攻击对攻击目标节点都失效,实现一种“可认证”的鲁棒性。在多个真实数据集上的实验表明,通过免疫少数边(约5%)即可提升大量(40~60%)节点的“可认证的”鲁棒性——抵御任意可能攻击的能力。该工作从数据层面开展对抗免疫策略研究,区别于传统的对抗攻击和防御的研究范式,是一种新的尝试。


图片1SHENHUAWEI.png

(图片来源:学者提供)

分享到: