深度学习安全的数学理论

2023-11-03
Speaker: 高小山研究员，中国科学院数学与系统科学研究院
Title:
 深度学习安全的数学理论
Time & Venue:
 2023年11月15日10:30-11:30，N204
Abstract:
 深度学习是近年来人工智能众多重大突破的核心工具。但是，深度学习在训练与使用阶段都存在安全隐患这使得将深度学习用于安全攸关任务存在极大风险，呱需发展深度学习安全的数学理论。本报告将介绍建立深度学习安全数学理论的一些尝试。我们首先介绍对抗深度学习的数学理论的一些进展，包括对抗鲁棒 DNN 的存在性与计算复杂性，通过 Stackelberg 博弈给出具有最优对抗鲁邦性的 DNN以及信息论意义下对抗安全的偏置分类器。其次，我们考虑发生在训练阶段的数据投毒的数学理论，包括基于博弈论的最优投毒方法以及深度学习对抗训练的平均稳定性泛化界估计。