2024年国际表征学习大会(International Conference on Learning Representation,简称ICLR)在奥地利维也纳召开,赢博手机入口,赢博(中国)信息与电气工程学院2021级人工智能专业本科生饶全瑞的研究论文《Rethinking CNN’s Generalization to Backdoor Attack from Frequency Domain》(第一作者:饶全瑞;指导教师:刘伍颖)被大会接收并作大会现场展示。
论文聚焦深度学习模型中的后门攻击问题,从频域角度重点研究了卷积神经网络(CNN)记忆后门样本的机理,发现CNN可以通过记忆触发器改变频域分布进而对中毒样本进行泛化。论文针对触发器在不同频率产生的扰动对模型泛化的帮助做了进一步研究,提出了一种通用的可见触发器隐形策略,设计了一种基于低频语义信息的频域后门攻击方法。论文在构建安全可靠的AI系统和保护模型、数据集知识产权方面具有重要实践意义。
国际表征学习会议是机器学习领域的国际顶级会议之一,自2013年开始每年举办一次,在人工智能、机器视觉、语音识别、文本理解等重要应用领域中发布了众多有重大影响力的论文,获得了国际学术研究者的高度认可。(信息与电气工程学院 通讯员:陈天)