（通讯员 张旭鹏）受我院微波与光电集成系王超老师的邀请，南洋理工大学曾积丰教授于2024年7月5日上午做客第268期光电信息大讲堂，在光电信息大楼C111会议室作了题为《边缘深度神经网络的安全性》（Security of Edged Deep Neural Networks）的学术讲座。此次学术报告由华中科技大学光学与电子信息学院和IEEE CASS-EDS-SSCS武汉联合会联合举办，吸引了来自光学与电子信息学院、集成电路学院、网络安全学院、电子信息学院、计算机学院以及武汉光电国家研究中心等单位的众多老师和学生参加学习。
图1|曾积丰教授作题为“边缘深度神经网络的安全性”的学术讲座
曾积丰老师的主要研究方向硬件安全、人工智能安全、生物特征安全、可信感知和用于后量子密码学和边缘计算智能的硬件加速器。此次报告中，曾老师针对深度神经网络的漏洞及相关攻击与对策进行了深入探讨。他探讨了深度神经网络面临的脆弱性问题，以及数字和物理逃避攻击所面临的限制。在讲座中，曾老师列举了几种典型的攻击方式，包括了针对边缘DNN的强健且隐蔽的故障注入攻击、相机数据通道的中间人攻击和基于数据增强的干净标签后门攻击。为了应对这些攻击，讲座还介绍了两种重要的对策措施，给在座师生们留下了深刻的印象。曾积丰教授团队开发了边缘DNN的输入逃避攻击检测器，旨在及时发现和识别针对边缘DNN的逃避攻击。其次，针对盗版检测，该团队也提出了DNN指纹识别技术，通过对模型进行指纹识别，可以有效地检测和防范知识产权的侵犯。
图2|曾积丰老师介绍AI模型知识产权攻击的发展与演变
在交流互动的环节，曾老师与在座的师生们就人工智能时代硬件安全的相关问题展开了深入的讨论，让参会的老师和同学们都深受启发。
图3|曾老师和同学们进行热烈地交流和讨论
曾积丰（IEEE会士）是新加坡南洋理工大学电气与电子工程学院的教授，IEEE, IET和AAIA的会士。他曾担任南洋理工大学电气与电子工程学院校友助理主任、高性能嵌入式系统中心副主任以及集成电路与系统中心项目主任。他共同编辑了六本书，发表了13篇书籍章节，超过120篇国际期刊论文（其中80多篇属于IEEE会刊），以及约200篇经同行评审的国际会议论文（大部分属于IEEE学术论文）。他目前的研究兴趣包括硬件安全、人工智能安全、生物特征安全、可信感知以及用于后量子密码学和边缘计算智能的硬件加速器。他发表了60多个主题演讲、全体大会、教程和邀请研讨会。曾教授获得了2022年硬件安全杰出贡献VISTA奖。他目前担任IEEE Emerging and Selected Topics in Circuits and Systems（JETCAS）的高级编辑委员会成员，IEEE Transactions on Information Forensic and Security（TIFS）的高级领域编辑，以及IEEE Transactions on Circuits and Systems-I（TCAS-I）和IEEE Transactions on Very Large Scale Integration（TVLSI）Systems的副编辑。他在80多个国际会议（大部分为IEEE）的组织和技术程序委员会中担任重要职务。他是2018-2019年IEEE CASS杰出演讲者，国际人工智能产业联盟（AIIA）世界顶级产业科学家的成员。
