2022年6月23日下午14:20，江南(中国)官方第16期“未来计算”学术前沿论坛在腾讯会议（线上）平台隆重举行，学院邀请了南京大学教授、国家杰出青年科学基金获得者、国家“万人计划”科技创新领军人才仲盛教授和浙江大学“百人计划”研究员、国家青年人才计划入选者纪守领教授，分别作主题为“Some Recent Results on AI Security”和“AI Security”的学术报告。本次学术论坛由江南平台副院长郭松涛教授主持。

仲盛教授在本次报告中，从AlphaGo对战世界围棋高手引出了人工智能与安全，然后从机器学习的被动攻击-数据隐私、机器学习的主动攻击-对抗样本、机器学习的后门程序三方面开展报告的介绍。仲教授详细介绍了MLaaS及MLaaS上的隐私泄露的多种问题，包括用户查询信息泄露问题、对抗样本中的攻击方法与主流解决方法、神经网络的后门攻击等内容，仲教授讲解风趣幽默，报告深入浅出，引人入胜。

纪首领教授结合其研究方向和内容展开报告，纪教授首先介绍AI安全的重要性，阐述了数据侧，如图像、声音、文本等领域的安全问题、模型侧的后门攻击，然后介绍了其团队在这些领域进行的研究，之后，纪教授详细描述了对抗攻击的迁移攻击、针对预训练语言模型的后门攻击、针对垂直联邦学习系统的标签推断攻击、活体检测安全性分析等内容。最后，重点介绍了模型鲁棒性与可信模型。纪教授从专业的角度介绍了AI安全领域中的热门研究方向和其进行的研究工作。

江南(中国)官方师生共计140余人参加了本次学术研讨会。最后部分，师生与两位教授就报告及相关问题和技术细节进行了深入交流探讨。通过此次学术报告，相关领域的教师和研究生更加深入的了解了人工智能安全的前沿技术研究及发展方向，鼓舞了学院师生在该领域的研究热情。

报告人简介：仲盛，现任南京大学二级教授、博士生导师，计算机科学与技术系副主任。兼任IEEE Computer Society南京分会主席、ACM南京分会主席。江苏省侨联副主席，江苏省政协委员。国家杰出青年科学基金获得者，国家“万人计划”科技创新领军人才。全国证券标准化技术委员会委员，工信部商用密码应用推进专家委员会委员。兼任多个国内外学术期刊编委。 研究兴趣包括密码学、博弈论及其在计算机网络、分布式系统中的应用。仲盛教授于1996年和1999年从南京大学计算机系分别获得学士、硕士学位，于2004年从耶鲁大学计算机系理论组获得博士学位。曾在美国纽约州立大学布法罗分校计算机系任教多年，2009年获得NSF CAREER Award，2010年提前晋升终身教职。

纪守领，浙江大学“百人计划”研究员、博士生导师、浙江大学党委组织部副部长（挂职）、滨江研究院国产信创研究中心副主任，获佐治亚理工学院电子与计算机工程博士学位、佐治亚州立大学计算机科学博士学位，入选国家青年人才计划。主要研究方向为人工智能与安全、数据驱动安全、软件与系统安全和大数据分析，发表IEEE S&P, USENIX Security, ACM CCS, KDD等CCF A类论文90余篇，研制的多个系统在大型平台上获得部署应用。获国家优秀留学生奖、网络系统安全领域CCF A类会议ACM CCS 2021最佳论文奖等10项最佳论文奖、华为优秀技术成果奖、浙江大学先进工作者等。