网站首页 实验室介绍 科学研究 学术交流 人才队伍 开放课题 招聘信息 联系我们
实验室新闻

 
 
 实验室成功举办“人工智能系统安全”技术交流活动

2020-09-03 11:15:53


      近日,高效能服务器和存储技术国家重点实验室(以下简称“实验室”)在线上举办了“人工智能系统安全”技术交流活动。活动邀请到山东大学网络空间安全学院郭山清教授,就人工智能模型保护和安全验证等问题展开交流,吸引了120余名科研技术人员参与讨论。

      分享环节,郭教授首先介绍了近年来国际上关于AI安全的政策、举措,人工智能和网络空间安全已经成为大国博弈的重点。郭教授指出,随着AI系统规模和复杂性的增长,真正可靠的人工智能需要可解释的人工智能,尤其是在高风险应用如无人驾驶、机器人、金融风控、医学诊断、安全认证等领域,模型的可解释性尤为重要。基于此,郭教授详细介绍了研究团队在深度学习模型版权保护、安全验证、对抗样本检测、神经网络鲁棒性验证等方面进行的思考和取得的进展,为AI模型安全性研究提供了具有前瞻性的思路。

      分享过后,郭教授和与会人员继续围绕“算法透明度”、 “黑白盒攻防”、“AI基础设施安全”等问题展开了深入热烈的讨论。

      近年来,人工智能逐渐成为新一轮技术变革的核心,在拓宽传统产业格局框架的同时,也重塑了安全的防线边界,传统的安全防御已无法应对新时代的挑战——不仅要面对曾经的云、管、端的安全问题,机器学习算法自身的安全性亦存在漏洞和现实威胁性。本次技术交流活动对AI系统的模型保护和安全验证问题进行了深刻剖析,切实立足于研发人员对AI安全的实际研究需求,为AI模型安全性研究提供了具有前瞻性的思路。同时,实验室致力于整合各方资源,推动产学研密切协作交流,共同探索与建设安全的AI时代。

 

[ 字体大小: 14 12 9 ] [ 打印]

高效能服务器和存储技术国家重点实验室 | 联系我们 | 京ICP备12012807号-3
© 2016 Hsslab