生成式人工智能安全

主讲人：任文琦 中山大学教授

时间：2026年10月28日14：00

地点：奉贤校区科技楼B座101室

举办单位：信息与机电工程学院

主讲人介绍：任文琦，中山大学网络空间安全学院教授、博士生导师，信息技术教育部重点实验室副主任，研究图像处理、计算机视觉与人工智能安全。在CCF-A类和中科院一区发表论文100余篇，Google学术引用3万余次，入选科睿唯安、爱思唯尔高被引学者等榜单。多次担任CVPR、ICCV、ICML、ICLR、NeurIPS等国际会议领域主席，任IEEE TIP编委。主持国家自然科学基金优青及联合重点项目，以及华为、腾讯、美团等企业项目。获中国计算机学会优秀博士学位论文奖、吴文俊人工智能优秀青年奖和多个自然科学一等奖。

内容介绍：随着生成式人工智能快速发展，大模型在赋能产业的同时，面临模型输出“不可控”、智能体执行“不可靠”、生成内容“不可信”三大安全挑战。报告将从大模型攻防对抗评测、智能体交互执行安全和AIGC生成真伪鉴别三个维度展开讨论：介绍多模态大模型跨模态风险分散越狱攻击与多粒度安全评测；探讨多智能体协作中的群体从众效应、恶意注入传播机制和具身任务安全规划；并介绍针对图像压缩干扰与语义依赖问题的生成图像检测技术，梳理相关安全挑战与最新研究进展。