近日,国际计算机视觉大会 (IEEE International Conference on Computer Vision, ICCV 2025) 发布录用通知,计算机科学与技术学院研究成果“Boosting Adversarial Transferability via Negative Hessian Trace Regularization”受大会接收。论文研究工作由博士生龙云飞和田梓琳在张立国老师的指导下共同完成。
ICCV是计算机视觉领域最具影响力的国际顶级会议,也是中国计算机学会(CCF)推荐人工智能领域A类国际会议,每两年召开一次。本届会议总计有效投稿11,239篇,接受论文2,698篇,接收率为24%,将于今年10月19日至23日,在夏威夷檀香山举行。
论文成果提出使用损失函数的二阶Hessian Trace作为损失面曲率感知的正则化项。为了提高计算效率,论文引入了一种基于随机估计和有限差分的近似Hessian Trace计算方法。同时,论文从理论和实验上证明,靠近局部损失最大值的对抗样本的Hessian Trace始终为负数。基于此,论文提出了Negative Hessian Trace Regularization(NHTR)以提高对抗样本的可迁移性。实验结果表明,现有的一阶正则化方法相比,该创新方案优化对抗样本至更平坦的损失极大值上,攻击成功率也显著提高。
从注意力关注的可视化效果看,论文提出的方法能将关注区域从目标上逐渐驱离,从而误导识别模型做出错误判断。
此外,作者还针对大型视觉语言模型进行了攻击实验,例如利用本文生成的对抗样本攻击ChatGPT,导致ChatGPT 错误地识别了对抗样本中的鸟类数量。
该论文的研究成果可为智能模型的对抗性测试、视觉目标的智能伪装等任务提供技术支撑。