2025年12月27日，计算机科学与技术学院在哈尔滨工程大学21号楼4017会议室成功举办智汇论坛第三十六期学术活动。本次活动邀请香港理工大学电机及电子工程学系副主任，理大智能系统安全与隐私技术研究中心主任，ACM、IEEE和CCF高级会员，ACM中国SIGSPATIAL分会执行委员，IEEE TKDE, TIFS, 和ACM TOPS的编委胡海波教授，为师生作“揭秘机器学习中的模型隐私：理论与实践”的专题报告，并与现场师生进行了深入学术交流与探讨。
近年来，机器学习，特别是大型语言模型（LLM）的飞速发展，彻底改变了众多领域。然而，机器学习系统也可能面临模型隐私威胁，即模型提取攻击。攻击者通过精心构造查询语句来复制目标模型，并利用这些查询-输出训练一个能够模拟目标模型行为的代理模型。基于提取出的代理模型，攻击者可以进行后续攻击，例如生成对抗样本。本次报告将首先介绍模型提取攻击的概念，然后将介绍一些关于模型提取攻击的理论与实践以及防御方案的最新研究成果，特别是针对大型机器学习模型的研究。最后将阐述该领域目前面临的一些挑战。
主讲人简介：
胡海波，香港理工大学电机及电子工程学系教授，系副主任，理大智能系统安全与隐私技术研究中心主任，ACM、IEEE和CCF高级会员，ACM中国SIGSPATIAL分会执行委员。主要研究领域为对抗机器学习、隐私保护、大数据管理等。作为项目负责人主持多项国家自然科学基金（含重大研究计划）、香港研究资助局及香港创新科技署创新及科技基金项目，总额折合超过3000万港币。拥有6项美国专利、2项中国专利和2项香港专利。在国际数据库、人工智能和安全领域顶级会议和期刊，包括ACM SIGMOD，KDD，TODS，IEEE S&P，INFOCOM，WWW，ACL等发表200余篇学术论文及专著章节。担任DSPP 2025，EAI SPNCE 2023，ChinaPrivacy 2023等五次国际国内会议程序委员会共同主席，参与组织了PAKDD 2026，IWAIT 2022，ACM SIGSPATIAL 2020等十余次国际会议，担任AAAI 2026等会议的领域主席或资深程序委员，以及八十余次国际会议如ICDE，VLDB等程序委员会委员。目前任IEEE TKDE，TIFS，和ACM TOPS的编委。胡海波博士曾获得日内瓦国际发明展银奖、IEEE MDM 2019、IJCAI-FL 2019和IWAIT 2021等3项国际会议最佳论文奖、IEEE ICDE 2020和VLDB 2018最佳评审奖、微软Imagine Cup等多项奖励及荣誉。