报告时间:4月9日(周三)上午9:30-11:00
报告地点:8-1控制大厅三楼会议室
报告人:苏航
主持人:徐国盛
报告内容简介:
物理信息驱动的机器学习(PIML)通过深度融合物理规律的先验知识与数据驱动方法,在偏微分方程(PDEs)求解领域展现出显著优势。本报告围绕物理信息驱动的PDE求解方法,分别从算子设计、预训练模型构建以及评测基准建立三个方面展开研究。首先,在算子设计方面,我们提出了通用神经运算符变换器(GNOT)和非均匀神经运算符(NUNO)。其中,GNOT创新性地采用基于Transformer结构的掩码重构机制,并结合多编码/解码头与通道注意力机制,可有效处理具有不同几何结构、分辨率和物理变量的多样化数据,灵活适应不规则网格和多尺度场景。NUNO则针对非均匀数据分布的特性,提出了一种高效的算子学习方案。在预训练模型构建方面,我们针对PDE数据集普遍存在的数据稀缺、轨迹较长且维度变化大的现实挑战,设计了一种基于傅里叶注意力(Fourier Attention)的自回归去噪预训练策略,构建了规模高达10亿参数的偏微分方程基础模型(PDE Foundation Model),实现了在超过10个不同类型PDE数据集、总计10万余条轨迹上的稳定、高效预训练,并在典型应用场景中取得了当前业界领先(SOTA)的泛化性能。最后,我们建立了PINNacle评测基准,提供统一、公平的评测体系,以系统化地衡量不同物理信息神经网络(PINNs)方法在处理复杂PDE问题时的效果,为科学机器学习方法的后续发展提供重要的技术支撑与规范化工具。
报告人简介:
苏航,清华大学计算机系副研究员,入选国家“万人计划”青年拔尖人才,主要研究鲁棒机器学习和具身决策等相关领域,发表CCF推荐A类会议和期刊论文100余篇,谷歌学术论文引用15000余次,受邀担任人工智能领域顶级期刊IEEE TPAMI和Artificial Intelligence的编委,IEEE生成式大模型安全工作组主席,获得吴文俊人工智能自然科学一等奖,ICME铂金最佳论文、MICCAI青年学者奖和AVSS最佳论文等多个学术奖项,曾率队在NeurIPS2017对抗攻防等多个国际学术比赛中获得冠军。现任中国图像图形学会青工委执委、曾任VALSE执行AC委员会主席,NeurIPS21的领域主席(Area Chair)、AAAI22 Workshop Co-Chair等。