报告题目:求解线性系统的自适应随机重球动量方法
报告专家:谢家新 北京航空航天大学
报告地点:腾讯会议(会议号:696551138; 密码:230619)
报告时间:2023-6-19, 14:30-15:30
报告摘要:
随机重球动量(简称为SHBM)算法已成为一种具有可扩展性的解决大规模优化问题的方法。然而,该方法的一个局限性在于其依赖于某些问题参数的先验信息,如矩阵的奇异值等。在本次报告中,我们将介绍一种自适应的SHBM(简称为ASHBM)方法,用于解决使用用户定义分布从线性系统重构的随机问题。ASHBM方法利用迭代信息来更新参数,解决了关于动量参数自适应学习文献中的一个开放性问题。我们证明了ASHBM方法在期望意义下线性收敛,其收敛速度比基本方法更快。值得注意的是,ASHBM方法的确定性形式可以被看成是共轭梯度(简称为CG)方法的一个变体,继承了CG方法许多吸引人的特性,如在有限时间里收敛。因此,可以对ASHBM方法做进一步推广,建立一种全新的求解线性系统的随机共轭梯度(简称为SCG)方法的框架。我们的理论结果得到了数值实验的支持。本研究是与韩德仁教授、曾韵和苏宴生的合作, arXiv链接:https://arxiv.org/abs/2305.05482.
报告人简介:
谢家新, 北京航空航天大学数学科学学院副研究员, 硕士生导师, 中国运筹学会数学规划分会青年理事。2012年和2017年于湖南大学数学学院分别获得学士和博士学位, 2017-2019年于中国科学院数学与系统科学研究院从事博士后研究, 合作导师许志强研究员。研究兴趣为数据科学中的数学问题, 特别是压缩感知、随机优化算法和子集选择等问题。主持北航青年拔尖计划和国家自然科学基金青年等项目。
作者:吴念慈;编辑:胡军浩;审核:胡军浩;上传:郭敏。