当前位置: 首页 > 学术活动 > 正文
迭代投影学习:宽度学习系统的高效鲁棒训练模型
时间:2021年06月04日 19:14 点击数:

报告人:王健

报告地点:腾讯会议ID:889 864 8458

报告时间:2021年06月07日星期一14:00-15:00

邀请人:徐东坡

报告摘要:

宽度学习系统(BLS)由于其简洁的模型结构和高效的增量学习算法而受到广泛关注,在特定问题中的表现,可以有效替代当下流行的深度学习模型。经典BLS能够通过广义逆的岭回归方法快速完成训练,然而,对于大数据处理和大型网络训练,BLS将不得不面对昂贵的大型矩阵的求逆计算。为此,本报告尝试基于目前最新的迭代最小二乘算法随机扩展Kaczmarz法(REK),提出一种高效鲁棒的BLS训练模型。首先,提出了无需计算广义逆的迭代投影学习模型,该模型适用于批处理和在线学习模式,同时能够通过增量学习动态调整网络结构。由于REK能够在最小范数的方向上收敛于最小二乘解,因此获得的模型期望在无需额外正则化的前提下获得更好的泛化能力。这一特性也使得模型对超参数的设置更加鲁棒,并能够在增量学习过程中保持稳定的性能。此外,提出了一种离散差分进化的进化宽度设计方法以进一步优化网络结构。数值实验结果表明,提出的方法在效率与泛化能力方面相比基于广义逆的经典方法具有显著优势。

会议密码:115119


主讲人简介:

王健,中国石油大学(华东)副教授、博士生导师。现担任“跨媒体大数据”联合实验室主任、山东省能源工业大数据发展创新实验室副主任、山东省数学会理事,IEEE 高级会员,IEEE Transactions on Neural Networks and Learning Systems和International Journal of Machine Learning and Cybernetics副主编,Neural Computing and Applications和Complex & Intelligent Systems编委。主要从事嵌入式特征选择模型、智能优化理论、大数据处理等方向研究,在神经网络学习模型、分数阶复值最优化理论、神经网络结构稀疏性及大数据智能学习算法在石油工程等领域中的研究形成了特色和优势,发表学术论文60余篇。主持或参与完成国家自然科学基金青年项目、面上项目,国家自然科学基金重点项目、国家重点研发计划、中石油重大科技合作项目等10余项

©2019 东北师范大学数学与统计学院 版权所有

地址:吉林省长春市人民大街5268号 邮编:130024 电话:0431-85099589 传真:0431-85098237