深度学习的数学理解
Speaker
Prof. Shi-Hua Zhang
Academy of Mathematics and Systems Science, CAS
Email: zsh@amss.ac.cn
Abstract

深度学习特别是深度神经网络作为一种黑箱模型,是通过大量计算实验得到的,其数学原理逐渐引起研究者的广泛关注。本报告将从不同的角度介绍深度学习的数学理解与认识,特别介绍两种初步尝试。第一,从多层卷积稀疏编码模型的编码初始化和字典矩阵设计的角度,分别建立残差神经网络和多尺度密集连接网络与多层卷积稀疏编码模型的等价联系。第二,提出深度学习是在Wasserstein空间学习测地曲线的理论。在维度不变的情况下,刻画深度神经网络所学习到的映射近似最优传输映射,即数据点的表示在模型内部近似沿着直线传输,进而解释为什么残差网络相比于普通神经网络具有更好的优化和泛化能力。

About the Speaker

张世华,中国科学院数学与系统科学研究院研究员、中国科学院随机复杂结构与数据科学重点实验室副主任、中国科学院大学岗位教授。主要从事生物信息计算、机器智能与优化,主要成果发表在Cell、Advanced Science、National Science Review、Nature Communications、Nucleic Acids Research、Science Bulletin、Bioinformatics、IEEE TPAMI、IEEE TKDE、IEEE TNNLS等杂志。目前担任BMC Genomics等杂志编委。曾荣获中国青年科技奖、国家自然科学基金优秀青年基金、中组部万人计划青年拔尖人才、中国科学院卢嘉锡青年人才奖、全国百篇优秀博士论文奖等。

Date&Time
2021-06-03 10:30 AM
Location
Room: A203 Meeting Room
CSRC 新闻 CSRC News CSRC Events CSRC Seminars CSRC Divisions