新闻动态

成都小分队参加Q-BIO会议

2024-07-19 17:03:46 邓书林

2024715-18日,由北京大学定量生物学中心、北京大学成都前沿交叉生物技术研究院和四川省人民医院共同主办的“定量生物学2024:生物医学大数据与人工智能”(Quantitative Biology 2024: Biomedical Data and AI)国际学术会议在四川成都金牛宾馆举办。成都小分队全体成员参加会议。

会上,杨宁博士做了题为Waddington-like loss landscape in the early training phase of (Stochastic) Gradient Descent”的报告,介绍了自己的研究工作:通过数值实验探究SGD训练早期的损失景观,发现初期景观存在多个不同解谷,随训练推进谷值变平坦,且SGD固有噪声使系统更难进入平坦谷值,该现象类似沃丁顿细胞命运决定景观(训练损失对应发育过程,景观平坦度对应细胞分化)。此外,研究借助简单计算模型理解SGD噪声在这类景观中的作用,给出数值发现中噪声效应的清晰物理图景。这些结果不仅阐明了损失景观的早期结构,还可能为设计更有效的优化算法提供重要启示。