通讯作者:姜汉卿 (西湖大学工学院)
近日,必赢nn699net卢军强教授与西湖大学,浙江师范大学合作开发出一种新颖优化算法--物理监督深度学习优化算法,并以“Physics Supervised Deep Learning-based Optimization (PSDLO) with Accuracy and Efficiency”为题发表于《美国国家科学院院刊(PNAS)》;西湖大学工学院为该文第一署名单位,必赢nn699net为第三单位,必赢nn699net卢军强教授主要参与优化算法和计算模型的设计与讨论。
在新兴AI for Sciences领域,机器学习结合进化算法被用于替代物理模型计算以提高材料优化筛选的效率。然而深度学习模型可能会倾向于高估个体的适应度,这种高估的适应度可能与严格的物理验证得到的实际适应度存在差距。为解决这些问题,该研究提出了一种新的方法——物理监督的深度学习优化算法:这种方法不仅以物理学为基础为深度学习模型提供数据,也在每次迭代过程中对深度学习模型的结果进行了监督;由于高适应度的个体往往占据整个种群的发展的主导地位,所以通过监督高适应度的少数个体,就可以确保整个种群不会向高估的方向偏移;此外,由于在整个进化过程中,只对少数个体进行了监督,因此并不会增加太多的计算成本;从而在优化的精度和计算效率之间找到平衡,如下图1所示,既保证了优化的高精度,又实现了快速的计算效率。该研究强调物理监督在深度学习模型训练过程中的关键作用,可以确保模型在解决优化问题的过程中不偏离预定目标;在物理和工程领域,深度学习模型应用正在逐渐增多,被运用于解决一些最具挑战性的问题,如气候模型预测、能源系统优化以及新材料设计等;物理监督确保这些模型在实际应用中遵循物理规则和工程需求,从而提升其准确性和可靠性;物理监督也能帮助我们在物理和工程领域以外更有效地利用深度学习技术,在社会各个领域发挥更大的价值。
图1涉及和不涉及深度学习方法的三种优化方法的概述。三种优化方法的比较:纯进化方法(Evolutionary Method,“EM”)、结合深度学习模型的进化方法(Evolutionary Method with Deep Learning,“EM+DL”)和提出的物理监督的深度学习优化(Physical Supervised Deep Learning Optimization,PSDLO)方法。图中突出了这三种方法在适应度函数评估和物理机制作用方面的差异。
原文连接 https://doi.org/10.1073/pnas.2309062120