死循环

　　还有天气检测。

　　大气环流模型动辄上百万个变量，非线性耦合到令人发指。

　　现在的超级计算机算三天后的台风路径，还有几十公里的误差。

　　如果能快速找到系统演化的最优逼近路径，精准度能提到什么程度，没人敢想。

　　此外，还有那些更基础的领域，比如材料设计、金融风控、自动驾驶、量子化学方程求解……

　　肖宿的目光落在草稿纸上的那个圈上。

　　这个问题的解法，就是一把钥匙。

　　能打开的门太多了。

　　问题是，这把钥匙长什么样？

　　他这几天已经梳理了目前学界在这个方向上的主要进展。

　　这个领域很热闹，国内国外都有团队在啃。

　　最主流的思路是“代理模型”加“主动采样”。

　　就是用高斯过程或者神经网络拟合目标函数，构造一个容易计算的代理模型，然后在代理模型上找可能的最优点，再去原函数上验证。

　　贝叶斯优化就是这条路子的代表。

　　但问题是，高斯过程的计算复杂度随数据量立方级增长，到了几十维以上就捉襟见肘。

　　神经网络的表达能力更强，但神经网络本身也是非线性的，用非线性去拟合非线性，等于用一个复杂问题去逼近另一个复杂问题。

　　另一种思路是“元启发式算法”。

　　也就是遗传算法、粒子群算法、差分进化，这些算法的共同点是模仿自然现象，让一群候选解在空间里“进化”或者“飞行”，靠随机性和竞争机制慢慢逼近最优。

　　这方法确实有用，而且很灵活，什么黑箱都能往里扔。

　　但是它太慢了，而且没有理论保证。

　　你永远不知道它找到的是不是真的最优，也不知道还要跑多久才能收敛。

　　还有一条路是用深度学习直接端到端求解。

　　把优化问题参数化，训练一个神经网络，输入问题描述，输出最优解。

　　这想法很诱人，但训练数据从哪儿来？要生成足够多的“问题—最优解”对，本身就得先解无数个优化问题。

　　这就陷入了死循