运筹学（4）模式搜索法

运筹学（4）
多维无约束优化算法——直接搜索法之模式搜索法

1.原理
在之前分享的坐标轮换这一直接搜索算法的基础上，为了优化坐标轮换法，克服坐标轮换法有时优化速度太慢，随后有了模式搜索法这一直接搜索算法。模式搜索法的思想是沿着相邻的基点连线的方向进行搜索迭代。它主要分为两大步骤（1）轴向搜索。（2）模式搜索。其过程如下图，当从起始点x1进行搜索，先进行轴向搜索，沿着各个坐标方向探测搜索之后，可以得到x2点，随后沿着x2−x1的方向进行模式搜索搜索得到一个解y,接下来不断的进行轴向搜索和模式搜索，直到达到搜索迭代终止条件。

2.步骤
(1).确定初始迭代点y1,迭代终止条件ϵ>0,k=1,j=1，x1=y1
(2).从xk处进行轴向搜索，搜索每一个坐标方向ei时，确定步长用最优步长策略。minf(xk+λei)求最优步长λ,当各个坐标方向搜索完之后，得到xk+1。接下来进行下一步。
(3).开始进行模式搜索，沿着xk+1−xk的方向进行搜索，得到点yj,如果f(yj)<f(yj−1),则j=j+1,继续进行第（2）步，直到f(yj)−f(yj−1)<ϵ。yj就为最优解。