いろいろな最適化法

プログラミング: 高木 智章, 川上 紫央

はじめに

Ackley関数を最適化する候補解の振る舞いを可視化します.

$$\text{Minimize } f(\boldsymbol{x}) = -20 \exp(-0.2 \sqrt{\frac{1}{n} \sum_{i=1}^n x_i^2}) – \exp(\frac{1}{n} \sum_{i=1}^n \cos(2\pi x_i)) + 20 + \exp(1)$$

$$-5\leq x_i \leq 5$$

最適化アルゴリズム

山登り法 (Steepest Hill Climbing)

山登り法 (Next Hill Climbing)

山登り法 (Adaptive Hill Climbing)

遺伝的アルゴリズム (Genetic Algorithm, GA)

進化戦略 (Evolution Strategy, ES) (μ,λ)=(10,20) 

進化戦略 (Evolution Strategy, ES) (μ+λ)=(10,20)

進化戦略 (Evolution Strategy, ES) (μ+λ)=(10,20)+ Mutation Adaptatio 

進化プログラミング (Evolutionary Programming, EP) 

焼きなまし法 (Simulated Annealing, SA)

差分進化 (Differential Evolution, DE)

分布推定アルゴリズム (Estimation of Distribution Algorithm, EDA-PBIL)

粒子群最適化 (Particle Swarm Optimization, PSO)

粒子群最適化 (Particle Swarm Optimization, PSO) Negative reinforcment PSO

粒子群最適化 (Particle Swarm Optimization, PSO) Fully informed PSO

群探索最適化 (Group Search Optimizer, GSO)

文化的最適化 (Cultual Algorithm, CA)

生物地理学最適化 (Biogeography-based Optimization, BBO)

反生物地理学最適化 (Oppositional Biogeography-based Optimization, OBBO)

参考

本ページは,以下の教科書とサンプルコードをもとに,最適化の振る舞いを可視化しました.

  • Dan Simon, Evolutionary Optimization Algorithms: Biologically-Inspired and Population-Based Approaches to Computer Intelligence, John Wiley & Sons, 2013
  • https://academic.csuohio.edu/simond/EvolutionaryOptimization/