ブレインアシスト型遺伝的アルゴリズムの提案

1. 同志社大学大学院 工学研究科 知識工学専攻 2002年度704番　福永隆宏 ブレインアシスト型遺伝的アルゴリズムの提案 The proposal of the Brain Assisted Genetic Algorithm

2. 研究背景1 インタラクティブ進化計算法（Interactive Evolutionary Computation: IEC） 人間の主観的評価に基づいて進化的計算が対象問題を最適化 コンピュータシミュレーションによる確率的な探索に人間の判断を介在させ，ＧＡと人間のコラボレーションを実現 インタラクティブGA （Interactive GA: IGA） ＧＡで得られた解候補の評価 Intelligent Systems Design Lab. Doshisha Univ.

3. 研究背景2 ブレインアシストシステム（Brain-Assisted System） （三木99） 高機能な知的人工物（システム）の設計指針 Lv.1: 人間にとって煩わしいことを行う Lv.2: 意思決定しやすいものを提示する（Decision Making） Lv.3: 共進化（人間とシステムが共に進化する） Lv.4: 人間の思考を理解し，最適なフィードバックを行う Intelligent Systems Design Lab. Doshisha Univ.

4. 交叉，突然変異やその他遺伝的オペレータの操作交叉，突然変異やその他遺伝的オペレータの操作 探索領域の指定（リスタート） 実数値GAをベースとしたアルゴリズム 携帯電話を用いたクライアント／サーバ型システム 研究目的 インタラクティブ進化計算法 とブレインアシストシステムの融合 ブレインアシスト型遺伝的アルゴリズム （Brain Assisted GA） の提案 GAによる探索方向の決定に人間の判断を介在させる 対象問題の性質，探索傾向の把握によるユーザの最適化に対するアシストのレベルを向上させる グラフィカルなインタフェースを有するシステムの構築 「いつでも」 「どこでも」利用できるユーザインタフェースの利用 Intelligent Systems Design Lab. Doshisha Univ.

5. ユーザインタフェースに携帯電話（NTT DoCoMo iAppli）を使用 交叉個体（複製選択個体）の選択 突然変異個体および変異遺伝子の選択 エリート個体情報の表示 任意の世代でアシストが可能 提案システム概要 特徴 Usability, Mobility, Ubiquitousness 端末の飛躍的な性能向上 仕様 Intelligent Systems Design Lab. Doshisha Univ.

6. 個体情報の可視化・アシストの指示 Visualizer: Control Server: Visualizerへの情報送受信・ Optimizerの制御 Optimizer: 実数値GA（RCGA）による連続関数問題の最適化 システム構成 Intelligent Systems Design Lab. Doshisha Univ.

7. Control Server - Optimizer ① ② ① 毎世代，Control Serverへ個体情報を送信 ② 携帯電話からのアクセスがない場合， Optimizerへ従来のGA操作を指示 Intelligent Systems Design Lab. Doshisha Univ.

8. Visualizer - Control Server ① ③ ② ② ③ ① Control-Serverに接続 ② Optimizerを停止し，個体情報をVisualizerに送信 個体情報　→ 染色体を色で表現：[Min, Max] = [Blue, Red] ③ アシストの指示をControl-Serverを介して，Optimizerへ送信 Intelligent Systems Design Lab. Doshisha Univ.

9. Visualizer 交叉個体アシストモード 1塊で1個体を表現 適合度順に表示（左上ほど適合度が高い） 個体にふられたIDを用いて，アシストを指示 エリート個体表示モード 染色体を色で表示（10次元） 色　：　青　－　紫　－　赤 定義域　：　低　－　中央　－　高 適合度0で最適解 Intelligent Systems Design Lab. Doshisha Univ.

10. シナリオ 提案システムの適用例 Schwefel関数（10次元）の最適化に提案システムを適用し， 探索の各段階における，ユーザの最適化計算のアシストを見ることで， 人間の判断が最適化にどのように影響しているか，人間が最適化にどのようなアシストをしているのかについて確認する Schwefel関数 パラメータ 多峰性関数設計変数間に依存関係なし最適解は境界付近に存在 Intelligent Systems Design Lab. Doshisha Univ.

11. 探索序盤 初期母集団 各設計変数値がランダム 個体は適合度順に並んでいる コンピュータシミュレートに委ねる 適合度が高い個体群において 赤色の遺伝子が増加 定義域の境界付近に最適解が存在することが予測できる Intelligent Systems Design Lab. Doshisha Univ.

12. 探索中盤 進化的停滞 ある設計変数のみ青色で表示されている 局所解の存在が確認できる 特定の遺伝子に対して集中的に突然変異を適用し局所解からの脱出を図る 母集団の個体群が類似 解の精度を向上させるための局所的探索を実行 類似している個体に対して集中的に交叉を適用する Intelligent Systems Design Lab. Doshisha Univ.

13. 探索終盤 探索終盤 適合度が限りなく0に近い ほぼ最適解に収束している コンピュータシミュレートに委ねる 適合度が0に到達 最適解に到達した 各設計変数値が420.969であるとき最適解になることがわかる Intelligent Systems Design Lab. Doshisha Univ.

14. 適用例の結果 人間の判断を最適化に介在させることで・・・ 最適解が容易に求められない対象問題において，良好な探索を実現する可能性 システムを繰り返し利用することで・・・ 対象問題の性質を把握できる可能性 「局所解が存在するかもしれない」 「最適解は○○にあるかもしれない」 最適化の方向性を決定できる可能性 「この個体同士を交叉させたい」 「この遺伝子を突然変異させたい」 Intelligent Systems Design Lab. Doshisha Univ.

15. ブレインアシスト システム Demonstration Demonstration Intelligent Systems Design Lab. Doshisha Univ.

16. まとめ ブレインアシストシステムの指針に基づくGAによる最適化ツールの構築 ブレインアシスト型遺伝的アルゴリズムの提案 GAによる最適化計算中に，遺伝的オペレータに対して任意の段階で人間の判断を介在させる 人間とコンピュータの共同作業を実現するシステムの構築 任意の場所で，いつでも使える携帯電話をインタフェースに用いる 提案システムを繰り返す利用することで， ユーザが最適化計算の方向性を決定できるようになり，より効率的で，より精度の高い解を得ることが期待できる システムからの支援をもとに，ユーザの判断を反映できる （ブレインアシストシステムのLv.3の一部を達成） Intelligent Systems Design Lab. Doshisha Univ.

17. 提案システムの高レベル化 大規模問題への適用 複数人でのコラボレーション 今後の課題 ユーザのアシストによるシステムからのフィードバック機能 過去の履歴によるシステム側からのフィードバック機能 探索傾向（ランドスケープ）が確認できる機能 アシスト項目の多様化 携帯電話を最適化計算の補助的な計算資源として機能 Intelligent Systems Design Lab. Doshisha Univ.

18. Intelligent Systems Design Lab. Doshisha Univ.

19. 参考資料 以下，参考資料 Intelligent Systems Design Lab. Doshisha Univ.

20. 実数値GA（Real-coded GA: RCGA） 連続関数最適化問題に特化したGA 実数ベクトルによる染色体のコーディング 形質遺伝に優れた交叉手法 多様性維持に優れた世代交代モデル 交叉手法：UNDX（小野） 世代交代モデル：MGG（佐藤） Intelligent Systems Design Lab. Doshisha Univ.

21. iAppli開発における制約 通信上の制約 通信プロトコルはHTTP（HTTPS）のみ接続先はiAppliのダウンロードもとのサーバに限る 送受信データの制約 受信データは最大10Kbyte送信データは最大5Kbyte APIの制約 浮動小数点演算が使用できない 機種依存性 Intelligent Systems Design Lab. Doshisha Univ.

22. Rvalue = ( kxi + 29 ) / 22 100 (Rastrigin, R-Rastrigin) 1 (Schwefel, Greiwank) Gvalue = 0 k = 250 (Rosenbrock) Bvalue = 28 - Rvalue 8 (Ridge) 設計変数値の色情報変換方法 RGBカラーモデル　 黒（0, 0, 0）　白（255, 255, 255） (28)3 （約1600万）色を表現できる 適用する連続関数の設計空間は210の倍数 1.0E–02の精度で，22 / k 区間ごとに異なる色で表現する Intelligent Systems Design Lab. Doshisha Univ.

23. １） 実数ベクトルによる遺伝子表現とその交叉法 ２） 世代交代モデル ３） 母集団の分割化 研究背景 近年，GAの探索性能の向上に関しては， 多くの研究が行われている その中で本研究では，連続関数最適化問題を対象として， の3種類のスキームに注目 Intelligent Systems Design Lab. Doshisha Univ.

24. 目的関数の形状を考慮した探索 初期収束を回避する探索 多様性を維持した探索，解の高品質化 ユークリッド空間の連続性を考慮した交叉法 世代間での個体分布の差異を最小化 母集団分割モデル 良好な解探索のためのＧＡ設計の指針 ：実数値GA ：Minimal Generation Gap（MGG） ：分散GA Intelligent Systems Design Lab. Doshisha Univ.

25. 実数ベクトルによる染色体のコーディング 連続関数の最適化に適した交叉オペレータ 実数値GA Unimodal Normal Distribution Crossover（UNDX） Intelligent Systems Design Lab. Doshisha Univ.

26. MGGと分散GA Minimal Generation Gap（MGG） 佐藤ら（97）によって考案された 　　　　　　　　　　　　世代交代モデル 局所的な世代交代 初期収束の回避 探索終盤での多様性維持 生成個体数（パラメータ） 分散GA 母集団をサブ母集団（島）に分割 一定世代で移住（移住率，移住間隔） 解探索性能の向上，解の高品質化 母集団分割による分散効果 Intelligent Systems Design Lab. Doshisha Univ.

27. 本研究の目的 UNDX + MGGモデル 小野らによって連続関数最適化問題に対して， 有効性は確認されている 分散GA 単一母集団GAよりも良好な解探索性能を有する 目的 それらを組み合わせた計算モデルを検討 分散GAにMGGを組み込み，より強力なGAの設計を目指す Intelligent Systems Design Lab. Doshisha Univ.

28. 計算モデルの概要 ・ 実数ベクトルによる染色体のコーディング ・ 各サブ母集団内は，MGGに基づいて世代交代 ・ 一定世代ごとに移住を行う ・ 突然変異は行わない Intelligent Systems Design Lab. Doshisha Univ.

29. 結果 数値実験（１） パラメータ Griewank関数（20次元） ※ 20試行平均 いずれのサブ母集団数においても，最適解に到達する 母集団分割による分散効果が確認できない 他の対象問題に関しても同様の結果 Intelligent Systems Design Lab. Doshisha Univ.

30. 本研究の検討事項 分散GAに適用したMGGの問題点 ・更新された個体が，他のサブ母集団に反映されていない 各世代，更新個体は2個体のみ ・サブ母集団数の増加に伴う，評価計算回数の増加 【母集団全体の評価計算回数】 = 【各サブ母集団の生成個体数】 ＊ 【サブ母集団数】 constant Intelligent Systems Design Lab. Doshisha Univ.

31. 分散GAに適用したMGGの問題点 ・サブ母集団数の増加に伴う，評価計算回数の増加 【母集団全体の評価計算回数】 = 【各サブ母集団の生成個体数】 ＊ 【サブ母集団数】 constant Intelligent Systems Design Lab. Doshisha Univ.

32. 【母集団全体の生成個体数】 = 200 constant 分散GAに適用したMGGの提案手法 サブ母集団数によらず各世代の生成個体数を統一 【各サブ母集団の生成個体数】 = 200 / 【サブ母集団数】 ※ サブ母集団数１（単一母集団）のときの生成個体数を200個体 サブ母集団が増加すると，各サブ母集団での生成個体数は減少 Intelligent Systems Design Lab. Doshisha Univ.

33. 結果 数値実験（２） パラメータ Griewank関数（20次元） ※ 20試行平均 いずれのサブ母集団数において，最適解に到達する 母集団分割による分散効果が確認できた Intelligent Systems Design Lab. Doshisha Univ.

34. 数値実験（３） 他の関数においても同様の実験を行う 提案モデルにおけるコーディング法による比較実験 実数ベクトル，ビットストリング（グレイコード） 対象問題（20次元） Rastrigin関数 依存関係なし，多峰性 Griewank関数 依存関係あり，多峰性 Ridge関数 依存関係あり，単峰性 Intelligent Systems Design Lab. Doshisha Univ.

35. 母集団分割よる分散効果を確認 実数ベクトルの有効性を確認 実数ベクトルにおける 　　　　　　　最適解到達回数の問題点 局所解を脱する 強力なアルゴリズムの構築の必要性 Rastrigin関数の結果 検討項目 #OPT： 最適解到達回数（20試行中） AVG： 最適解到達試行における評価計算回数平均 Rastrigin関数（20次元） #OPT #OPT : Number of runs in which the algorithm succeeded in finding the global optimum Intelligent Systems Design Lab. Doshisha Univ.

36. Griewank関数，Ridge関数の結果 Griewank関数（20次元） Ridge関数（20次元） #OPT #OPT 両問題においても， 検討モデルの有効性を確認 母集団分割による，分散効果を確認 Intelligent Systems Design Lab. Doshisha Univ.

37. 結論（１） 連続関数最適化問題に対して， 実数ベクトル表現，MGG，母集団分割について，検討を行った MGGと実数ベクトル表現 設計変数間の依存関係の有無，多峰性 / 単峰性に関わらず， 良好な解探索性能を示した MGGとビットストリング表現 設計変数間に依存関係のない問題に対して，有効に機能した Intelligent Systems Design Lab. Doshisha Univ.

38. 実数ベクトル表現，生成個体数を調節するMGGを実数ベクトル表現，生成個体数を調節するMGGを 分散GAに組み込むことは，有効な手法といえる 結論（２） 母集団分割とMGG サブ母集団数が増加するごとに， 　　　　　　　　　　サブ母集団内の生成個体数を減少させる 各サブ母集団での多様性はなくなるが， 母集団を分割することで，全体の多様性は維持できる 評価計算回数を軽減することができる 連続関数最適化問題において， Intelligent Systems Design Lab. Doshisha Univ.

39. Intelligent Systems Design Lab. Doshisha Univ.

40. ｰｰｰｰｰｰｰｰｰｰｰｰ参考資料ｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰ参考資料ｰｰｰｰｰｰｰｰｰｰｰｰ Intelligent Systems Design Lab. Doshisha Univ.

41. Rosenbrock，R-Rastriginの結果 Rosenbrock関数（20次元） Rotated-Rastrigin関数（20次元） #OPT #OPT 両問題においても， 検討モデルの有効性を確認． 母集団分割による，分散効果を確認． Intelligent Systems Design Lab. Doshisha Univ.

42. ProposedPMBGA Contour Lineof OBJ Function Distribution of individuals • Features • It is a Real-Coded GA • It can find the solution even in the problem where there is a strong correlation among the parameters. • Proposed PMBGA’s steps • (1) The elite individuals are chosen from the population. • (2) These individuals are transferred by the PCA operation. • (3) The new individuals are generated by the normal distribution. Intelligent Systems Design Lab. Doshisha Univ.

43. PMBGAのパラメータ Intelligent Systems Design Lab. Doshisha Univ.

44. PMBGAとの比較（１） Rastrigin関数（20次元） Griewank関数（20次元） Rastrigin関数 　検討モデルの10島がもっとも早く最適解に収束するPMBGAは局初解に陥らないため，信頼性が高い Griewank関数 PMBGAがもっとも早く最適解に収束する 　両モデルにおいて，最適解到達率が100％である Intelligent Systems Design Lab. Doshisha Univ.

45. PMBGAとの比較（２） Rosenbrock関数（20次元） Ridge関数（20次元） Rosenbrock関数 PMBGAがもっとも早く最適解に収束する 　両モデルにおいて，最適解到達率が100％である Ridge関数 　検討モデルの10島が，もっとも早く最適解に収束する 　両モデルにおいて，最適解到達率が100％である Intelligent Systems Design Lab. Doshisha Univ.

46. UNDX+sGAの分散効果（１） Rastrigin関数（20次元） Rota関数（20次元） Intelligent Systems Design Lab. Doshisha Univ.

47. UNDX+sGAの分散効果（２） Rosenborck関数（20次元） Rotated Rastrigin関数（20次元） Intelligent Systems Design Lab. Doshisha Univ.

48. 実数値GAの問題点と今後の課題 実数ベクトルに特化した交叉法は統計的に子個体を生成 探索終盤に，設計空間の中央付近に個体が集まる傾向が高い 最適解が，設計空間の中央に存在しない問題に対して， その解探索性能は極端に低下してしまう． 最適解の位置にロバストなGAの設計が今後の課題 Intelligent Systems Design Lab. Doshisha Univ.

49. 数値実験（４） 最適解が中央にない問題への検討モデルの検討 対象問題：最適解が中央にある問題の最適解を移動した問題 Rastrigin_1 : 最適解 = (1, 1, 1, ・・・, 1) [-5.12, 5.12) Griewank_100 : 最適解 = (100, 100, 100, ・・・, 100) [-512, 512) Ridge_10 : 最適解 = (10, 10, 10, ・・・, 10) [-64, 64) Rotated Rastrigin_1 : 最適解 = (1, 1, 1, ・・・, 1) [-5.12, 5.12) Intelligent Systems Design Lab. Doshisha Univ.

50. パラメータおよびSPX パラメータ Simplex Crossover : 樋口（01） 多数の親を用いる，実数ベクトルに特化した交叉法 一様乱数で子個体を生成 Intelligent Systems Design Lab. Doshisha Univ.