できる！

CLR/H 　前鼻 毅

遺伝的アルゴリズム

自己紹介

・前鼻 毅（まえはな つよし）・ふつうの基幹系 SE 兼 PM・文系大学出身・大体スープカレーで出来ている・数学ガールいいよね！

twitter:sandinist, mixi:mae

自己紹介

・ C# 使ってます。

・ CLR/H・関数型言語勉強会・数学勉強会とかによく行ってます。

質問は twitter:@sandinist

概要

・遺伝的アルゴリズムについて、　知識のない方を対象に説明します。・遺伝的アルゴリズムを　実装例を元に解説します。

遺伝的アルゴリズムは

・どんなもの？・何に使える？・どうやっているの？・どこまでできるのか？

目的

・遺伝的アルゴリズムが　どんなものか分かる

目的 Ex

Ex. 遺伝的アルゴリズムを　実装できそうだと思う

遺伝的アルゴリズム

http://www.flickr.com/photos/fmc550uz/3446971252

そのまえに…

アルゴリズム

とは

・問題を解くための

　

効率的手順を

　

定式化した形で表現したもの

•

例

　

数列から

　

最大の数を見つけるアルゴ

リズム

遺伝的アルゴリズム

・遺伝的アルゴリズム・ Genetic Algorithm・ GA

1975 年にミシガン大学のジョン・ H ・ホランド（ John Henry

Holland ）によって提案

どんなもの？

• 遺伝的アルゴリズムは、

　生物の遺伝の仕組みを　模倣した学習的な手順である。

　

生物の遺伝の仕組み

・メンデルの遺伝の法則・ダーウィンの進化論

メンデルの遺伝の法則

①

メンデルの遺伝の法則

①

②

メンデルの遺伝の法則

②

③

メンデルの遺伝の法則

②

③

表現型と遺伝子型

表現型PhenoType

遺伝子型GenoType

ダーウィンの進化論

ダーウィンの進化論

ダーウィンの進化論

適者生存

不適応 適応

遺伝的アルゴリズムと生物の進化

表現型 遺伝子型不適応 適応

・各個体が、環境への適応度を持つ。・各個体は遺伝子を持つ。

遺伝的アルゴリズムと生物の進化

表現型 遺伝子型不適応 適応

・適応度が高い個体は生き残る。・適応度が高い遺伝子は　次世代に受け継がれる。

Panta rhei.- Hērakleitos

万物は流転する - ヘラクレイトス

どんなもの？

• 遺伝的アルゴリズムは、

　生物の遺伝の仕組みを　模倣した学習的な手順である。

　

何に使える？

• 遺伝的アルゴリズムは、

　適用範囲の広い　最適化 手法である。　

例えば？

・ナップサック問題 ・ハミルトン閉路問題 ・巡回セールスマン問題 ・施設配置問題・最小極大マッチング問題 ・ビンパッキング問題 ・一般化割当問題

巡回セールスマン問題

・巡回セールスマン問題 ・ Traveling Salesman Problem・ TSP

N 個の都市すべてを回って最初の都市に戻る 巡回路のうち、最小の距離 の順路は？

まずは見てみよう

Genetic Algorithm Demo

遺伝的アルゴリズム

・生物の遺伝の仕組みを　模倣した学習的な手順である。

・適用範囲の広い　最適化手法 である。

どうやっているの？

1. 初期集団

3. 選択

4. 交叉

5. 変異

2. 評価

6. 終了

巡回セールスマンで考えよう

1. 初期集団

3. 選択

4. 交叉

5. 変異

2. 評価

6. 終了

巡回セールスマンで考えよう

5 つの都市を回る場合、5×4×3×2×1 通りの組合せがあります。逆順があるので 1/2 になり 60 通りです。

巡回セールスマンで考えよう

この問題を遺伝的アルゴリズムの手順で評価してみましょう。

巡回セールスマンで考えよう

都市に番号を振りました。今回は①②⑤④③が最適な経路とします。まずは初期集団をつくります。

②

①③

④⑤

巡回セールスマンで考えよう

1. 初期集団

3. 選択

4. 交叉

5. 変異

2. 評価

6. 終了

初期集団初期集団をつくります。今回は個体を 3 つ用意します。

一人目は①②③④⑤二人目は①⑤②④③三人目は①②⑤③④

巡回セールスマンで考えよう

一人目 ①②③④⑤二人目 ①⑤②④③三人目 ①②⑤③④

②

①③

④⑤

初期集団それぞれの経路を遺伝子化します。

一人目は①②③④⑤ → 00000二人目は①⑤②④③ → 03010三人目は①②⑤③④ → 00200

初期集団2人目を例に解説します①⑤②④③ → 03010

①②③④⑤ という元々の順 序に対して

①⑤②④③ という順番で 取り出す、と考えます。

初期集団①⑤②④③ → 03010

①②③④⑤ 　を０１２３４　という順番で見ます。まずは①を取り出すので順番は 「0 」と考えます。

初期集団①⑤②④③ → 03010

先ほど 0番目を取り出したので、残りは②③④⑤ 　となり、これも０１２３　という順番で見ます。

初期集団①⑤②④③ → 03010次は②③④⑤ 　０１２３　から⑤を 取り出すので順番は 「 3」となります。

これで「0 」、「 3」と取出したことになります。

初期集団①⑤②④③ → 03010⑤ を取り出したので、残りは②③④ 　０１２　です。同様に②の「0 」を取り出します。

これで「0 」、「 3」、「0 」と取出したことになります。

初期集団①⑤②④③ → 03010② を取り出したので、残りは③④ 　０１　です。更に同様に④の「1 」を取り出します。

これで「0 」、「 3」、「0 」、「1 」

となりました。

初期集団①⑤②④③ → 03010④ を取り出したので、残りは③ 　０　だけです。最 後は「0 」を取り出し、「0 」、「 3」、「0 」、「1 」、「0 」

が完成しました。

初期集団一人目は①②③④⑤ → 00000二人目は①⑤②④③ → 03010三人目は①②⑤③④ → 00200

何故このように変換するかというと、後にある交叉や変異の処理が簡単になるからです。これで初期集団の完成です。

巡回セールスマンで考えよう

1. 初期集団

3. 選択

4. 交叉

5. 変異

2. 評価

6. 終了

評価

次にそれぞれの個体の評価を行います。巡回セールスマン問題では、 総距離が短いもの

が高評価→適応度が高い、となります。

②

①③

④⑤

評価

一人目①②③④⑤ → 115km二人目①⑤②④③ → 105km三人目①②⑤③④ → 110km 　とします。

②

①③

④⑤

評価一人目 00000 → 115km二人目 03010 → 105km三人目 00200 → 110km 　としたので、

2人目が最も 適応度が高い個体であることがわかりました。

Genetic Algorithm

http://www.flickr.com/photos/viamoi/3439951085

選択・交叉

1. 初期集団

3. 選択

4. 交叉

5. 変異

2. 評価

6. 終了

選択・交叉ここから先は遺伝子型に対する操作です。一人目 00000 → 115km二人目 03010 → 105km三人目 00200 → 110km 　上記評価の結果から、親選びを行うのが選択。選んだ親から次の世代（子ども）を作るのが交叉です。

選択一人目 00000 → 115km二人目 03010 → 105km三人目 00200 → 110km 　

親が 3 人なので子も 3 人作ります。二人目が一番優秀なので優先的に親に選ばれます。

選択選択には適応度に応じた確率で、選ばれるルーレット方式 。適応度を元に一定の割合で 確率を割り

当てていくランキング方式 。全体の集合から一 部を抜き出して、そ

の中から適応度の高い個体を選 ぶトーナメント方式 などがあります。

選択一人目 00000 → 115km二人目 03010 → 105km三人目 00200 → 110km 　

例としてルーレットを説明します。長さが短い方が優秀なので逆数をとります。

選択一人目 00000 → 115km →

1/115*100 → 0.87

二人目 03010 → 105km → 1/105*100 → 0.95

三人目 00200 → 110km →　 1/110*100 → 0.91

選択一人目 00000 → 115km → 0.87二人目 03010 → 105km → 0.95三人目 00200 → 110km → 0.91

合計が 0.87+0.95+0.91=2.73となり、それぞれが選ばれる確率は

選択一人目 00000 → 0.87/2.73 = 31.9%二人目 03010 → 0.95/2.73 = 34.8%三人目 00200 → 0.91/2.73 = 33.3%

となり、ルーレット方式では ほとんど同確率で選ばれることとなります。

選択一人目 00000 → 115km → 2 位二人目 03010 → 105km → 1 位三人目 00200 → 110km → 3位

ランキング形式ですと、1 位→ 50%, 2 位→ 30%, 3位→ 20%などのように固定の 確立とするのでこの例ですとルーレットに比べて、差が顕著に出ます。

選択ルーレット一人目 00000 → 31.9%二人目 03010 → 34.8%三人目 00200 → 33.3%

ランキング例一人目 00000 → 20%二人目 03010 → 50%三人目 00200 → 30%

選択一人目 00000 → 115km二人目 03010 → 105km三人目 00200 → 110km 　

例として、二人目と三人目から子 供を作ります。二人目と三人目が選択されたことになります。

交叉次が交叉です。二人目 03010 三人目 00200から子 供を作ります。

交叉にも種類がいくつかあり一様交叉、一点交叉、二点交叉などが

あります。

交叉一様交叉の場合、交叉するようにフィルタのようなものを作ります。フィルタを 01101 と置くと、03010 と 00200 の赤字部分。01101のうち 1になっている部分を交換します。結果は 00210 と 03000 になります。

交叉一点交叉は任意の一点を決め、それ以降を入れ替えます。例えば 4番目を選ぶと03010 と 00200 の赤字部分を入れ替え 03000 と 00210 となり

ます。

交叉二点交叉は任意の二点を決め、その間を入れ替えます。例えば 2と 4番目を選ぶと03010 と 00200 の赤字部分を入れ替え 00200 と 03010となりま

す。

選択・交叉一様交叉の 2つと、一点交叉の一つ目

を子供として次世代に残します。

00210 03000 03000

が 2世代目として生まれました。

巡回セールスマンで考えよう

1. 初期集団

3. 選択

4. 交叉

5. 変異

2. 評価

6. 終了

変異変異は生まれた次世代に対して、親から引き継がれる以外の特徴を持つことができます。

一定の 確率で遺伝子を変異 させます。

変異変異率を 5% とすると。00210 03000 03000遺伝子は全部で 15 要素あるので変異する確率は 5＊ 15/100 = 0.75

で一つ変異するかどうか、といった確率となります。

変異ここでは、遺伝子が一つだけ突然変異を起こしたとします。

00210 03000 03010

これで 2世代目ができあがりました。

巡回セールスマンで考えよう

1. 初期集団

3. 選択

4. 交叉

5. 変異

2. 評価

6. 終了

評価・終了2世代目の評価を行います。遺伝子型から表現型 に帰ってきました。

00210 → ①②⑤④③03000 → ①⑤②③④03010 → ①⑤②④③

がそれぞれの順番となります。

評価・終了

一人目 ①②⑤④③二人目 ①⑤②③④三人目 ①⑤②④③ です。

②

①③

④⑤

評価・終了

一人目 ①②⑤④③ が最適経路を通ることができました。

②

①③

④⑤

評価・終了

よって遺伝子型では 00210表現型では ①②⑤④③が最適解となります。

②

①③

④⑤

巡回セールスマンで考えよう

1. 初期集団

3. 選択

4. 交叉

5. 変異

2. 評価

6. 終了

■ハルモス符号

よくわからない …だと？

よろしい、ならばデモだ！

Genetic Algorithm Demo

http:// www.flickr.com/photos/leniners/2284977041

@ C# 3.0

遺伝的アルゴリズム

・生物の遺伝の仕組みを　模倣した学習的な手順である。

・適用範囲の広い　最適化手法 である。

どこまでできるのか？

・生物の遺伝の仕組みを　模倣した学習的な手順である。

・適用範囲の広い　最適化手法 である。

三度、巡回セールスマン

巡回セールスマンは計算量がとても多い問題です。

訪問先が 32ヵ所あった場合に、もし全件の探索を行ったとすると、どのくらいの 計算量になるのか？

計算量については下記ページの内容を引用しています。http://www.infonet.co.jp/ueyama/ip/software/tsp.html

訪問先 32ヵ所

前提として既に１軒目にいるとして３１！／２ 通りの組合せとなります。

３１！＝ （３１× ３０ × ２９× …… ×４× ３ × ２ × １）／２

≒ 4.11 ×１０ 33 通りとなる。

4.11 ×１０ 33 通り

１秒間に１兆回 計算可能なスーパーコンピュータ があるとする 。

１秒間に １兆回 ( １０ 12 回 )よって、4.11 ×１０ 33 回の計算をするには4.11 ×１０ 21 秒が必要となる。

4.11 ×１０ 21 秒

１年は、約 ６０× ６０ × ２４ × ３６５＝３１ ,５３６ ,０００≒ 3.15 ×１０ 7 秒

よって、 4.11 ×１０ 21 秒を １年≒ 3.15 ×１０ 7 秒で割ると、 1.3 ×１０ 14 年。 すなわち、 130 兆年 かかります。

一三〇〇〇〇〇〇〇〇〇〇〇〇〇年

に挑む！

Genetic Algorithm

http://www.flickr.com_photos_43052603@N00_3391952890.jpg

遺伝的アルゴリズム・一幕

このように、全組合せを評価すると、とても時間がかかる問題でも、短時間にある程度高い精度を持って解を求めることが 可能です。

遺伝的アルゴリズム・一幕

ただし、今回のデ モにおいても、単純な選択・交叉・変異の処理だけではうまく収束しない場合が多く、変異時に２点交換を行うなど多少の調整を行っています。

遺伝的アルゴリズム・一幕

実際に用いる場合には、該当の問題 領域においての調整や応用が必要となります。他にも他の最適化手法と組合せてアルゴリズムを強化するなどの手 段があります。

遺伝的アルゴリズム・一幕

応用例は論文などでも多く公開されていますので、更に効率の 良い例などを見つけて、実装してみるのも面白いかもしれません。

最 後に…

僕らが旅に出る理由

遺伝的アルゴリズム

・生物の遺伝の仕組みを　模倣した学習的な手順である。

・適用範囲の広い　最適化手法 である。

Science advances funeral by funeral.

- Max Karl Ernst Ludwig Planck

科学は葬儀を重ねて進歩する - マックス・プランク