神経回路網モデル

最近,機械学習の分野において,ある神経回路網モデルが「復活」しつつあるらしい.どうやら,deep learning 機械というものが優れた性能をたたきだしているらしい.ううむ.ちょっと調べてみるかな...

ところで,私はかつて神経回路網モデルに関心があって少し勉強したことがある.ちょっとしたプログラムを組んでみたこともあった.その当時注目を集めていたバックプロパゲーション法(誤差逆伝搬法)というものを3層パーセプトロンモデルに実装したのだ.というわけで10年ほど前に組んだコードを動かしてみた.長く動かしていなかった機械を恐る恐る動かしてみるノリである.をを!ちゃんと動くぞ!(当たり前か(笑)):
perceptron

なんだか嬉しくなって動画をupした

すこし解説.
これは, z = f(x, y) という2変数関数を学習する神経回路網モデルである.左側の正方形領域において,正弦波状境界線の左側が赤色に,右側が青色になれば「正解」である.教師は学習機械(学生)に例題をたくさん示して,学生に「概念」(正しい関数)を把握させようとするのである.右側には学習曲線が示されている.黒い線は「予測誤差(prediction error)」,白い線は「学習誤差(training error)」である.予測誤差と学習誤差が両方とも小さくなることが望ましい.

キャプチャ画面において,上側の例は,学習の結果,学習誤差が小さくなったにも関わらず,予測誤差が大きくなってしまった場合が示されている.つまり,学生は,教師から既に教えられた例題と同じ問題に対してはほぼ正しい答えを返すが,未知の問題に対しては間違った答えを返しがちということを示している.これは学習機械の世界ではよく知られた典型的現象(過学習とかオーバーフィッティングとか呼ばれる)なのだが,.....

これと似た話,学校の先生方からよく聞くなあ...(笑)

人間の脳は,もちろん,高度に複雑であり,シンプルな学習機械や神経回路網モデルで記述できるものではない.
しかしながら,同じような現象が出てくるというのは面白い.
一時期「ゲーム脳の恐怖」というような(あやしい)話が流行ったが(今は「スマホ脳の恐怖」なんていう言葉があるみたいだ.とほほ,である.),ここでは「パーセプトロン脳の恐怖」という言葉を提案したい(もちろん冗談ですよ!).
教育の仕方を誤ると,教育は教育(エデュケーション)ではなくなり,単なる訓練(ティーチング)と化してしまうのである.
学生たちのせっかくの素晴らしい脳みそたちがパーセプトロンと化してしまうのである.恐怖である.

私はティーチャーではなく,エデュケーターでありたい.