三菱電機は、ニューラルネットの中間層を自動的に生成できる技術を開発したと発表した(発表資料)。ニューラルネットの入力と出力を決めれば、人手を介さずに学習用のデータを用いて、適切な中間層を作ることが可能である。できあがったニューラルネットの性能は人手で設計した場合の優れた結果と同等以上という。この技術を使うことで、ニューラルネットを利用したい技術者自身が、人工知能(AI)の専門家がいなくても高い性能のニューラルネットを構築可能になる。例えば、これまで1年を要したニューラルネットの構築作業があったとすると、この技術で1カ月ほどに減らせるいう。
同社の情報技術総合研究所 主席研究員で、ネオコグニトロンの開発者として知られる福島邦彦氏が開発した「AiS(add-if-silent)」と呼ぶ方式を利用する。まず、入力層のニューロンに対して中間層のニューロンを1つ用意し、最初に入力したデータの値に比例する重みで結合する。このネットワークに次のデータを入れた時に、中間層のニューロンが発火しなければ、中間層のニューロンを1つ増やす。用意した学習データに対してこの作業を続け、どのようなデータを入力しても中間層のいずれかのニューロンが反応するようになった時が、適切なニューロン数だと判断する。「ニューラルネットが過学習しないように、中間層のニューロンがどの程度の入力で発火するかの設計が重要になる」(福島氏)。
今回は、この中間層の後に出力層を設けた3層のネットワークで、誤差逆伝播法(バックプロパゲーション)を用いて重みの値を最適化した。学習に使ったデータは、中間層を作る際に使ったものと同じである。天候や曜日といった10次元程度の入力から、利用されるレンタル自転車の数を予測するニューラルネットに適用したところ、良好な結果が得られたという。学習に利用したデータは1000程度である。この成果は10月16~21日に京都大学で開かれる国際会議「ICONIP(International Conference on Neural Information Processing)2016」で発表する。
今回のニューラルネットは規模が小さくデータ量も少ないが、より規模の大きなネットワークに適用することに大きな問題はないという。今後は中間層の層数を増やす方策も盛り込むもよう。例えば、上述のような3層のネットワークで学習が収束しなければ、再びAiS法を使って次の層を作成。このネットワークでも収束しなければさらに層を追加する、といった作業を繰り返す手法などが考えられるという。
開発した技術は、まずは同社の機器に組み込むニューラルネットの開発に利用する。「学習に多くのデータが必要なので、自社の中でも数が多く出ている製品が対象になるだろう」(同社 情報技術総合研究所 知能情報処理技術部長の三嶋 英俊氏)。実用化の時期は未定という。
コメントする コメントに関する諸注意(必ずお読みください)