ディープラーニング:層を重ねるって何がいいの？
目次
はじめに
分からないことがセットでやってきた
- パラドックス
- 層を重ねると複雑な問題が解けるようになります
- 層を重ねてAIを学習させることをディープラーニングと言います
- ディープラーニングは層を重ねて学習します
- 分からない言葉を分からない言葉で説明されていて困った
知らない言葉
- 層って何？
- ミルフィーユやバームクーヘン、地層のようなもの？
- 重ねるって？
- 複雑な問題って何？
- AIで考える問題が何かも分かりません
- 簡単な問題も何かも分かりません
- 層を重ねると複雑な問題が解ける
- 複雑な問題を解くためには層を重ねる
- 堂々巡り…
- 複雑な問題を解くためには層を重ねる
- そもそもディープラーニングって何ですかっ！！
堂々巡りから抜け出すために
- 反対に考えてみたら理解できるかな…
- 層を重ねないものって何なんだろう？
- 層を重ねなくても解ける、AIにとって簡単な問題ってある？
- つまり、ディープラーニングを理解すればいいのかな？
前提
- AIの仕組みについて
- パーセプトロン
言葉の理解
つなげる
- AIの最小単位パーセプトロン
- 脳を模倣した
- 脳のように”つなげる”と複雑なことができそう
- MLP（多層パーセプトロン）
ネットワーク
- つながっているもの、そのまとまりのこと
- 例えばMLPもネットワーク
- でも一般的なネットワークとはちょっと違う
- 一般的なネットワーク
- 情報ネットワーク
- インターネット
- 電話網
- どれも複雑に絡み合っている
- AIで言うネットワーク
- 入力と出力がある
- 方向が1方向のみ
- 前後の情報とは複雑に絡み合っている
- ぐちゃぐちゃに絡み合っているわけではない
層
- ある方向に重なったもの
- 地層、ミルフィーユ …… 下から上に向かって
- バームクーヘン …… 中心から外側に向かって
- AIで言うネットワークに方向があるので、その重なっている様子を”層”と呼んだ
- MLPだと
- 複雑なことができるように”つなげた”
- つなげると”ネットワーク”になった
- ネットワークには方向があるので”層”を重ねると表現した
- 重ねたら結果として複雑な表現ができるようになった
層を重ねると何がいい？
重ねるだけでは不十分
- ただ重ねるだけのMLP
- よかったこと
- （前より少し）複雑な問題が解けるようになった
- 複雑な事象をAIで表現できそうな可能性があった
- 足りなかったこと
- ネットワークの階層が増えると計算量が増える
- 増えた計算量に見合った成果が得られなかった
- 複雑にしたつもりでもシンプルな等価なネットワークが見つかった
- 工夫が必要
- 活計化関数も使う
- もっといいネットワークの組み合わせ方があるはず
- 日々研究、開発されている
すばらしいのはその発想
- 確かに、層を重ねるだけでは限界はある
- しかし、よりよい未来が見えた
- 層を重ねると人間の脳のような知能を作れそうな、そんな道がぼんやりと見えた
- 工夫できればもっと人間に近づけそう
- 技術の発展があった
- CNNやAttentionなどの機能をもったネットワークが登場
- これまで実現できなかったことも実装できるようになってきた
- データを使ってAIを学習できる仕組みも作られた
- 新しい分野が登場した
- 層を重ねたモデルを学習する
- 深く重ねたネットワークを利用する
- それが、ディープ・ラーニング
- ディープラーニングは今のAIのデファクトスタンダード
- 層を重ねたモデルを学習する