ニューラルネットワークとは?|3Blue1Brownの図解動画を日本語で解説
数学の解説動画で知られるYouTubeチャンネル「3Blue1Brown」が2017年に公開した、ディープラーニング入門シリーズの第1回です。原題は「But what is a neural network?」。手書きの数字を見分けるプログラムを例に、ニューラルネットワークがどんな「しくみ」なのかを、数式よりも図とアニメーションで説明しています。この記事では、動画の流れに沿って要点を日本語でまとめます。
この動画で分かること
- 「ニューロン」が何を表しているのか
- 入力・隠れ層・出力という層の構造
- 重みとバイアスが何を調整しているのか
- 層を重ねると何ができると期待されているのか
例題:手書きの数字を読み取る
動画が題材にしているのは、28×28ピクセルの画像に書かれた0〜9の手書き数字を読み取る問題です。人間なら一瞬で読める数字も、書き方は人によってばらばらです。これをコンピューターに判別させるための代表的な方法として、ニューラルネットワークが紹介されます。
ネットワークの構造:784→16→16→10
ニューロンは「0〜1の数を1つ持つ箱」
動画では、ニューロンを「0から1までの数を1つ持っているもの」として説明します。この数を「活性化」と呼びます。最初の層(入力層)は画像の1ピクセルに1つずつ対応していて、28×28=784個。それぞれがピクセルの明るさを表します。
最後の層(出力層)は10個で、0〜9の数字に1つずつ対応します。いちばん大きな値になったニューロンの数字が、ネットワークの「答え」です。その間には「隠れ層」が2つあり、それぞれ16個のニューロンが並びます。動画の中でも、この16という数は見やすさなどから選んだもので、深い理由はないと説明されています。
重みとバイアス
ある層のニューロンの値は、前の層のすべてのニューロンの値に「重み」を掛けて足し合わせ、そこに「バイアス」を加えて決まります。重みは「前の層のどの部分に注目するか」、バイアスは「どのくらい強い入力があれば反応するか」を調整する値です。足し合わせた結果は、シグモイド関数という関数で0〜1の範囲に収められます。
この構造では、重みとバイアスは合わせて13,002個あります。ニューラルネットワークが「学習する」とは、この1万個以上のつまみを、正しく数字を読めるように調整していくことだ、というのが動画の大事なポイントです。
なぜ層を重ねるのか
動画では、層を重ねる理由を次のような「期待」として説明しています。2つ目の層が線や縁のような小さな部品を見つけ、3つ目の層がそれを組み合わせて「輪」や「縦線」のようなまとまりを見つけ、最後の層がそれらの組み合わせから数字を判断する、という考え方です。たとえば「9」は上の輪と右の縦線、「8」は上下2つの輪、という具合です。
また、層から層への計算は、行列とベクトルの掛け算としてまとめて書けることも紹介されます。これが、ニューラルネットワークの計算が行列計算の得意なコンピューターで速く処理できる理由の一つです。
シグモイド関数とReLU
動画の最後では、ゲストとの対話の中で、最近のネットワークではシグモイド関数よりも「ReLU」という、より単純な関数がよく使われ、学習させやすいことに触れています。
続きの回では「学習のしかた」を説明
この第1回は、ネットワークの「形」を説明する回です。13,002個の重みとバイアスを実際にどうやって調整するのかは、シリーズの続きの回で説明されています。第2回の解説はこちら:勾配降下法とは?ニューラルネットの学び方
元の動画:3Blue1Brown「But what is a neural network? | Deep learning chapter 1」(YouTube)
[…] 第1回(ネットワークの構造)の解説はこちら:ニューラルネットワークとは?|3Blue1Brownの図解動画を日本語で解説 […]