ディープラーニング｜ニューラルネットワーク・活性化関数・バックプロパゲーション【ITパスポート】

ディープラーニング（深層学習）は、コンピュータが大量のデータからニューラルネットワークを使って規則性を自分で見つけ、推論や判断をする技術です。

ニューラルネットワーク ── 脳の神経細胞をまねたモデル
1つのニューロンの計算と活性化関数
学習 ── 誤差が小さくなるように重みを直す
ディープラーニングの特徴 ── 特徴を自分で見つける
ディープラーニングの応用 ── 画像・音声・言語
まとめ
この節で解ける公開問題

ニューラルネットワーク ── 脳の神経細胞をまねたモデル

ニューラルネットワークは、人の脳の神経細胞（ニューロン）のつながりを、コンピュータの上でまねたモデルです。小さな計算の単位（ニューロン。ノードともいう）を列にして並べ、となりの列とつなぎます。この列を層といいます。

入力層から出力層へ値が流れます。中間層を何層も重ねたものがディープラーニングです。

ニューラルネットワークの層

入力層　… データを受け取る。画像なら画素ごとの明るさなど

中間層（隠れ層）　… 受け取った値を計算して次へ渡す。何層も重ねるほど複雑な規則性を表せる

出力層　… 結果を出す。「ねこ」「いぬ」のどちらに近いか、など

中間層を何層も深く重ねたニューラルネットワークで学習することを、ディープラーニングといいます。「ディープ（深い）」は層が深いという意味です。つまり、ニューラルネットワークはディープラーニングで用いられる技術そのものです。

「ネットワーク」と付く別の用語と混ぜないようにします。ソーシャルネットワークは人と人のつながり（SNS など）、いつでもどこでも機器がネットワークにつながる環境はユビキタス、大学や研究機関を結ぶ国立情報学研究所のネットワークは SINET、自治体どうしで住民の情報を引き出せるようにしたものは住民基本台帳ネットワークです。どれも脳のまねとは関係ありません。同じく、フィージビリティスタディは実現できるかどうかの調査、フォールトトレラントは故障が起きても動き続けるようにする設計で、AI の技術ではありません。

1つのニューロンの計算と活性化関数

ニューロンどうしをつなぐ線には、それぞれ重み（つながりの強さ）があります。1つのニューロンは、次の2つをするだけです。

1つのニューロンがしていることの図。前の層からの値2と4が、それぞれ重み0.5と重み0.25の矢印でニューロンに入る。ニューロンの中では、まず合計する（2×0.5＋4×0.25＝2）、次に活性化関数に通す。出てきた値2を次のニューロンへ渡す。

値に重みを掛けて合計し、活性化関数に通した値を次へ渡します。

1つのニューロンがすること

1.　前の層から来た値に、それぞれの重みを掛けて合計する

2.　合計を活性化関数に通し、出てきた値を次のニューロンに渡す

活性化関数は、1つのニューロンの中で、入力された値をもとに計算して、次のニューロンに渡す値を出す関数です。よく使われる形の1つが「合計が0以下なら0を渡し、0より大きければそのまま渡す」というものです。図の数字で計算します。

合計＝値1×重み1＋値2×重み2
  2 × 0.5 ＋ 4 × 0.25 ＝ 1 ＋ 1 ＝ 2
渡す値＝活性化関数（合計）
  2 は 0 より大きいので、そのまま 2

重みが違えば結果も変わります。重みが 0.5 と −0.5 なら、合計は 2×0.5＋4×(−0.5)＝1－2＝−1 で、0以下なので次へ渡す値は 0 です。活性化関数は1つのニューロンの中で働く計算です。ネットワーク全体の結果をあとから評価したり、ニューロンの数を決めたりするものではありません。

あるニューロンに、前の層から 3 と 2 が届きました。重みはそれぞれ 0.5 と −1 です。活性化関数は「合計が0以下なら0、0より大きければそのまま」です。このニューロンが次に渡す値はどれですか。

学習 ── 誤差が小さくなるように重みを直す

作ったばかりのニューラルネットワークは、重みが適当なので、ねこの画像を入れても見当はずれの答えを出します。そこで、正解の分かっているデータを入れて答えを出させ、出力と正解の差（誤差）を測ります。

学習の図。上の緑の矢印は右向きで「① 入力から答えを出す」。右端で出力と正解を比べ、その差が誤差。下の琥珀色の矢印は左向きで「② 出力側から入力側へさかのぼって、各重みを少しずつ直す」。下に「大量のデータで何度もくり返す」。

答えを出す向きと、重みを直す向きは逆です。

この誤差を、出力層の側から入力層の側へさかのぼって伝え、誤差が小さくなる向きに各ニューロンの重みを少しずつ直します。このやり方をバックプロパゲーション（誤差逆伝播法）といいます。大量のデータでこれを何度もくり返すと、重みが正しい答えを出せる値に近づいていきます。

学習で変わるのは重みです。層の数やニューロンの数、どの活性化関数を使うかは、学習を始める前に人が決めておきます。バックプロパゲーションは、ニューロンの数を増減したり、活性化関数を選び直したりはしません。

同じ章の機械学習（18-1）は、人がルールを書く代わりに、コンピュータがデータから規則を学ぶ方法の総称です。ディープラーニングはその一つです。これと逆に、専門家の知識を人がルールとして書き込み、それに従って答えを出す仕組みをエキスパートシステムといいます。体系的に整理された専門知識から回答はできても、データから自分で規則を見つけることはしません。

ディープラーニングの特徴 ── 特徴を自分で見つける

ねこといぬを見分けるには、耳の形や鼻の形といった、見分けの手がかり（特徴量）が要ります。従来の機械学習では、どの特徴に注目させるかを人が選んで与えていました。

ディープラーニングは、大量の画像から、見分けに役立つ特徴を自分で抽出します。浅い層では線や角のような単純な形を、深い層ではそれを組み合わせた耳や顔のような複雑な形をとらえていきます。そのぶん、学習には大量のデータと計算が要ります。

文章を作る生成AI（18-3）の大規模言語モデル（LLM）も、大量の文章で学習させたニューラルネットワークです。

「〜ラーニング」と付く教育の用語と混ぜないようにします。インターネット上の教材で時間や場所を選ばずに学ぶのがe-ラーニング、一人一人の習熟度に合わせて出す問題の難しさや内容を変えるのがアダプティブラーニング、学ぶ人が議論や体験に自分から参加する学び方がアクティブラーニングです。どれも人の学び方の名前で、コンピュータがデータから特徴を見つける技術ではありません。「Web の画面で学習する」とあっても、学ぶのが人（社員の研修など）なら AI の活用ではありません。

ディープラーニングの応用 ── 画像・音声・言語

ディープラーニングで作られたモデルは、扱うデータによって3つに分けられます。

ディープラーニングの応用

画像認識モデル　… 画像に写っているものを見分ける。顔認証、不良品の検出、手書き文字やナンバープレートの文字を読み取る文字認識

音声処理モデル　… 声を文字にする音声認識、文字を声にする音声合成、声の調子から感情を読み取る

自然言語処理モデル　… 人の言葉の意味を解析する。機械翻訳、SNS の投稿から地名や出来事を抜き出す、質問の内容に合う回答を選ぶ

スマートスピーカーは、この3つのうち音声処理と自然言語処理を組み合わせて動きます。

スマートスピーカーが答えるまでの4段の図。人が話しかける → 音声認識（声を文字にする） → 自然言語処理（文の意味を理解する） → 応答の生成（返す文を作る） → 音声合成（文を声で読み上げる） → スピーカーが声で答える。

声を文字にするのが音声認識、文字を声にするのが音声合成。そのあいだで自然言語処理が意味を読み取ります。

音声認識は「声を文字にする」ところまでで、その文の意味を理解するのは自然言語処理です。話しかけた言葉で家電を操作できるのは、文字にした命令の意味を自然言語処理で読み取っているからです。コールセンターで、オペレーターにつなぐ前に音声のチャットボットが用件を聞き取るのも、同じ組合せ（声を文字にし、その意味を読み取る）です。一方、カメラで撮ったナンバープレートの文字を読み取るのは画像認識の仕事です。読み取った文字を番号として照合するだけで、言葉の意味は解析しません。

「AI を使っているか」は、決まった手順をなぞるだけか、学習したモデルが判断しているかで見分けます。決められた PC 操作を自動でくり返す RPA、荷物に付けた電子タグの読み書き、押されたダイヤル番号や電話番号であらかじめ決めた担当や記録を呼び出す仕組みは、どれも人が決めた手順どおりの処理です。様式がばらばらな手書きの文字を読み取る、問合せの声から感情と内容を解析して回答の候補を選ぶ、といった処理は、学習したモデルの判断なので AI の活用です。

ある図書館が業務の見直しを考えています。次のうち、画像認識モデルを使う処理はどれですか。