Amazonにおける本の紹介
「近い将来、ディープラーニングの仕組みは一般常識の1つになる」と言っても、決して大げさな話ではないでしょう。
本書は、ディープラーニングの仕組みを基礎から解説した、初心者向けの書籍です。本書のタイトルにある「ディープラーニングAI」とは、ディープラーニングという手法を用いたAIを指します。
「ディープラーニングは一体どんな仕組みなのか？」
「なぜそんなに賢いのか？」
「今までのAIの手法と何が違うのか？」
そうした疑問に、本書は丁寧に答えようと企画されました。
エンジニアを目指す学生のみならず、一般社会人にとっても、「ディープラーニングの“はじめの一歩”」となる内容となっています。
amazon.co.jp
感想
「ディープラーニングが仕事で必要になったけど、よくわからない…」という人にわたしがまずおすすめするのがこの本です。
ディープラーニングの基礎はもちろん、CNNや自然言語処理についてこれ以上にわかりやすく原理が説明された本はないんじゃないか？というくらいわかりやすいです。
わたしはこの本をG検定の勉強の時にCNNがよくわからなくて買ったのですが、だいたいの疑問（とくに畳み込みの計算の詳細やチャンネルについて）が解決しました。
CNNの大まかな仕組みについての説明を少し引用します。
CNNによる画像認識（中略）のポイントとなるのは、認識対象画像内に、認識用画像（注：カーネルのこと）の形状があるのかどうかを調べることです。CNNではそれを計算によって行います。その計算こそが「畳み込み」です。
畳み込みの結果については
「認識対象画像」の各領域が、「カーネル」に対して”どれだけ似ているか”をそれぞれ数値で求め、その数値をマッピングしたもの
という説明がされています。
どうですか、簡潔で明快な説明だと思いませんか？
専門用語の羅列ではなく、自分の言葉で説明されているのですっと頭に入ってきます。
自然言語処理のところはトピックが多いので駆け足でしたが、わかりやすさは相変わらずです。
最近のLLM（大規模言語モデル）でも使われている「Transformer」の入門としても良いと思います。
文章はもちろん、図も「これだけみても理解できない図」ではなくて、コメントが書かれたもので、たいへんわかりやすいです。
数式はほぼなく（線形回帰の説明で一次関数が出てくるくらいです）、数学に苦手意識がある人でも読めると思います。
この本は「きほんのき」「はじめの一歩」の本なので、たとえばCNNの後続のモデルたちについての説明はありませんし、RNNもLSTMなどの派生モデルの説明はありません。ですが、何事も基本の理解が大事ですから、この本を読めば各種発展系モデルについての理解も深まるはずです。
一つだけ不満があるとすれば、タイトルはもうちょっとなんとかならなかったのかな…タイトルで損している気がする。そもそも「ディープラーニングAI」という言葉に耳馴染みがないし、初心者は「学習」と「推論」の違いもよくわからない気がします。『だれでもわかるディープラーニング』みたいな初心者向けのタイトルだったらもっと売れているんじゃないかなあ。
とはいえ内容はわかりやすくて最高なので、今後もいろんな人に激推ししていきます。
あと、注意点としては、ディープラーニングを実装するコードと、Pythonプログラミングについての説明は必要最小限です。とにかく「原理の概要を理解する」ことに特化した本です。
「なにもわからないけど、ディープラーニングを理解したい」人だけでなく、「ディープラーニング勉強したけど、実はよくわかっていない」という人にも、そしてG検定のテキストを読んでよくわからなかった人に、この本は本当におすすめです。
要約
1章 AIとは？ディープラーニングとは？
AI（人工知能）は、日常生活や社会のさまざまな分野で活躍しています。その基本機能は、与えられたデータからルール（傾向や規則性）を見つけ出し、それに基づいて予測を行うことです。機械学習の登場以前のAIでは、人間がルールを設定しましたが、機械学習ではAI自身が大量のデータからルールを学習します。
ディープラーニングは、この機械学習の一形態で、特に画像認識などの複雑なタスクに強いです。AIの予測には「分類」と「回帰」の二種類があり、学習方法には教師あり学習、教師なし学習、強化学習が存在します。教師あり学習では正解の情報を用い、教師なし学習では正解ラベルなしで、強化学習では報酬を最大化するように学習を進めます。
2章 PythonでAI開発環境を構築
AI開発では、Pythonが広く使われています。その理由は、豊富なライブラリやフレームワークが充実しているため、他言語よりも簡潔なコードでAI関連のプログラミングが可能になるからです。
Google Colaboratory（Colab）は、このPython開発環境を簡単に構築できるツールで、Googleドライブをマウントして利用します。基本操作はセルにコードを書いて実行するもので、複数のセルをまたがって作業することもできます。ただし、90分以上操作しないと強制切断され、12時間経過すると実行結果がリセットされる点に注意が必要です。Colab Proに加入すると、これらの制限が緩和され、GPUの利用が可能になります。PythonとGoogle Colabを用いることで、AI開発の効率とアクセシビリティが向上します。
3章 ディープラーニングの基礎となる仕組み
ディープラーニングの基礎は、複雑な現象やデータを数式でモデル化することにあります。このモデル化では、大量の学習データからAIがルールを学習し、その学習結果を用いて新しいデータに対して予測（推論）を行います。例えば、単純な直線関係のモデル「y = a * x + b」では、適切な傾き（a）と切片（b）を見つけることが学習の目的です。これは、予測結果と実際のデータとの差が最小になるようなaとbの値を見つけることを意味します。
しかし、単純な数式モデルでは画像認識などの複雑なタスクには対応できません。ニューラルネットワークは、これらの複雑なケースもモデル化することが可能で、ディープラーニングの中心的な技術です。ディープラーニングは、これらの数式モデルを複雑かつ多層に構築することで、高度な学習と推論を実現します。
4章 ニューラルネットワークの構造と推論の仕組み
ニューラルネットワークは、人間の脳の構造を数式で模倣したモデルです。基本的な要素には、計算を行うノード、入力値の重要度を示す重み、ノードの出力を調整するバイアスが含まれます。ノードは、入力値と重みの積の和にバイアスを加えたものを出力します。この過程には活性化関数が使われ、非線形な計算を可能にします。
ニューラルネットワークは、複数のノードが層を形成し、これらがエッジで繋がれています。一般的に入力層、中間層（隠れ層）、出力層という三つの層で構成され、各ノードは前後の層のすべてのノードと接続されています。
推論はこれらの層を通して計算され、例えば画像が犬か猫かを分類する場合、出力層でそれぞれの確率が計算されます。ディープラーニングは、このニューラルネットワークの概念をより深く重ねた構造であり、複雑なタスクに対応できる能力を持っています。
5章 ニューラルネットワークの学習
ニューラルネットワークの学習は、重みとバイアスを最適な値に調整するプロセスです。この最適化の目的は、モデルの推論結果と実際の正解との差（損失）を最小化することにあります。損失を計算するには、回帰タスクでは平均二乗誤差、分類タスクでは交差エントロピーなどの損失関数が使われます。
重みとバイアスの調整は、勾配降下法という手法を用いて行われます。この方法では、損失を重みの関数としてプロットし、そのグラフの勾配（傾き）を利用して重みを更新します。勾配が負の場合は重みを増やし、正の場合は減らします。更新量は学習率と勾配の積で決定され、学習が進むにつれて更新量は小さくなります。
しかし、この方法だけでは局所的な最小値に陥ることがあります。これを防ぐために、確率的勾配降下法（SGD）やモーメンタムなどの技法が使用されます。SGDでは、ランダムに選んだデータを使って重みを更新し、全体として最適な値に近づけます。
また、ネットワークが大きくなると、各ノードの重みとバイアスに対する勾配を偏微分を通して求め、誤差逆伝播法を用いて勾配を計算します。これにより、出力層から入力層へ逆方向に勾配を伝播させ、全ノードの重みとバイアスを効率的に更新します。
学習のプロセスは、大量のデータをミニバッチに分け、それぞれで学習を行うミニバッチ法を採用することが多いです。これにより、データ全体を効率的に使用し、学習の安定性と効率を高めます。
6章 ディープラーニングによる画像認識の仕組み
CNN（Convolutional Neural Network）は、特に画像認識に適したニューラルネットワークの一種です。通常のニューラルネットワークが1ピクセルずつデータを処理し、画像の空間的な情報を失うのに対し、CNNは画像の空間的な関係を維持しながら特徴を抽出します。
CNNの基本概念は「畳み込み」であり、これはカーネル（またはフィルター）を用いた演算により行われます。カーネルは認識対象画像の特定の小さな領域に対して適用され、その領域の各ピクセル値とカーネルの値の積和を計算します。この操作を画像全体にわたって繰り返すことで、特徴マップが生成されます。特徴マップは、カーネルに似た画像の特徴がどの程度含まれているかを数値で示します。
カーネルのサイズ、移動距離（ストライド）、余白（パディング）は、特徴マップのサイズや精度に影響を与えます。例えば、ストライドを大きくすると特徴抽出が大まかになり、処理速度は向上しますが、詳細な特徴を捉えにくくなります。
CNNは畳み込み層とプーリング層を組み合わせて使用します。プーリング層では、特定の範囲内の最大値（MAXプーリング）や平均値（平均値プーリング）を取り出し、特徴マップを圧縮します。これにより、画像の小さな位置ズレに強くなります。
CNNでは、畳み込みによって生成された複数の特徴マップを「チャンネル」として扱います。これらは最終的に全結合層に入力され、分類や他のタスクに用いられます。学習では、カーネルの値と全結合層の重みとバイアスが最適化され、画像の特徴を効果的に捉えるように調整されます。
CNNはその構造により、画像の特徴を効率的に、かつ階層的に抽出することが可能であり、画像認識や画像分類において高い性能を発揮します。
8章 自然言語処理の仕組み
自然言語処理は、コンピュータが人間の言語を理解し、機械翻訳や文章生成などのタスクを行う技術です。この分野では、単語の意味を数値で表現することが重要です。word2vecは、このような単語の分散表現を生成する手法の一つです。word2vecでは、単語の意味を複数の数値の組み合わせで表し、単語間の関係をベクトルとして表現します。これにより、単語の意味の足し算や引き算が可能になり、文脈に基づいた単語の意味を捉えることができます。word2vecの学習では、周囲の単語から目的の単語の意味を導き出し、穴埋め問題を解かせることで特徴の項目と数値を決定します。
一方で、文章の意味を理解するためには、単語の並び順を考慮する必要があります。RNN（Recurrent Neural Network）は、文章の長さの変化に対応し、単語の並び順を考慮して文章の意味を捉えるのに適したネットワークです。RNNは循環する構造を持ち、各ステップでの出力が次のステップの入力にも影響を与えます。これにより、文章内での単語の位置関係や文脈を踏まえた処理が可能になります。RNNの応用例として、機械翻訳があります。機械翻訳では、エンコーダーとデコーダーという2つのRNNを用いて、一つの言語の文章を別の言語に翻訳します。エンコーダーは元の文章の特徴を抽出し、デコーダーはその特徴に基づいて新しい言語で文章を生成します。このプロセスにより、文章全体の意味を維持しつつ翻訳が行われます。
Attentionメカニズムは、自然言語処理における重要な概念で、文章の特定の部分に「注目」してその意味を理解することにより、処理の精度を向上させます。特に機械翻訳の分野で注目されており、seq2seqモデルにAttentionを組み込むことで、翻訳時に元の言語と翻訳言語の対応する単語に焦点を当てることが可能になります。これにより、文脈に基づいたより精密な翻訳が行えるようになります。
Attentionでは、翻訳元の文章の各単語の特徴を活用して、翻訳先の単語を推論します。単語間の「類似度」を基にして、どの単語に注目するかを判断し、これにより翻訳の精度が大幅に向上します。このメカニズムは、単に最後に出力された特徴だけでなく、文章の途中で出力された特徴も全て使用することが特徴です。
Self-AttentionはAttentionの一種で、同じ文章内の単語同士の関係に注目します。これにより、文章内の単語の依存関係を把握し、より正確な文脈理解が可能になります。Self-Attentionは、文中の単語がどのように相互に関連しているかを理解することに重点を置いており、文章全体の意味をより詳細に捉えることができます。
これらの技術は、Transformerモデルで特に有効に活用されています。TransformerはRNNを使用せず、Self-Attentionのみを用いて文章の意味を理解し、単語の位置関係を考慮しながら次に出現する単語を推論することができます。これにより、処理速度の向上とともに、長い文章における精度の問題を解決しています。また、Transformerは、複数のSelf-Attentionを並列に配置することで、処理の精度をさらに向上させています。
BERT（Bidirectional Encoder Representations from Transformers）は、2018年にGoogleによって開発された、自然言語処理の分野における画期的なモデルです。このモデルは、複数のTransformerエンコーダーを多段に連結した構造を持ち、文章内の各単語の意味をより精緻に理解することができます。BERTの特徴は、2種類の事前学習にあります。1つ目は穴埋め問題で、文章の中からランダムに単語を隠し（マスクし）、その単語を推論することで学習します。2つ目は、2つの文章が意味的につながっているかどうかを推論する学習です。これにより、BERTは文章内の単語間の関係性や、複数の文章をまたいだ文脈の理解に優れた能力を持ちます。
コメント