IT情報バンク

誤差逆伝播法（バックプロパゲーション）は、ランダムに定めた重みの初期値を用いてネットワークの順方向（入力側から出力側への方向）に計算を行い、その出力値と正解ラベルの誤差（コスト）をベースにネットワークの逆方向（出力側から […]

（６）ニューラルネットワーク ニューラルネットワークは、多層パーセプトロンとも呼ばれている。 パーセプトロンを階層上にした構造となっている。 すなわち、線形回帰またはロジスティック回帰における入力層と出力層の間に、中間層 […]

（４）k近傍法（k-NN） k近傍法は、最も単純なアルゴリズムの一つ。特徴空間内で、分類対象のデータから距離的に近い（＝類似している）k個の教師データの多数決によって、分類結果を決める手法。 k近傍法を採用する際は、kを […]

（３）ランダムフォレスト ランダムフォレストは、決定木の簡易版を複数作り、その多数決によって分類の結果を決める手法。 ランダムフォレストのように複数の簡易分類器の学習結果を組み合わせる手法を、アンサンブル学習という。 決 […]

（２）決定木 決定木は、説明変数に着目して、ifによる分岐を連続させ、それぞれの閾値を境にデータを分割することで、データを分類する。 メリットは、一つ一つの説明変数が結果に対して、どの程度影響を与えているかがわかりやすく […]

（１）SVM（サポートベクターマシン） ①線形SVM SVMはロジスティック回帰と同じく、データの境界線を見つけて、データの分類を行う手法です。 超平面（クラスの境界線）から、各クラスの超平面に最も近いデータ（サポートベ […]

（４）混同行列（Confusion Matrix） 混同行列とは、適合率と再現率の計算に必要な「モデルが分類した結果」と「実際の結果」を２軸として、該当する値を表にまとめたもののこと。 真陽性、偽陰性の１文字目の真偽は、 […]

分類モデルの評価 （１）正解率（Accuracy） 最もシンプルな評価基準は、正解率（Accuracy）である。 正解率＝正解した数（分子）／予測したデータ数（分母） 正解しやすいが、データに偏りがある場合は、この指標だ […]

ロジスティック回帰は、分類の代表的なアルゴリズムです。 パーセプトロンと同様に、線形分離可能なデータを分類するアルゴリズムである。 パーセプトロンとの違いは、 １．出力に加え、各データがあるクラスに分類される確率値を算出 […]

（１）パーセプトロンの仕組み パーセプトロンとは、複数の値を入力として受け取り、一つの値を出力するアルゴリズムのこと。 単純パーセプトロン 単層パーセプトロン このパーセプトロンという仕組は、1959年代にニューロン（神 […]

教師あり学習②（分類） 画像認識は、ここに分類される。 ロジスティック回帰 様々な分類の手法 ディープラーニング 分類の問題は大きく２つに分けられる。 二項分類（２クラス分類） 多項分類（多クラス分類） 二項分類とは、分 […]

（１）標準化 標準化とは、対象となる特徴量の分布が平均0・標準編差１の正規分布となるようにスケーリングすること。 μはデータセットの平均、データセットの標準偏差 （２）正規化 正規化とは、対象となる特徴量の最小値が0、最 […]

スケーリングとは、特徴量の尺度を揃えること。 各特徴量をスケーリングして、尺度を揃えることで、それぞれの係数の大小を比較できるようになる。 機械学習のアルゴリズムには、特徴量の尺度が揃っていなければ上手く動かないものがあ […]

未知のデータに対しても、学習データと同じように精度が出るモデルのことを、汎化（Generalization）能力が高いモデルと言う。 過学習になりやすい複雑なモデルを高バリアンス（High Variance） 未学習にな […]

学習データを用いた場合には、高い精度が出るのに、未知のデータでは精度が出ない状態を過学習（Overfitting）と言う。 過学習は、学習データに対して、過度に適合した結果である。 練習問題は合格点だが、実際のテストでは […]

モデル精度の改善方法 １．トレーニングデータを増やす ２．説明変数を増やす／減らす ３．新しい特徴量を作成する ４．多項式項目を増やす ５．正則化を取り入れる（増減）：本講座では扱わない。 多項式項目とは、多項式項目を取 […]

平均二乗誤差以外にも回帰式の精度を表す指標はある。その一つが決定係数である。 決定係数は、回帰分析の当てはまりの良さを表し、データの変動を回帰式で説明できる割合のこと。 決定係数の範囲：０～１ 全てのデータが回帰式上にあ […]

誤差の二乗の場合は、基本的に小さければ小さいほどモデルの精度は高いと言える。 残差プロット（データ毎の残差をプロットした散布図） 残差プロットを描き、それがおおむねy=0の直線の周りに集まっていれば、良いモデルができたと […]

モデルの評価 手順 １．データセットを学習データとテストデータに分割する。 ２．学習データを使ってモデルを学習させる。 ３．テストデータを使って検証する。 １．は、学習データとテストデータの比率は多くの場合５：５～８：２ […]

＝ラベルの予測において、2次元以上の特徴量がそれぞれ、どの程度、影響を与えているかを測定する手法のこと。 単回帰分析は、特徴量は1次元で、特徴量とラベルの間に「直線的な関係（線形）」が前提となっている。 重回帰分析のよう […]

＝2種類以上の説明変数がある回帰分析のこと。 重回帰分析の式 [機械学習の用語] 特徴量：説明変数のこと。 次元：説明変数の種類・数のこと。 ラベル：目的変数のこと。 違う言い方だが、内容は一緒である。

残差が最小となる回帰直線を探すための最もシンプルな方法。 実測値は、プラス、マイナスと散在する可能性があるため、単純に合算では求められない。 残差を二乗し、符号を全てプラスに統一し、その上で総和を求め、そこから最小化を求 […]

直線の式(1次式) y=ax+b y(目的変数)＝a(回帰係数)*x(説明変数)＋b(切片) 最適な値とは、「求めたい回帰直線＝最も当てはまりの良い線」 回帰直線上の値と実際の値の差が最も小さい直線のこと。 この差分のこ […]

「ある１つの変数xが大きくなる場合に、別の変数yにどの程度の影響を与えるか」を測定する。 ２つの変数の散布図を描いた時、それらの関係性を最も上手く表す直線（回帰直線）の式を求めるのが、単回帰分析である。

予測したい変数（目的変数） 別の変数（説明変数）＝基盤変数 ・説明変数と目的変数の間に直線的な関係がある＝線形回帰 ・説明変数と目的変数の間に曲線的な関係がある＝非線形回帰 ・説明変数一つだけの単回帰分析 ・説明変数が複 […]

回帰は、連続値を予測する。 [回帰が実現すること] →商品販売数の予測、来店客数の予測 →基盤となる変数を基にして、別の変数を予測することができる。 ・基盤変数と予測する変数の関係が線形（＝直線的）となる線形回帰 ・非線 […]