体系ガイド · 基礎から応用へ

教師あり学習・モデル・損失関数

入力・正解・モデル・損失を分け、学習で小さくする量と将来の予測性能の違いを理解する。

この記事をロゲイアに質問する確認問題3問に進むこれまでの誤答を復習する

更新日

この記事の目次
  1. 予測する対象を先に決める
  2. モデルとパラメータを区別する
  3. 二乗誤差を手で計算する
  4. 訓練の最小値だけで評価しない
  5. この記事をロゲイアに質問する理解を確かめる

予測する対象を先に決める

教師あり学習では、入力xと正解yの組から、未知の入力に対する予測規則を学びます。過去の配送記録から所要時間を予測するなら、距離や荷物量が特徴量、実際の所要時間が正解です。配達後にしか分からない情報を入力へ混ぜると、本番で使えない近道を学びます。誰の、いつの、どの値を予測するのかを固定し、予測時点で取得できる特徴だけを選びます。モデルの種類を選ぶ前に、正解の定義と観測の単位を明確にする必要があります。

モデルとパラメータを区別する

線形モデルf(x)=wx+bでは、関数の形がモデルの仮定で、wとbがデータから調整するパラメータです。距離が増えるほど時間も一定の割合で増えるという近似を置いています。全ての関係が線形になるわけではなく、道路状況や地域差が残差に現れる場合があります。複雑なモデルなら訓練データへ合わせやすくなりますが、観測に含まれた偶然の揺れまで覚える危険もあります。パラメータ、モデルの構造、事前に選ぶ設定値を別々に記録します。

二乗誤差を手で計算する

正解が2と4、予測が1と5の二観測なら、残差は-1と1、平均二乗誤差は(1+1)/2=1です。符号の違う誤差をそのまま足すと0になり、外れている事実が消えてしまいます。二乗は大きな誤差を強く罰する一方で、外れ値への感度も高めます。分類では正解クラスの確率を扱う対数損失など、出力と目的に合う損失を選びます。訓練時に下げる損失と、運用で重視する遅延や誤検出の費用が一致するとは限りません。

訓練の最小値だけで評価しない

学習は訓練データの損失を下げる操作ですが、知りたいのは未知の入力での性能です。前処理を含む規則は訓練部分で決め、検証データで設定を選び、最後のテストをその選択から隔離します。時間順に変化する配送データなら、将来を模した分割も考えます。平均誤差だけでなく、地域別の誤差や大きな過小予測も調べます。データの収集方法や負荷が変われば性能は変わり、モデルを一度学習しただけで今後も正しい予測が続く保証はありません。

読了と問題の結果を、言語ごとにこのブラウザへ保存します。

コースの順番に沿って学ぶ

AI基盤へ進む · STEP 14

学習コースから次を選ぶ