キャッシュするのはデータ本体ではない
TLBは、仮想ページから物理フレームへの対応やアクセス権など、アドレス変換に必要な情報を保持する仕組みです。通常のデータキャッシュが読み書きする内容を扱うのに対し、TLBはその内容へ到達するための変換を助けます。両者は別の役割を持つため、データがキャッシュにあっても変換が見つからない場合や、変換があってもデータを下位階層から取得する場合があります。
ミスとフォルトの違い
TLBに対応がなければ、ページテーブルなどの情報から変換を求めます。そこで有効な対応が見つかれば、アプリケーションに異常を通知せずアクセスを続けられます。これがTLBミスをページフォルトと同じ意味にしてはいけない理由です。ページフォルトは、対応や保護情報の問題をOSが処理する必要がある例外です。ページテーブル走査をハードウェアが行うかどうかなどの細部はアーキテクチャによって異なります。
TLB reachを概算する
説明用に、同じ大きさのページを扱うTLBが64エントリで、ページサイズが4KiBなら、保持できる対応先の総量は64×4KiB=256KiBと概算できます。これは同時に保持する変換の範囲であり、RAM全体の容量ではありません。大きいページなら一つのエントリで広い領域を表せます。ただし実機には複数階層のTLBやページサイズ別の構造があり、この単純な積だけでミス率は決まりません。
対応を変更した後の整合性
OSがページテーブルを更新しても、古い変換がTLBに残っていれば、CPUが変更前の対応を使う可能性があります。そのため、対応の変更では必要な無効化や同期を行い、複数CPUへ影響が及ぶ場合には対象CPU間の調整も必要です。TLB無効化はコストを伴うため、性能測定ではページ数だけでなく、対応を作成・破棄する頻度も確認します。ユーザープログラムが独自にページテーブルを直接変更して解決するものではありません。
同じ容量でも触るページ数は変わる
4KiBページを仮定し、連続した256バイトを一つのページ内で読む場合と、64ページから4バイトずつ読む場合を比べます。どちらも読んだデータ量は256バイトですが、後者は最大64個の異なるページの変換を必要とします。TLBの負担を考えるには、データのバイト数だけでなく、触れたページと再利用の順序が重要です。容量64エントリというだけで必ず全変換が同時に入るとも言えません。実際の集合への配置や他のアクセスとの競合があります。ページサイズを変える対策は、メモリの断片化や確保の費用も含めて評価します。