設計パターン・最適化図鑑 · 基礎から応用へ

Read-throughキャッシュ

キャッシュミス時の読み込みをまとめ、同時要求・データ不存在・通信失敗を区別して扱います。

この記事をロゲイアに質問する確認問題3問に進むこれまでの誤答を復習する

更新日

この記事の目次
  1. ミス時の責務を移す
  2. 同じキーへ100件が到着する場合
  3. 存在しない値と障害を分ける
  4. 鮮度と運用指標を設計する
  5. この記事をロゲイアに質問する理解を確かめる

ミス時の責務を移す

Read-throughでは、アプリがキャッシュへ問い合わせ、値がなければキャッシュ層のローダーが正本へ取りに行きます。アプリ側でミスを判定してDBを読むCache-Asideとは、読み込みを担当する場所が違います。商品取得のたびに同じミス処理を書く必要は減りますが、ローダーの失敗や待ち時間も全利用者に影響します。単に辞書に値を入れるだけでは、この責務の統一は実現しません。

同じキーへ100件が到着する場合

商品42が失効した直後に100件の要求が来ると、単純なローダーは100回DBへ問い合わせる可能性があります。キー単位で読み込み中の処理を共有すれば、1件の取得を他の要求が待てます。ただし商品42の待機を商品43まで止める必要はありません。全体ロックでローダーを囲むと、無関係なキーの処理も直列化されます。読み込みの重複と、異なるキー間の並行性を分けて考えます。

存在しない値と障害を分ける

正本が商品不存在と答えた結果は、短いTTLで負のキャッシュに保存できる場合があります。一方、接続タイムアウトを不存在として保存すると、障害復旧後も商品が見つからない表示になります。不存在、権限拒否、読み込み失敗を別の結果にします。利用者別の価格などを保存する場合は、キーに必要な認可の文脈を含めます。同じ商品IDだから同じ利用者向けの値とは限りません。

鮮度と運用指標を設計する

キャッシュに入れた値は正本が変わっても自動では更新されません。TTL、更新通知、書き込み経路との連携のどれで鮮度を保つかを決めます。ヒット率が高くても、少数のミスが極端に遅ければ利用者の待ち時間は悪化します。ヒットとミスの遅延を分け、同時ロード数、正本への問い合わせ数、例外率を確認します。ローダーを共通化したことと、整合性が保証されたことは別です。

不存在の短いキャッシュでも、新規作成直後のデータはしばらく見えない場合があります。作成処理から負のキャッシュを削除するか、許容する待ち時間をTTLとして定めます。読み込みを統一した後も、更新時の振る舞いは業務ごとに残る判断です。

読了と問題の結果を、言語ごとにこのブラウザへ保存します。

コースの順番に沿って学ぶ

サーバーの中で起きていること · STEP 12

学習コースから次を選ぶ