障害・アンチパターン図鑑 · 基礎から応用へ

キャッシュ雪崩:失効時に集中する再計算

同じキーの失効と多数キーの同時失効を区別し、再計算を制御します。

この記事をロゲイアに質問する確認問題3問に進むこれまでの誤答を復習する

更新日

この記事の目次
  1. キャッシュミスが負荷になる
  2. 人気キー一つの事例
  3. 失効の分散と古い値の利用
  4. 元データを守る検証
  5. この記事をロゲイアに質問する理解を確かめる

キャッシュミスが負荷になる

キャッシュの失効直後、同じデータへの多数の要求が同時にミスすると、それぞれがDB照会や再計算を始める場合があります。キャッシュがある通常時には隠れていた元データ側の負荷が、一度に表面化します。これがキャッシュ雪崩の一つの形です。

同じ人気キーへの集中と、多くのキーが同時に失効する場合は、対策の効き方が異なります。キャッシュのヒット率だけでなく、キーごとのミス、元データへの要求数、再計算中の同時実行を調べます。

人気キー一つの事例

あるランキングを一分ごとに計算し、千人が同じ時刻に閲覧するとします。失効直後の千要求がすべて再計算すると、同じ内容の仕事を千回行うことになります。必要なのは一回の新しい値でも、要求ごとに独立して処理すると負荷が増幅します。

同じキーの再計算を一つにまとめるsingle-flightなどが候補です。待機する要求の期限、再計算が失敗した場合、調停役が停止した場合も決めます。ロックを置くだけで待ちが無限になってはいけません。

失効の分散と古い値の利用

多数キーのTTLにばらつきを入れると、一斉失効を分散できます。ただし一つの人気キーに集中する場合、TTLのばらつきだけで同時ミスを解消したとは限りません。対象の負荷パターンに対応する対策を選びます。

更新中に古い値を返す設計もありますが、どれだけ古くてよいかは情報の用途に依存します。残高や権限のように誤った古さが重大な場合と、少し古いランキングを許せる場合を同じ規則にしないようにします。

元データを守る検証

修正後は、意図的にキャッシュが空の状態や失効直後を作り、元データ側の要求数が上限内に収まるか確認します。常にキャッシュが温まった状態だけ測ると、障害が起こる瞬間を試していないことになります。

再計算の同時実行数、キュー長、タイムアウトを制限し、失敗時に再試行が集中しないようにします。キャッシュ全削除が運用手順にある場合は、その直後の負荷も想定します。速度だけでなく、許された古さと正しいデータを守れているかを確認します。

読了と問題の結果を、言語ごとにこのブラウザへ保存します。

コースの順番に沿って学ぶ

サーバーの中で起きていること · STEP 16

学習コースから次を選ぶ