障害・アンチパターン図鑑 · 基礎から応用へ

Thundering herd

少数の仕事に多数の待機者が起きる状況を追い、条件確認と通知の粒度を設計します。

この記事をロゲイアに質問する確認問題3問に進むこれまでの誤答を復習する

更新日

この記事の目次
  1. 一つの通知で多数が起きる
  2. 一件の仕事へ32人が集まる例
  3. 準備完了と予約済みを区別する
  4. 通知の粒度と待ち方を調整する
  5. この記事をロゲイアに質問する理解を確かめる

一つの通知で多数が起きる

Thundering herdは、同じイベントを待つ多数の処理が一斉に起床し、少数の資源へ競合する現象です。例えば仕事が一件だけ到着したのに全ワーカーへ通知すると、大半は何も得られず再び待機します。起床やロック取得の費用が増え、役に立つ仕事よりも調整へ時間を使う場合があります。キャッシュミスを契機に同じデータを全員が再取得するキャッシュ雪崩とは、重なることがあっても切り分けて考えます。

一件の仕事へ32人が集まる例

32本のワーカーが条件変数で同じキューの非空状態を待つ模式例を考えます。一件の投入にbroadcastすると32本が起きますが、一件を取り出せるのは一つです。他のワーカーはロックを再取得し、条件を確認して待ち直します。通知は取り出し権の予約ではありません。起床後に条件を再検査するループは、余分な起床や競合があっても正しく振る舞うために必要で、性能問題を避けるために省略してはいけません。

準備完了と予約済みを区別する

I/O多重化でも、準備完了の通知を複数の待機者が受け取る場合があります。Linux epollには特定の使い方で排他的な起床を助けるEPOLLEXCLUSIVEがありますが、通知先や利用できるフラグの組合せには制約があります。これを使えばアプリ側のロックや条件確認が不要になるわけではありません。起床数、実際に処理した仕事数、空振りした取得、CPU時間を対応させて、単なる高負荷と区別します。

通知の粒度と待ち方を調整する

仕事一件で一人を起こせばよいならsignalや限定した通知を検討し、全員が進むべき状態変化にはbroadcastを使います。ジョブの振り分け、待機キューの分割、適切なバッチ化も候補です。ただし通知を減らしすぎると、処理できる仕事が残っているのに誰も起きない設計ミスを招きます。状態の変更と通知の規則を一緒に設計し、仕事が到着する瞬間だけでなく、停止や終了を知らせる場合も確認します。

読了と問題の結果を、言語ごとにこのブラウザへ保存します。

コースの順番に沿って学ぶ

CS基礎を固める · STEP 18

サーバーの中で起きていること · STEP 15

学習コースから次を選ぶ