一つの通知で多数が起きる
Thundering herdは、同じイベントを待つ多数の処理が一斉に起床し、少数の資源へ競合する現象です。例えば仕事が一件だけ到着したのに全ワーカーへ通知すると、大半は何も得られず再び待機します。起床やロック取得の費用が増え、役に立つ仕事よりも調整へ時間を使う場合があります。キャッシュミスを契機に同じデータを全員が再取得するキャッシュ雪崩とは、重なることがあっても切り分けて考えます。
一件の仕事へ32人が集まる例
32本のワーカーが条件変数で同じキューの非空状態を待つ模式例を考えます。一件の投入にbroadcastすると32本が起きますが、一件を取り出せるのは一つです。他のワーカーはロックを再取得し、条件を確認して待ち直します。通知は取り出し権の予約ではありません。起床後に条件を再検査するループは、余分な起床や競合があっても正しく振る舞うために必要で、性能問題を避けるために省略してはいけません。
準備完了と予約済みを区別する
I/O多重化でも、準備完了の通知を複数の待機者が受け取る場合があります。Linux epollには特定の使い方で排他的な起床を助けるEPOLLEXCLUSIVEがありますが、通知先や利用できるフラグの組合せには制約があります。これを使えばアプリ側のロックや条件確認が不要になるわけではありません。起床数、実際に処理した仕事数、空振りした取得、CPU時間を対応させて、単なる高負荷と区別します。
通知の粒度と待ち方を調整する
仕事一件で一人を起こせばよいならsignalや限定した通知を検討し、全員が進むべき状態変化にはbroadcastを使います。ジョブの振り分け、待機キューの分割、適切なバッチ化も候補です。ただし通知を減らしすぎると、処理できる仕事が残っているのに誰も起きない設計ミスを招きます。状態の変更と通知の規則を一緒に設計し、仕事が到着する瞬間だけでなく、停止や終了を知らせる場合も確認します。