何を待っているかを先に決める
I/Oの待ち方を比べるときは、関数が返ること、操作を開始できそうなこと、依頼した操作が終わることを分けます。ブロッキングreadは、データやEOF、エラーなどの結果を返せるまで呼び出し元を待たせる場合があります。ノンブロッキングreadは、今は進められなければEAGAINなどを返します。この違いは、アプリがメッセージを一つ受け取ったかどうかとは別です。TCPから返るのはバイト列なので、固定長や長さフィールドなどの上位規則に従って組み立てます。同期か非同期かという一語だけで、操作とメッセージの単位をそろえたことにはなりません。
準備通知は実際のreadを代行しない
epollは、登録した記述子について準備状態を通知します。通知を受けた後にも、アプリはreadなどの操作を行い、その戻り値を確認します。別の処理が先にデータを消費した場合、通知後のreadがEAGAINになることもあります。通知を受けたから100バイトそろっていると決めたり、戻り値を見ずにバッファ全体を処理したりしません。EOFと一時的な待機も区別します。準備通知を使う利点は、待ちの多い接続を一つの処理系で管理しやすいことです。一方で、各接続の受信済み量や未完了のメッセージを保持する責任はアプリに残ります。
完了通知には元の依頼を対応付ける
io_uringでは要求をSQEとして投入し、結果をCQEとして受け取ります。二件のreadを同時に進めるなら、投入した順番と完了した順番が一致するとは限りません。識別情報を使って元の要求へ対応付けます。完了の結果が30バイトなら、100バイトを依頼していても残り70バイトをどう扱うか決める必要があります。非同期なら常に全長が返るという規則ではありません。また、操作が参照している間は、バッファや関連状態の寿命を保ちます。通知を受け取る方法が変わっても、部分進行と資源管理の責任はなくなりません。
部分受信の状態を手で追う
100バイトの要求本文を受けたいとし、readの結果が40、30、30バイトだったとします。受信済み量は40、70、100と進み、次の読み込み先はバッファの先頭ではなく、受信済み量だけ進めた位置です。途中でEAGAINなら状態を保持して待ち、EOFなら必要な全長へ届いたかを判定します。元の100バイトを毎回最初から上書きする実装は、先に得たデータを壊します。この計算はインターフェースの進行を説明する例です。実際の通信が必ず三回に分かれることや、ネットワークのパケット境界を表すものではありません。
大量に投入する前に上限を設ける
待機を効率化しても、投入し続ける処理量が消費速度を超えれば、バッファや待ち行列が増えます。接続数、未完了要求数、一接続当たりの保留量に上限を設け、受け入れを遅らせるか断る条件を決めます。edge-triggeredの処理で一つの接続を読み続けると、他の接続の処理が遅れる場合もあるため、作業キューと公平性を考えます。タイムアウトやキャンセルの後にも、実際に完了するまで参照が残る操作がないかを確認します。利用者が待つのをやめたことと、カーネルがバッファを使い終えたことを同じ瞬間とみなしません。
比較する負荷と機能をそろえる
性能を比べるなら、要求サイズ、接続数、同時実行数、キャッシュ状態、同期保証をそろえます。CPU使用率だけが低くても、待ち時間や未処理量が増えていれば改善とは限りません。対応操作や権限制限はカーネルや実行環境でも変わります。まず正しい結果と部分受信、切断、キャンセルの処理を確認し、その後で負荷を変えて測定します。名前の新しいAPIへ置き換えたことだけを高速化の証拠にしません。準備通知と完了通知のどちらを選ぶかは、処理の種類と状態管理の設計に結び付けて判断します。