同じ場所と複数の場所を区別する
キャッシュコヒーレンスは、共有する一つの場所の値が複数のキャッシュでどう管理されるかに関係します。メモリ整合性モデルは、異なる場所も含むメモリ操作について、どの順序や観測が許されるかを規定します。同じ変数への書込みを整然と観測できる仕組みがあっても、別々の変数への操作がプログラムに書いた順で全員へ見えるとは限りません。比較では、どのCPUや言語のモデルを対象としているかも明示します。一般的な説明の例を、そのまますべてのプロセッサやC++の正しいプログラムとして実行できる仕様とみなさないことが大切です。
値と準備完了フラグの例
送信側がdataを42にしてからreadyを1にし、受信側がreadyを見てdataを読む例を考えます。ここで期待するのは、準備完了を見た読者が対応するデータを利用できることです。二つの変数を使っているため、各変数のコヒーレンスを述べるだけでは、両方にまたがる公開順序の保証になりません。言語で利用できる適切なロックや、条件を満たすrelease/acquireなどの同期が必要になります。単に普通の整数へ書き込んで忙しく待つコードを示し、キャッシュが一貫するから安全だと説明するのは、データ競合やコンパイラの変換を見落とします。
release/acquireにも対応する条件がある
一回だけデータを公開するC++の例なら、書き手がデータを作った後にatomicなreadyへreleaseで書き、読み手が対応する値をacquireで観測する関係を確認します。「どこかでacquireを使った」だけで、すべての古い書込みが自動的に見えるわけではありません。どの書込みを読んだか、公開後に別の書換えがないか、オブジェクトが生きているかも条件です。何度も同じフラグを再利用する場合やメモリを回収する場合には、追加の世代管理や所有権の設計が必要になることがあります。順序指定だけで寿命の問題まで解決したとは考えません。
コヒーレンスの費用は性能にも現れる
異なるスレッドが別々の変数を書いていても、同じキャッシュラインに載ると、所有権の移動などで互いの処理を遅くする場合があります。これは偽共有の典型的な問題です。論理的に別の変数だから必ずハードウェア上も独立した費用になるとは限りません。パディングや配置変更は対策候補ですが、キャッシュやTLBに使う空間を増やす副作用もあります。値が正しく見えるというコヒーレンスの性質と、速く進むことは別です。性能評価では実際の配置、書込み頻度、スレッドの実行位置を合わせて観察します。
CPUの話とデバイスの話を混ぜない
CPU同士でコヒーレンスが成り立つ範囲と、DMAなどのデバイスがメモリへ触る範囲は、同じ条件とは限りません。カーネルではデバイス用の同期やマッピングAPIを使う必要があります。CPU向けのバリアを置いたら、どのデバイスのキャッシュも必ず処理できるという説明は避けます。またLinuxのカーネル内の同期規則と、ユーザー空間のC++の規則も別です。教材のコードを移すときには、実行する場所の仕様に対応するAPIを選びます。対象を明示することで、正しかった限定付きの説明が、別の環境で誤った実装の根拠になるのを防ぎます。
正しさと測定を別々に確かめる
正しさの検討では、仕様上許される実行と、必要な同期の根拠を追います。たくさん実行して期待する値が出たことだけで、許されない実行が存在しないと証明できるわけではありません。性能測定では、データ競合をなくした有効な実装で条件をそろえ、レイテンシやコヒーレンスに関係する観測を比較します。ここでのdataとreadyは考え方を説明する例で、特定CPUでの実測結果ではありません。同じ場所の版の管理、異なる場所の順序、コンパイラの規則、オブジェクトの寿命を分けることが、この比較の実用的な結論です。