同じ操作を複数の要素へ適用する
SIMDは、一つの命令で複数のデータ要素へ同種の操作を行う考え方です。レーンは、その命令で扱う要素の位置として理解できます。例えば同じビット幅のベクトルでも、32ビット整数を扱う場合と64ビット整数を扱う場合では要素数が変わります。レーン数をCPUコア数と同一視することはできません。一つのコアがベクトル命令を実行し、その中で複数要素を処理する場合もあります。命令の見かけの幅と内部で使う実行資源も、実装によって異なります。
256ビットの足し算を数える
256ビットのベクトルへ32ビット整数を詰めるなら、要素数は256÷32=8です。長さ10の配列を足す例では、最初の8要素を一回分として扱い、残り2要素を別に処理する必要があります。端数をスカラ命令で処理する方法や、対応する命令でマスクを使う方法があります。配列の外側まで読み込んでよいという意味ではありません。型の幅、符号、演算のオーバーフロー規約も、元のスカラ実装と同じ結果になる条件として確認します。
依存とデータ配置が変換を左右する
配列の各要素を独立に足す処理はSIMDへ分けやすい一方、前の要素の計算結果を次の要素で使う処理には依存関係があります。複数のフィールドを交互に並べる構造体配列では、同じフィールドだけを集める追加操作が必要な場合があります。連続した要素、適切な整列、別名参照がないことなどの情報は、コンパイラが変換の正しさを判断する材料です。変換できないときは、ベクトル化の指定を増やす前に、どの依存やアクセスが制約なのかを確認します。
帯域と周波数も含めて評価する
SIMDで命令数を減らしても、必要なデータをメモリから運ぶ帯域が上限なら、幅に比例して速くなるとは限りません。命令の種類によっては周波数や実行ポートの制約も影響します。小さい配列では準備や端数処理の割合が大きくなります。比較では同じ入力と出力の正しさを確かめ、配列長を変えて傾向を調べます。命令数が減った結果としてIPCが下がっても、処理全体は速くなる場合があるため、命令数・周期数・実時間を分けて読みます。