実行中に得た情報を最適化へ使う
同じ関数が何度も呼ばれると、実行時の処理系は、どの経路が多いか、どんな値が現れたかといった情報を得られます。JITは実行中にコードをコンパイルする仕組みです。その中には、観測した傾向を基に、よく現れる場合へ適したコードを作るものがあります。ただし、これまで整数しか来なかったという履歴は、これからも整数しか来ないという言語上の保証ではありません。
ここでの中心は、速いコードを作ることと、今までと異なる入力でも正しい振る舞いを保つことを、どう両立するかです。構文・意味・型の総論を読んでから、ソースの意味、実行時の観測、処理系の判断を分けて追ってください。JITを使う処理系がすべて同じ段階や名称を持つわけではありません。この教材の履歴は説明用の模型であり、特定版のV8やHotSpotから採取したログではありません。
足し算の意味と入力履歴を対応させる
JavaScriptのfunction combine(a, b) { return a + b; }を考えます。数値の2と3なら結果は5ですが、文字列の"2"と数値の3なら"23"になります。この二つの意味を同じ整数加算へ無条件に置き換えることはできません。型の教材で定義した小言語の+が整数だけを受け入れる場合とも、言語の規則が違います。演算子の見た目が同じだからといって、意味を引き継がないでください。
説明用の履歴では、最初の千回に数値が来たとします。処理系がその情報を利用するなら、数値向けの処理を選びやすくする可能性があります。千一回目に文字列が来ても、必要な結果は言語の規則に従う"23"です。履歴が多い方を正解とみなす仕組みではありません。入力の分類、使おうとする仮定、仮定が外れた場合の処理を一組にすると、何を守る最適化なのかが明確になります。
ガードは仮定を使ってよいか確かめる
ガードは、最適化した経路が必要とする条件を実行時に確かめる検査です。先の模型では、入力が数値として扱えることを確かめてから、対応する処理へ進むと考えます。ガードが失敗した場合には、一般的な処理へ移る、別の経路を選ぶ、脱最適化へ進むなど、処理系に応じた方法があります。すべての検査失敗が必ず同じ形の脱最適化になるわけではありません。
ガードの条件は単にソースに書いた型名だけとは限りません。オブジェクトの形、呼出し先、数値の表現範囲など、最適化が依存する条件もあります。たとえば、値の範囲を狭く見積もった経路は、その範囲から外れた入力への対応も持つ必要があります。どの条件を検査するかは処理系の設計です。教材の図では「仮定が真なら専用経路、そうでなければ意味を保つ経路」と書き、実装していない具体的な命令列を実物のように載せないようにします。
脱最適化では続きを正しく再開する
脱最適化は、最適化された実行状態から、より一般的な表現で実行を続けられる状態へ移す処理です。単に関数の先頭へ戻して最初から実行すればよいとは限りません。すでに外部へ出した書込み、送信、カウンタの増加などを重ねて実行すると、言語が定めた振る舞いを変えてしまいます。どこまで実行済みか、どの値が必要かを復元する責任があります。
最適化によって変数が消えていたり、複数の呼出しがインライン化されていたりすると、ソースと機械コードは一対一には対応しません。処理系は、再開に必要なフレームや値を再構成するための情報を持ちます。スカラー置換で独立した割当てが消えたオブジェクトも、一般的な経路へ渡すために形が必要になる場合があります。この説明は、割当て実験でnewと実割当てを分けた話ともつながります。最適化が表現を変えるほど、意味を保って戻るための情報も重要になります。
履歴・判断・外から見える結果を並べる
説明用の履歴を三段階で書きます。第一段階は数値入力が続く期間で、処理系は情報を集めます。第二段階は条件に依存した最適化を使う期間で、必要な検査を伴います。第三段階では異なる入力が来て、仮定を使えない場合の経路へ移ります。どの段階でもcombineの結果はJavaScriptの規則に従わなければなりません。呼出し回数だけを、特定の処理系で最適化が起こる閾値として使わないでください。
実装によっては、その後に新しい情報を集め、別のコードを作ることもあります。ただし、必ず一回の脱最適化後に永久に遅くなる、あるいはすぐ同じコードへ戻るという一般則はありません。読み手が確認すべきなのは、観測した事実と、そこから推測した処理系の選択です。表へ記すなら、入力、言語上の結果、仮定、仮定を使えない場合の扱いを別の列へ置くと、性能の話と正しさの話を混ぜずに済みます。
| 説明用の段階 | 入力・仮定 | 必要な結果 |
|---|---|---|
| 観測 | 数値2と3が続く | 5 |
| 専用経路の候補 | 数値の条件を検査 | 5 |
| 条件が変わる | 文字列"2"と数値3 | "23" |
遅くなっただけでは原因を断定しない
入力を変えた直後に処理時間が増えても、それだけで脱最適化の証拠にはなりません。GC、初回の準備、キャッシュ、OSのスケジューリング、計測そのものなど、時間へ影響する別の要因があります。脱最適化が起きたと主張するなら、対象の版で利用できる診断情報を取得し、どの関数のどの事象かを測定区間と対応させる必要があります。
ログのフラグや形式は処理系と版に依存します。この教材は実測ログを載せていないため、架空のdeopt行を出力例にはしません。実験を追加するときは、ランタイムの正確な版、コマンド、入力履歴、ウォームアップ、採取した生ログを保存します。診断フラグを有効にした実行と、通常の性能測定の費用も違う可能性があります。まず結果の意味を確認し、その後に繰り返し測定と原因の裏付けを行う順序が適切です。
仕様上の型と実行時の傾向を分ける
静的な型検査が許す操作と、JITが観測から選ぶ表現は別の層です。型が数値であると分かっても、その値が特定の小さな範囲に収まるとは限りません。逆に、動的な言語でも実行履歴から専用の経路を作る場合があります。静的なら必ず速い、動的なら最適化できないという比較では、どの保証をどこで得ているかが抜け落ちます。
AOTとJITも、最適化の有無そのものを分ける二択ではありません。事前にコンパイルしたコードが実行時の検査を持つ場合も、実行中の処理系が複数の表現を使う場合もあります。比較する際は、コンパイルする時点、利用できる情報、仮定を守る方法、失敗時の処理を挙げてください。処理系の名前だけで説明するより、どの情報を根拠にどの変換が許されるかが見えます。
戻り値が同じでも例外の順序を守る
最適化で保つ振る舞いには、正常時の戻り値だけでなく、例外が起きる順序も含まれます。左側で失敗する式と右側で記録を書き込む式を、根拠なく並べ替えると、元は起きなかった記録が残る場合があります。定数畳込みの実験で0*(1/0)を単純に0へ消さなかった理由も同じです。速い経路を作る説明では、成功時だけを見ず、失敗と副作用の契約も一緒に追ってください。
課題は副作用を重ねない再開点を考える
課題として、combineを呼ぶ前に記録件数を一つ増やす処理を置き、呼出し中に仮定が外れた場合を考えます。解答では、すでに行った件数の増加をもう一度行わず、必要な引数と続行位置を保つことが必要です。関数の先頭へ戻すだけでは、この条件を満たすとは限りません。説明用の図へ「実行済みの副作用」と「再開に必要な値」を書き足してください。
次に、割当て実験でlocalBytesが0だった事実から、このcombineで脱最適化が起きたと言えるか考えます。答えは言えません。対象の処理系もコードも指標も異なります。最後に、千回という履歴を一万回へ変えても、この教材の意味上の結果が変わるか考えてください。正しい結果は変わりません。実装の判断がどう変わるかは、別途その版で観測する問いです。