出来事の時刻と処理の時刻を分ける
売上イベントを五分ごとに集計するとき、端末で売上が起きた時刻と、集計サービスへ届いた時刻は同じとは限りません。通信が止まった端末から、後でまとめて届くこともあります。Event timeは出来事へ付いた時刻、processing timeは処理系が扱う時刻です。前提はメッセージの履歴と時刻の違いです。このガイドでは同じイベントの到着順を変え、どの窓へ入り、いつ結果を出し、遅れた入力をどう直すかを追います。物理時計の正確さも入力側の前提なので、時刻があるだけで真実の発生時点を証明したとはしません。
例はAが10:01に100、Bが10:04に200、Cが10:02に40の売上です。Event timeの窓[10:00,10:05)なら三つとも入り、合計340です。Cが10:06に届いても、出来事の窓そのものは変わりません。Processing timeで分けるなら、Cは到着時の別の窓に入る場合があります。どちらを正解とするかは、発生した売上を数えたいのか、処理した量を測りたいのかという業務の問いで決めます。
窓の境界と状態を明示する
五分窓を下端を含み上端を含まない区間とし、10:05のイベントは次の窓へ入れます。窓ごとに合計や件数を持ち、イベントを受け取るたび更新します。必要な状態は窓の幅だけではなく、キー数、許す遅延、集計する情報にも依存します。商品ごとに窓を分ければ、同じ時間幅でも状態が増えます。セッション窓など別の方式へ広げる場合は、結合や終了の規則も変わるので、固定の五分窓と同じ表で済ませません。
A、Bが先に届くと合計300です。この値をすぐ表示するなら、それは後から変わり得る暫定結果です。最初の結果が早いことと、確定した結果を早く得ることは違います。利用者の画面や下流へ、窓ID、版、訂正の意味を渡す設計が考えられます。同じ窓の新しい合計を追記として受け取る側が、300と340を足して640にしてはいけません。更新、取消し、再計算のどの形式かを送信と受信で揃えます。
watermarkは処理を進める目安である
Watermarkは、Event timeの進行について処理系へ伝える値です。採用した生成規則の下で、ある時点より古いイベントをどう扱うかを決める助けになります。しかし「これ以前の全データが確実に届いた」という数学的な証明として一般化しません。送信元の遅延、停止、時計の誤りがあれば、watermarkより古いイベントも届き得ます。公式仕様へ合わせ、誰がどの入力からwatermarkを作り、複数入力でどう合成するかを確かめます。
説明用にはwatermarkが10:05へ進んだら[10:00,10:05)の最初の結果300を出すとします。まだCが届いていないので、最終の340とは違います。出力する条件を満たしたことと、全入力を知ったことを別に読みます。実処理系は時刻の最小単位や窓の終端の扱いも定めるため、ここでの分単位の表をAPIへ移すときはその境界を照合します。watermarkを処理時間の現在値と同じにする規則も、遅延のない入力という別の前提を置くことになります。
許容遅延の中なら訂正する
許容遅延を窓の終わりから二分とし、watermarkが10:06のときCが届く例です。必要な窓の状態をまだ保持していれば、40を足して340へ訂正できます。watermarkが10:07を越え、状態を片付けた後に同じ古い窓のイベントが来た場合は、捨てる、別出力へ出す、後日まとめて再計算するなどの契約を決めます。許容遅延という設定があれば、無限に古い入力まで自動で直せるとはしません。
Dが10:04の売上4で、watermark10:08の後に到着したなら、この例の通常の窓結果は340のままになる場合があります。全てを保管して後で再計算した344とは違います。これは同じデータを間違って足したというより、受付ける遅延の仕様の差です。ただし利用者が完全な売上を必要とするなら、その差を放置できません。遅延の別出力を照合し、後から訂正する経路と表示上の意味を用意します。早い処理と最終的な完全性の条件を合わせて選びます。
| 到着・進行 | 保持した合計 | 出力の意味 |
|---|---|---|
| A、Bが到着 | 300 | まだ暫定 |
| watermark10:05 | 300 | 初回結果 |
| Cが10:06で到着 | 340 | 許容内の訂正 |
| 片付け後にD | 通常経路は340 | 別出力・再計算の方針へ |
遅い入力と止まった入力を扱う
複数の入力を待つ演算では、ある入力のwatermarkが止まると、全体の進行も止まる方式があります。データの来ない入力をidleとして扱う設定は進行を助けますが、復帰して古いイベントを送った場合の遅延方針が必要です。止まった入力を無視したから全データが届いたことにはなりません。watermarkの進行、入力の状態、保有する窓数、最古の状態を観測します。CPUが空いていても状態が増えているなら、単なる演算能力の不足とは限りません。
一つの端末が誤って未来の時刻を送る場合もあります。最大時刻だけから進行を作る方式では、ほかの正常なイベントが急に遅延扱いになる危険があります。許す時刻の範囲と異常入力の扱いを決めます。現在時刻へ全て直すと元の出来事の意味が変わるので、その変換を隠さないでください。最終結果の完全性を重視する業務では、端末の訂正と再投入、日次の照合など、時刻モデル以外の復旧も必要になります。
再実行と外部出力の保証を分ける
障害後に入力を再生すると、窓の合計や出力も繰り返される可能性があります。状態と入力位置を一貫して復旧する仕組み、出力先で同じ結果を二重に扱わない仕組みを確認します。Watermarkは重複排除のIDではありません。ある処理系でexactly-onceと説明される場合も、対象が内部状態なのか、採用した出力先まで含むのかを仕様で読みます。別の外部APIへ送った通知まで同じ保証になると勝手に広げません。
窓結果の更新は、同じ窓IDへ新しい版を置く形なら受信側で置換できますが、追記の合計へそのまま足す形なら二重になります。訂正と配送再送の両方を試験する必要があります。入力順を変えて同じ最終状態になるか、許容遅延を越えたときの別出力が期待どおりか、再起動後に何回の効果が出たかを分けて確認します。このガイドの表は手計算の模型で、Flinkクラスタの障害試験を実施した記録ではありません。採用実装の検証範囲は別に示します。
同じイベント集合を別の到着順で追う
A、B、Cが全て保持期間内に届くなら、A→B→CでもC→A→Bでも、同じ窓の合計は340です。ただし途中で出す値は違います。後者で最初の出力をCの40として許すか、一定の進行まで待つかは出力方針です。最終の合計が同じという検査と、利用者へ何版の途中結果を見せるかの検査を分けます。遅延の受付を変えた場合は、もはや同じ入力集合を集計したという前提でもありません。
原入力のIDを保管していれば、別の到着順や再送を同じ集合として比較する助けになります。しかしそのIDでいつまで重複を認識するかも、窓の保持とは別の期間です。集計状態を片付けた後に同じ売上が来たとき、重複として捨てるか、遅延の別出力へ送るかを決めます。時刻、集合、保持、重複の各規則が合って初めて、再処理で同じ答えを得るという説明が成立します。
訂正が多い場合、利用者が見た版と、その後に置き換えた版を対応させて確認します。単に最新の合計だけを残すと、途中の誤解や二重計算の原因を再構成できません。
二種類の遅延イベントを判断する課題
課題はCの10:02・40がwatermark10:06で届いた場合と、Dの10:04・4が10:08で届いた場合です。窓終わり10:05、許容二分の模型なら、Cは状態を保持して340へ訂正し、Dは通常の保持期間を越えるので別出力などへ進む、という解答です。後から全イベントをまとめて計算した344を最終的に必要とするなら、その再計算と訂正を契約へ追加します。watermarkの進行だけを全データの到着確認と呼んではいけません。
追加課題は10:05ちょうどのイベントの窓です。半開区間なら[10:05,10:10)へ入ります。到着が10:06かどうかでEvent timeの所属を変えません。出来事の時刻、到着、進行、保持、出力の版の五つを同じ履歴へ描ければ到達点です。バッチとストリームの比較では、同じ売上集合へこの契約を置き、結果をいつ確定したいかで方式を比べます。