適用後の応答だけを失わせる
この実験では在庫10から一つを引く要求order-7を、ローカルの別プロセスへ送ります。サーバーは在庫と要求IDをSQLiteへ確定した後、最初の応答だけを送らず接続を閉じます。クライアントは応答の終端を受けますが、処理が行われなかったとは判断できません。同じIDと同じ内容を再送すると、保存済みの在庫9が返ります。前提は冪等な要求と結果不明です。ネットワークの全障害を再現するのでなく、適用と応答の境界を制御した一つの履歴を作ります。
三回目は同じIDへ数量2という異なる内容を付けます。サーバーは新しい注文として実行せず、id-payload-mismatchを返します。IDが一致すれば何でも同じ成功を返す設計では、利用者の別の依頼を隠すためです。今回の内容は数量という単純な値で比較します。実APIへ広げるなら、認証主体、対象資源、正規化した内容、保持期間を決めます。別利用者の同じ文字列IDを一つにまとめてよいとは限りません。
標準ライブラリで二つのプロセスを動かす
コードをretry.pyへ保存し、Python 3.12以降でpython retry.pyを実行します。multiprocessingのspawnを使うので、対話端末へ関数ごとに貼るのでなく、ファイルとして実行してください。親がクライアント、子がサーバーです。子は127.0.0.1の空いているポートへbindし、Pipeで実際のポートを親へ通知します。固定のsleepで起動を推測せず、通知を受けてから接続します。外部の決済や注文APIは使いません。
SQLiteファイルはTemporaryDirectoryの中だけに作ります。stockは初期値10、requestsはID、数量、保存した結果を持ちます。サーバーは三回の接続を処理して終了します。ネットワークの待ちと親のjoinには上限があり、失敗時にはfinallyで子を停止します。サーバーが起動しなかったのに親だけ待ち続ける状態を避けます。正常終了の期待値は後述のassertと一行の結果で、例外を全て無視することで成功扱いにしていません。
IDの記録と在庫更新を同じ確定へ置く
サーバーは受け取ったIDを先に照会します。初回なら、在庫の減算とrequestsへの結果の挿入を同じwith dbのトランザクションへ置きます。既存のIDなら数量を比較して、保存済みの結果か不一致を返します。初回のdropは確定が終わった後に応答を省く指定です。したがってクライアントのEOFは、ここでは未適用の証拠ではありません。コードを読む際は、トランザクションを出る行とsendallの行を別の境界として印を付けてください。
このサーバーは接続を順に処理するため、二要求が同時に初回の照会を通る競合は実験していません。実装を並列化する場合は一意制約と競合時のトランザクション処理を検証します。SQLiteのローカル停止模型を、別DBの全分離レベルの証明へ一般化しません。また保存済みの結果を返すので、後の別の注文で在庫が変わっても、この要求の結果は受付時の9です。現在の在庫照会と要求の結果照会を区別してください。
import json,multiprocessing as mp,socket,sqlite3,tempfile
from pathlib import Path
def serve(path,ready):
with socket.socket() as listener:
listener.bind(('127.0.0.1',0));listener.listen()
ready.send(listener.getsockname()[1]);ready.close()
for _ in range(3):
connection,_=listener.accept()
with connection,connection.makefile('r') as stream:
request=json.loads(stream.readline())
db=sqlite3.connect(path)
try:
with db:
old=db.execute('SELECT amount,result FROM requests WHERE id=?',(request['id'],)).fetchone()
if old:
response={'stock':old[1]} if old[0]==request['amount'] else {'error':'id-payload-mismatch'}
else:
db.execute('UPDATE stock SET value=value-?',(request['amount'],))
value=db.execute('SELECT value FROM stock').fetchone()[0]
db.execute('INSERT INTO requests VALUES(?,?,?)',(request['id'],request['amount'],value))
response={'stock':value}
if not request.get('drop'):
connection.sendall((json.dumps(response)+'\n').encode())
finally: db.close()
def call(port,payload):
with socket.create_connection(('127.0.0.1',port),timeout=5) as connection:
connection.sendall((json.dumps(payload)+'\n').encode())
with connection.makefile('r') as stream:
line=stream.readline()
if not line: raise EOFError('response intentionally lost')
return json.loads(line)
if __name__=='__main__':
with tempfile.TemporaryDirectory() as directory:
path=str(Path(directory)/'orders.db')
with sqlite3.connect(path) as db:
db.executescript('CREATE TABLE stock(value INTEGER);INSERT INTO stock VALUES(10);CREATE TABLE requests(id TEXT PRIMARY KEY,amount INTEGER,result INTEGER);')
context=mp.get_context('spawn');parent,child=context.Pipe(duplex=False)
server=context.Process(target=serve,args=(path,child));server.start();child.close()
try:
assert parent.poll(10);port=parent.recv()
try: call(port,{'id':'order-7','amount':1,'drop':True})
except EOFError: pass
else: raise AssertionError('response was not dropped')
assert call(port,{'id':'order-7','amount':1})=={'stock':9}
assert call(port,{'id':'order-7','amount':2})=={'error':'id-payload-mismatch'}
server.join(10);assert server.exitcode==0
with sqlite3.connect(path) as db:
assert db.execute('SELECT value FROM stock').fetchone()==(9,)
assert db.execute('SELECT count(*) FROM requests').fetchone()==(1,)
print('applied=1 response_lost=1 retried=1 stock=9 recorded_ids=1 mismatch=rejected')
finally:
if server.is_alive():server.terminate();server.join()
parent.close()
応答と永続状態を両方assertする
最初のcallではEOFErrorを期待して捕まえ、それ以外の結果なら試験を失敗させます。二回目はstock=9、三回目は内容不一致です。最後にサーバーの終了コード0、DBの在庫9、記録ID一件を確かめます。出力はapplied=1、response_lost=1、retried=1などの固定された状態です。応答が返ったという事実だけでなく、業務効果が一度だったことを永続状態で確認します。このコードは掲載した入力について実行済みです。
IDを記録するだけ先に確定して、その後で在庫を変える変更では、間に止まると「処理済みなのに減っていない」状態が生まれます。逆順の別トランザクションでは、在庫だけ変わって記録が残らない状態になります。同じトランザクションの境界が必要な理由です。外部の実決済をDBの外へ追加した場合、その効果はこの境界へ入っていません。今回の一回という結果を、新しく追加した外部APIへそのまま広げないでください。
再起動と保持期間は別に検証する
このプログラムはサーバーを一度起動して三回の接続を処理します。SQLiteへ結果を保存していますが、サーバーを途中で再起動して照会する試験までは行っていません。プロセスを再起動する拡張では、同じファイルを開き、最初の要求のIDと結果が残ることを確認します。メモリだけの辞書へ置き換えた版と同じ保証とはしません。
また、要求IDを削除した後の再送は新規に見える場合があります。IDの保持を実際の再送期間と合わせ、利用者や資源の単位を定めます。この短い固定入力で一回だったことを、永久に同じIDを認識する実装へ広げないでください。数量や利用者の範囲を変えたときは、不一致の判定が何を守るかを改めてassertします。
IDと障害位置を変える課題
課題は二回目をorder-8という新しいIDへ変えた場合です。解答は別の要求としてもう一度数量1を引き、在庫8になり得ます。元のassertを変更せずに試すと失敗しますが、それは新しい仕様との差を正しく検出した結果です。再送するたびに新IDを作るクライアントでは、サーバーが元の要求と判断できないことを説明してください。次に数量を変える場合はIDも変えるべきか、前の結果を取り消す別操作なのかを業務の意味から決めます。
追加課題はdropをトランザクションの前へ移す案です。解答では、接続の喪失は同じように見えても、DBへ未適用という別の履歴になったと説明します。クライアントの観測だけで両者を区別できないことが、結果不明の要点です。二つの実行を同じ証跡へ混ぜず、停止位置を明記します。終わったら子プロセスが終了し、一時DBは削除されます。ファイルを開いた別プロセスを追加した拡張では、その接続も閉じてから片付けます。