実験・実装 · 基礎から応用へ

接続の再利用と待ち時間を比較する

ローカルHTTP/1.1サーバーへの三要求で、接続を作り直す場合と再利用する場合の接続数・経過時間を比べます。

この記事をロゲイアに質問する確認問題3問に進むこれまでの誤答を復習する

更新日

この記事の目次
  1. 速さを決めつけず接続数を確かめる
  2. 応答本文を最後まで読む
  3. ローカルで二条件を実行する
  4. 時間に何が含まれるかを確認する
  5. 実際のサービスと違う条件を列挙する
  6. 接続が切れた後の再試行も別に扱う
  7. この記事をロゲイアに質問する理解を確かめる

速さを決めつけず接続数を確かめる

接続を再利用すると、毎回新しく接続する仕事を減らせる場合があります。この実験では外部サイトを使わず、ループバック上に小さなHTTP/1.1サーバーを起動します。三要求ごとに接続を作る場合と、一つの接続で三要求を処理する場合を比較し、サーバーが受け付けた接続数を数えます。経過時間も表示しますが、再利用が必ず何倍速いという答えは置きません。localhostには実際のインターネットの往復時間やTLSの処理がなく、Pythonのサーバーとクライアントの費用も含まれるからです。

応答本文を最後まで読む

再利用する接続では、一つ前の応答の境界を正しく扱う必要があります。このサーバーはContent-Lengthを返し、クライアントはresponse.readで本文を全て消費してから次の要求を送ります。途中の本文を残したまま次へ進む別のコードと混ぜないようにします。HTTPの接続再利用は、アプリのログイン状態を共有することや、全ての要求を同時に送ることと同じではありません。この例は一件ずつ順番に送るもので、パイプラインやHTTP/2の多重化を測っていません。何を再利用したのかを具体的に書きます。

ローカルで二条件を実行する

コードは空いているポートをOSへ選ばせ、127.0.0.1だけで待ち受けます。外部へ公開するためのサーバーではありません。新規接続の条件では三回、再利用の条件では一回だけ受け付けることをassertし、各応答が200で本文がokであることも確かめます。接続と待受けスレッドは最後に終了します。サーバーが停止しない試行や、応答が変わった試行の時間を成功例へ混ぜないようにしてください。実験が終わった後に同じポートが残る前提で、別の処理を続けないようにします。

Python 3
import http.client, threading
from http.server import BaseHTTPRequestHandler, ThreadingHTTPServer
from time import perf_counter
class Handler(BaseHTTPRequestHandler):
    protocol_version = "HTTP/1.1"
    def do_GET(self):
        body = b"ok"
        self.send_response(200)
        self.send_header("Content-Length", str(len(body)))
        self.end_headers()
        self.wfile.write(body)
    def log_message(self, *args):
        pass
class Server(ThreadingHTTPServer):
    accepted = 0
    def get_request(self):
        result = super().get_request()
        self.accepted += 1
        return result
with Server(("127.0.0.1", 0), Handler) as server:
    thread = threading.Thread(target=server.serve_forever)
    thread.start()
    try:
        for reuse in (False, True):
            before, connection = server.accepted, None
            start = perf_counter()
            for _ in range(3):
                if connection is None:
                    connection = http.client.HTTPConnection("127.0.0.1", server.server_port, timeout=3)
                connection.request("GET", "/")
                response = connection.getresponse()
                assert response.status == 200 and response.read() == b"ok"
                if not reuse:
                    connection.close()
                    connection = None
            if connection is not None:
                connection.close()
            elapsed = perf_counter() - start
            accepted = server.accepted - before
            assert accepted == (1 if reuse else 3)
            print({"reuse": reuse, "connections": accepted, "seconds": elapsed})
    finally:
        server.shutdown()
        thread.join()

時間に何が含まれるかを確認する

時間は各条件の三要求の直前から、最後の接続を閉じた後までです。サーバーの起動と停止は含めていません。DNS、TCP、TLS、アプリ処理、本文転送を全て分離した測定でもありません。ローカルで再利用側が遅く見えても、それだけで再利用が無意味と結論しないでください。バッファリングや小さい書込み、処理系のスケジュールなどが目立つ場合があります。反対に速く見えたとしても、別の環境で同じ比率になる保証はありません。接続数という機構の確認と、経過時間という環境依存の観測を分けます。

実際のサービスと違う条件を列挙する

外部のHTTPSでは名前解決、経路遅延、証明書検証、TLSの接続や再開、プロキシ、サーバー側の切断も関係します。プールで接続を使う構成には、貸出し待ちと上限もあります。再利用できる接続が残っていることと、待ち時間なしで借りられることは別です。この小さな手順を拡張するときは、HTTP版、暗号化、応答サイズ、要求数、並行度を一度に全て変えず、条件ごとに分けて測ります。実務のリクエストで同じ比較をする場合も、負荷をかけてよい対象と頻度を事前に限定します。

接続が切れた後の再試行も別に扱う

長く空いた接続は相手に閉じられている場合があります。再利用した要求が失敗したからといって、何でも自動で再送してよいわけではありません。読み取りと、外部の状態を変更する操作では重複実行の影響が異なります。接続の寿命、本文を最後まで読むこと、失敗時に結果が不明な場合の扱いを合わせて設計します。この例は単純なGETだけなので、決済や更新の再試行を検証していません。実行記録には接続数、三要求の成功、各条件の時間、Pythonの版を残して、検査した範囲を明確にします。

読了と問題の結果を、言語ごとにこのブラウザへ保存します。

コースの順番に沿って学ぶ

サーバーの中で起きていること · STEP 10

学習コースから次を選ぶ