比較・疑問解決 · 入門

並行処理と並列処理は、何が違うのか

仕事の進行の重なりと実際の同時実行を分け、I/O待ち、CPU処理、共有状態への影響を比較します。

この記事をロゲイアに質問する確認問題3問に進むこれまでの誤答を復習する

更新日

この記事の目次
  1. 仕事が重なることと、同時に実行すること
  2. I/O待ちとCPUの仕事を分ける
  3. Pythonの例を、実装条件付きで理解する
  4. 速さと、共有状態の正しさは別に確かめる
  5. この記事をロゲイアに質問する理解を確かめる

仕事が重なることと、同時に実行すること

並行処理は、複数の仕事を扱い、それぞれの進行が時間的に重なる構成として考えられます。並列処理は、複数の計算が実際に同時に実行されることを指します。一つのCPUで仕事AとBを切り替えるだけでも並行に進められますが、それだけで二つが同じ瞬間に実行されるわけではありません。

例えば、Aがファイルの到着を待つ間にBを進めれば、同時に計算しなくても待ち時間を利用できます。一方、二つの独立した重い計算を複数の実行資源へ割り当てる場面では、並列実行が計算の重なりを生みます。どちらも複数の仕事を扱いますが、説明したい性質が異なります。

I/O待ちとCPUの仕事を分ける

ネットワーク応答を待つ仕事では、待機中に別の仕事を進める構成が役立ちます。スレッドを使う場合も、イベントループを使う場合もあります。イベントループでは、一つの処理が長時間ブロックすると他の仕事を進めにくくなるため、非同期という構文を書いただけで待ち合わせが適切になるわけではありません。

CPUを使い続ける仕事では、利用できる実行資源、処理の分割、仕事間の通信コストが重要です。小さな仕事を大量に分けると、分配や結果の回収が支配的になることもあります。「スレッド数を増やす」という操作と、実際に使える計算量を増やすことは、同じではありません。

Pythonの例を、実装条件付きで理解する

Pythonのthreadingはスレッドを使うためのAPIです。ただし、CPUで動くPythonコードの並列性は、実装、ビルド、GILの状態、呼び出す拡張などにも依存します。一般的なGILを持つCPythonでは、Pythonバイトコードの実行について制限がありますが、I/O待ちの重なりまで不可能という意味ではありません。

複数プロセスはCPU処理を分ける候補ですが、データを渡す費用やプロセスの管理が必要です。また、GILを無効化できる構成も存在するため、「Pythonは絶対に並列実行できない」といった結論は正確ではありません。実際の環境と処理の種類を確認して、使う仕組みを選びましょう。

速さと、共有状態の正しさは別に確かめる

AとBが同時刻に実行されなくても、読み取りと更新の間で切り替われば、共有状態に競合が起こり得ます。並行処理の正しさを「1コアだから安全」と判断してはいけません。ロック、メッセージの受け渡し、所有権の分離などを使い、状態の更新をどう守るかを決めます。

改善の評価では、応答時間、全体の処理件数、CPU使用率、待ち時間などを目的に応じて比べます。並列化した仕事の一部が速くなっても、直列部分や通信が残れば全体は同じ割合で速くなりません。用語を区別すると、正しさの検証と性能測定の両方で、何を確認すべきかが明確になります。

読了と問題の結果を、言語ごとにこのブラウザへ保存します。

コースの順番に沿って学ぶ

CS基礎を固める · STEP 17

サーバーの中で起きていること · STEP 7

AI基盤へ進む · STEP 7

学習コースから次を選ぶ