小さい差へ残る情報を調べる
この実験では、f(x)=(√(1+x)−1)/xを、x=10の−16乗付近で計算します。分子では、近い二つの値を引くため、元の計算に含まれた小さな誤差が、差に対して大きな割合になる場合があります。前提は浮動小数点表現と数値安定性のガイドです。小さい答えなら必ず誤るという話ではなく、同じ数学式のどの計算手順で情報を失うかを、保存された入力と高精度の参照を使って確認します。性能の時間比較ではなく、数値の結果を評価する実験です。
Pythonのfloatが、この実験で想定する53ビットの仮数を持つことを最初にassertします。数式の十進数10の−16乗と、floatへ保存された近似値を区別するため、参照ではDecimal.from_float(x)を使います。Decimal('1e-16')なら、元の十進数を参照する別の問いになります。どちらも目的に応じて使えますが、黙って切り替えると、入力の丸めと計算中の誤差を一つに混ぜてしまいます。ここでは同じ保存済み入力を比較の土台にします。
式を変形して引算を避ける
分子と分母へ√(1+x)+1を掛けると、xが0でなく、式が定義される範囲では、f(x)=1/(√(1+x)+1)です。元の分子では近い値を引きますが、変形後の分母では近い正の値を足します。x=1e−16をfloatで計算すると、1+xが1へ丸められ、元の分子は0になる場合があります。このコードの想定環境では、元の式の結果が0、変形後は0.5となり、参照は0.5に非常に近い値です。結果を表示する桁数だけの問題ではありません。
変形後も全ての入力で完全に正確とは限りません。平方根、加算、除算は丸めを含みます。またx=0では元の式は定義されませんが、変形式は極限値0.5を返せます。APIの仕様を元の式と同じにするか、連続な拡張を認めるかを別に決める必要があります。xが−1未満なら実数の平方根もありません。数学的な同値を使うときは、定義域と特別な入力の動作を先に確認してください。単に短い式だから安全とは判断しません。
標準ライブラリだけで照合する
コード全体をcancellation.pyへ保存し、Python 3.12以降の互換環境でpython cancellation.pyとして実行します。Decimalの計算精度は80桁へ設定し、同じfloat入力から高精度の平方根を計算します。この参照も有限精度ですが、今回の差を見るには十分な余裕を置いています。80桁の計算を厳密な記号計算の証明と呼ぶことはしません。通常の結果はfloatのrepr、参照との差はDecimalで表示するので、通常表示で同じに見える値も区別できます。
コードは元の式と変形式について絶対誤差と相対誤差を表示し、変形式の絶対誤差が1e−16未満、元の式の誤差が0.4を超えることをassertします。これは対象の入力に対する粗い検証境界で、全入力の誤差上限ではありません。浮動小数点の前提が違えば最初のassertを含めて止まるため、結果に合わせて境界を書き換える前に環境を確認します。外部パッケージもデータファイルも不要で、入力はコードに固定しています。
from decimal import Decimal, localcontext
import math, sys
assert sys.float_info.mant_dig == 53
x=1e-16
naive=(math.sqrt(1.0+x)-1.0)/x
stable=1.0/(math.sqrt(1.0+x)+1.0)
with localcontext() as context:
context.prec=80
dx=Decimal.from_float(x)
reference=1/((1+dx).sqrt()+1)
for name,value in [('naive',naive),('stable',stable)]:
absolute=abs(Decimal.from_float(value)-reference)
relative=absolute/abs(reference)
print(name, 'value=',repr(value),'absolute=',absolute,'relative=',relative)
assert abs(Decimal.from_float(stable)-reference)<Decimal('1e-16')
assert abs(Decimal.from_float(naive)-reference)>Decimal('0.4')
rounded=float(10**16+1)
assert rounded==float(10**16)
assert rounded-float(10**16)==0.0
assert Decimal(10**16+1)-Decimal(10**16)==1
print('input_rounding',repr(rounded), 'stored_difference',rounded-float(10**16))
絶対誤差と相対誤差を分ける
絶対誤差は|計算値−参照値|、相対誤差はそれを|参照値|で割った値です。元の式が0、参照がほぼ0.5なら、絶対誤差はほぼ0.5、相対誤差はほぼ1です。相対誤差1は100%に相当します。小さい絶対誤差でも、求めたい答えがさらに小さければ相対誤差は大きくなります。逆に参照が0なら、この定義の相対誤差は使えません。0で割る代わりに、絶対誤差や業務に合った尺度を使う判断が必要です。
Decimalへfloatの結果を渡す場合もfrom_floatを使い、保存された二進値を正確に表してから差を取ります。strへ変えて短い十進表示を参照にすると、表示の丸めが比較に入ります。単にprintの桁数を増やして失われた情報を取り戻すことはできません。結果が0だったときも、真の値が0だったのか、途中で1+xが1へ丸められたのかを別に追います。入力、各中間結果、最後の差を同じ形式で残すと、誤差が入った場所を説明しやすくなります。
入力の丸めだけで差が消える例を読む
後半では整数10,000,000,000,000,001をfloatへ変え、10,000,000,000,000,000との差を取ります。前者が後者と同じfloatへ丸められるため、保存された値同士の差は0です。一方、整数から直接作ったDecimal同士では差は1です。この例の主な情報損失は、引算の前に入力をfloatへ変えた時点で起こっています。引算そのものが必ず不正確なのだ、と説明してはいけません。近い二つの保存済み浮動小数点値の引算が正確になる条件もあります。
この区別は、桁落ちを直すため高精度の引算だけへ置き換えても、既に消えた入力の差を復元できない理由になります。高精度が必要なら、元の入力をどの形式で読み、どの演算までその精度を保つかを設計します。十進の金額を扱うなら、単位を整数へ決める方法も候補ですが、範囲と端数の規則が必要です。今回の実験は金額処理の実装ではありません。データの取得時点と計算時点の両方へ誤差の境界を置くための例として読んでください。
参照を変えた比較は別の問いになる
Decimal('1e-16')を使う追加比較では、入力の十進数自体を参照します。from_floatで固定した入力と差があることも、誤差の一部として現れます。どちらかの参照だけが常に正しいのではなく、元の十進入力の精度か、保存後の計算の安定性かで選びます。出力へ参照の作り方を残し、二つの相対誤差を同じ条件の値として混ぜません。
条件変更の課題と解答
課題は、x=0へ変える場合に、元の式と変形式を同じ仕様の関数として扱えるかです。解答では、元の式は0除算になる一方、変形式は0.5なので、定義域または連続な拡張を明示しなければ同じ仕様とは言えないと説明します。次に10の−8乗などへ変え、元の式の誤差がどう変わるかを参照と比較できます。ただし一つの追加例が良くなっただけで、全入力の安定性を証明したことにはなりません。変えた入力、精度、誤差を別の行へ保存します。
追加課題は、floatへ丸めた大きい整数をDecimalへ渡せば差1が戻るかです。解答は戻りません。Decimal.from_floatは保存された値を正確に表すだけで、元の整数の履歴を知りません。原入力からDecimalを作ることと、丸め後のfloatから作ることを区別してください。実験後に停止するプロセスや削除するDBはありません。コードと出力を残して、数値安定性のガイドの条件と照合します。式の変形、入力の表現、比較の尺度を別々に説明できれば到達点です。