前回は浮動小数点数のエラー・
問題:二次方程式の解の公式で,桁落ちを生じないように式変形しましょう。
解の公式
解説
問題:二次方程式の解の公式で,桁落ちを生じないように式変形しましょう。
(1)a=0.25,b=20,c=0.1 の場合,どの程度桁落ちを発生するでしょうか。プログラムを作成して実行してみましょう。
|
|
---|
平方根の計算結果をfloat 型にキャストしているのは,
このプログラムの実行結果は次の通りです。
Ketaochi.
x1 = -0.005001068
x2 = -79.994995
正確なx1 の値は.0.