コンピュータで実数を表現するために工夫された浮動小数点数は,で近似する方法です。
取り扱える数の範囲や精度は,
コンピュータで計算を行う人は,
コンピュータの数値の取り扱い方法のしくみを知り,
これから数回にわたって,
浮動小数点数で発生するエラーや誤差
浮動小数点数の仕組み上,
- オーバーフロー/
アンダーフロー - 桁落ち
- 丸め誤差
- 情報欠落
- 打ち切り誤差
今回はこれらのうち
オーバーフロー/アンダーフロー
オーバーフロー/
オーバーフローが発生すると,
具体的にはIEEE754単精度
オーバーフローもアンダーフローも,
- ※1
- 整数値計算のオーバーフロー/
アンダーフローは考え方が異なります。例えばJava言語のbyte整数型なら, オーバーフローは127を超えた場合です。アンダーフローは-128を下回った場合です。