第11回引き算はコンピュータの弱点［後編］

前回は浮動小数点数のエラー・誤差のうち、「オーバーフロー／アンダーフロー」と「桁落ち」について学びました。今回は演習として、「桁落ち」とその回避方法を経験してみましょう。

プロフィール

地方都市の公立工業高等学校教諭。趣味はプログラミングと日本の端っこ踏破旅行。2010年のLotYはRuby。結城浩氏のような仕事をしたいと妄想する30代後半♂。