小数の仕様

背景

銀行家の丸め誤差を知った時に、調べている過程でこいつも知った。

IEEE754

2進浮動小数点数を表現するための規格です。

多くのプログラム言語で小数の計算において使われており、公表されていなくても暗黙的に使われていることもあるそうな。

参考文献

浮動小数点数 (IEEE754) について解説

コメントを残す