小数の仕様

背景

銀行家の丸め誤差を知った時に、調べている過程でこいつも知った。

IEEE754

2進浮動小数点数を表現するための規格です。

多くのプログラム言語で小数の計算において使われており、公表されていなくても暗黙的に使われていることもあるそうな。

参考文献

浮動小数点数 (IEEE754) について解説

ひで

あさのパワハラ上司。大雑把な楽なことが好きで細かいことは一切考えたくもない、めんどくさがり屋。 ●好きなもの:IT技術、甘未、ネコさん ●嫌いなもの:刺身こんにゃく

コメントを残す