2015-09-28から1日間の記事一覧

浮動小数点数 基礎 1

実数が浮動小数点数としては正確に表現されない理由 以下の 2 つが挙げられる. 2進数表現による反復表現の打ち切り誤差 実数が有効範囲を超えることによる誤差 2進数表現による反復表現の打ち切り誤差 有限の 10 進小数点数として表記可能な実数であっても…