けものフレンズBBS NEO

学生フレンズ集まれ!~ジャパリ学園~ / 1868

1868
クモハ223-2046 2018/04/01 (日) 18:03:19 >> 1845

>> 1857
分かったかも
倍精度浮動小数点数の計算機イプシロンは約2-52=2.2×10-16らしい(複数定義があるらしいが分からん)
doubleの有効桁数が15か16らしいので、イプシロンがギリギリ仮数部に入るから「違う」と言われる
しかし、float型は有効桁数が7桁程しかないので、マイナス10乗オーダーの誤差を入れることができず、1.000000×10-1そのものとして扱われるので、「同じ」という扱いになる
という事かも(合ってる保証は全くなし)

通報 ...