割り算 桁落ち

Javaのdoubleを基礎から解説 浮動小数点数の考え方を身に着けよう 浮動小数点数の誤差について 無限小数 桁あふれ誤差 情報落ち 打切り誤差 桁落ち 丸め誤差 四則演算による有効数字の桁数の変化 計算ルールを解説 Dr あゆみの物理教室