※有料会員になるとこの動画をご利用いただけます
詳しい説明を読む
＃08:誤差
このチャプターでは、誤差について学習します。
32ビット浮動小数の場合、有効数字は10進数で約6.92桁となる理由は
2進数の1ビットで表現できる10進数は数学的な言い方をすると 10 を底とする(常用対数) 2 の対数となります。
もう少し簡単にいうと 10 を何乗したら 2 になるかで求められ、10 の 0.301 乗でおおよそ 2 となって2進数の1桁は10進数でおおよそ 0.301 桁を表現可能ということになります。32ビット浮動小数のうち仮数部は 23ビットなので 23 × 0.301 となりおおよそ10進数で 6.92 桁の有効桁数となります。