計算精度について

 M電卓は最高15桁まで表示できます。内部では80bitの浮動小数点型を用います。浮動小数点の演算誤差には、計算するたびにその内容によって桁を丸めることで対処します。例えば小数部分の桁が1桁同士の加減算の場合、結果の小数部分が2桁以上になることはあり得ませんので小数第2位を丸めます。同様に乗算の場合は3桁以上になることはあり得ませんので小数第3位を丸めます。除算などでは内部18桁に丸めます。桁数が有限である以上、原則として仮数部の最下位桁に±1の誤差が生じます。連続して計算するとその誤差が累積されて大きくなります。