M電卓M電卓は最高15桁まで表示できます。内部では80bitの浮動小数点型を用います。浮動小数点の演算誤差には、計算するたびにその内容によって桁を丸めることで対処します。例えば小数部分の桁が1桁同士の加減算の場合、結果の小数部分が2桁以上になることはあり得ませんので小数第2位を丸めます。同様に乗算の場合は3桁以上になることはあり得ませんので小数第3位を丸めます。除算などでは内部18桁に丸めます。桁数が有限である以上、原則として仮数部の最下位桁に±1の誤差が生じます。連続して計算するとその誤差が累積されて大きくなります。
ローン返済額計算
計算結果は概算です。借り入れから初回返済までの日数の扱い、端数処理など金融機関によって異なる可能性があるため、あえてそれらの考慮をまったくしておりません。 毎月の返済額で±1円～±10円、利息合計で±数百円～±数千円程度の誤差が普通に出ます。
単位変換
例えば長さの単位ならメートルなど、基準の単位を介して変換します。このため、マイクロメートルと光年のように単位の規模が大きく離れると誤差がでる場合があります。また、もとの変換データ自体が実際の取引などに用いられているものとは限りません。よって参考程度のものであり、商取引で使用しないでくださ い。
三角計算/計算履歴の統計機能
単純に公式を元に計算させているだけです。実用上の精度には問題ないと思いますが、浮動小数点演算特有の誤差は出ます。
日付・時間計算の西暦-和暦変換
明治5年以前は旧暦の正月で年が変わるため日付によっては年号がひとつずれる場合があります。
16進数演算のQWord-10進数変換
M電卓自身が15桁までしか対応していないため64bit整数の範囲すべてを変換することはできません。また、15桁超の電卓に対応するつもりはありませ ん。->参照(15桁以上を計算したい。10進数演算を採用してほしい)
16進数演算の小数点つき
10進数では表現できても16進数では循環小数になる値があります。そして、この機能は利用頻度が低く、十分な動作検証がなされていません。表示桁分の精度は変換できていません。