2015年7月2日木曜日

3次方程式ソフトウエアに見るExcel(VBA)の計算精度


上図、計算結果を比較されたい。当方作成のソフトで有効数字15桁が完全に左側のWebの解析結果と一致しています。当方は、精度を確保するために特別な手法を凝らした訳ではないのですが、Excel(VBA)の計算精度の高さが際立ちます。
左側のWebは下記。
www.akiti.ca/Quad3Deg.html

0 件のコメント: