counter

2009/09/18

ガウス_レジャンドル法の積分点計算


画像は下記URLより。
http://www.super-computing.org/~tnagai/index-j.html
上記文意に関わらず、何故か、私の方ではExcelVBAで15桁の計算ができてしまいます。しかも、積分点数はExcel表計算のセルの許容範囲です。ただし精度の確認は別サイトの計算結果を参照にしているだけですが。
関連URLは下記(当方のサイトです)。
http://vanlover.blogspot.com/
ご希望の方にはメールを頂ければ添付ファイルとして送信します。(無償:コード公開版)
追記:ExcelVBAはLong Double型 の数値演算ではなく、単なるDouble型 の演算形式と思います。

0 件のコメント: