スクリプトの計算処理 - matsui899の日記

http://0xcc.net/blog/archives/000164.html
浮動小数点演算の10進法と2進法の違いからくる問題と小数点以下切捨ての問題とx86命令固有の問題がミックスしてちょっと書き方を変えると答えが変わる話。
最初の２つはよく考えれば、気づくとおもうけど

80ビットの計算結果を double サイズ (手元の環境では64ビット) のメモリに戻すときには 64 ビットに丸められます

は、びっくりした。ブックマークをみるとroud関数を使うのがあった。値を丸めた方がミスが少なそうだ。

すると、レジスタに書かれた値をそのまま使うのでなくて型変換しているわけだしレジスタでなくてスタックした計算モデルだから、1回1回メモリに書き込んでいるのだろうな。楽している分、計算処理が重くなる理由もわかった気がする。