あらためて言いたい、小数点計算がデキナイActionscript 3 へのコメント http://www.inazumatv.com/contents/archives/3022 multimedia design, Actionscript, Lingo, PHP, Perl, SQL Sun, 29 Jan 2012 08:27:22 +0000 hourly 1 http://wordpress.org/?v=3.3.1 ef より http://www.inazumatv.com/contents/archives/3022/comment-page-1#comment-317 ef Sun, 19 Apr 2009 02:22:46 +0000 http://www.inazumatv.com/contents/?p=3022#comment-317 これは、浮動小数点数が２を底にしていることに由来する挙動ですから、「イケテナイ」のは numToInt() の実装のように思えます(JavsScrip/ActionScriptに限った問題ではありません)。 循環小数のことも考えると、精度（＝仮数部 n の桁数）に上限を設けるのが妥当ではないでしょうか？ ＃Cの frexp() がJS/ASにあれば、もう少しエレガントな実装が出来るんですが・・・ これは、浮動小数点数が２を底にしていることに由来する挙動ですから、「イケテナイ」のは numToInt() の実装のように思えます(JavsScrip/ActionScriptに限った問題ではありません)。
循環小数のことも考えると、精度（＝仮数部 n の桁数）に上限を設けるのが妥当ではないでしょうか？
＃Cの frexp() がJS/ASにあれば、もう少しエレガントな実装が出来るんですが・・・

]]>