× [PR]上記の広告は3ヶ月以上新規記事投稿のないブログに表示されています。新しい記事を書く事で広告が消えます。 |
小数の演算結果が手計算と合わない・・・TT
桁数が少なければ整数として計算してしまうのだが・・・^^; BigDecimal を使えばいいんだけど・・・ strictfp というクラス、インターフェース、メソッド修飾子がある strictfp で修飾されるとその内部すべての式が FP-strict になる FP-strict とは IEEE-754 で定められた精度である FP-strict でない場合より高い精度で演算が行われる可能性がある (x86プロセッサでは80ビットで行う) float:符号1ビット 指数8ビット 仮数23ビット double:符号1ビット 指数11ビット 仮数52ビット x86拡張精度:符号1ビット 指数15ビット 仮数64ビット PR |
|
トラックバックURL |
忍者ブログ [PR] |