小数の演算結果が手計算と合わない・・・TT
桁数が少なければ整数として計算してしまうのだが・・・^^; BigDecimal を使えばいいんだけど・・・ strictfp というクラス、インターフェース、メソッド修飾子がある strictfp で修飾されるとその内部すべての式が FP-strict になる FP-strict とは IEEE-754 で定められた精度である FP-strict でない場合より高い精度で演算が行われる可能性がある (x86プロセッサでは80ビットで行う) float:符号1ビット 指数8ビット 仮数23ビット double:符号1ビット 指数11ビット 仮数52ビット x86拡張精度:符号1ビット 指数15ビット 仮数64ビット PR |
![]() |
![]() |
![]() |
|
![]() |
トラックバックURL |
![]() |
忍者ブログ [PR] |