忍者ブログ

Infoseek検索 Infoseek検索

[PR]
×

[PR]上記の広告は3ヶ月以上新規記事投稿のないブログに表示されています。新しい記事を書く事で広告が消えます。

【2018年05月21日10:01 】 |
strictfpって何?
小数の演算結果が手計算と合わない・・・TT
桁数が少なければ整数として計算してしまうのだが・・・^^;
BigDecimal を使えばいいんだけど・・・

strictfp というクラス、インターフェース、メソッド修飾子がある
strictfp で修飾されるとその内部すべての式が FP-strict になる

FP-strict とは IEEE-754 で定められた精度である
FP-strict でない場合より高い精度で演算が行われる可能性がある
(x86プロセッサでは80ビットで行う)

float:符号1ビット 指数8ビット 仮数23ビット
double:符号1ビット 指数11ビット 仮数52ビット
x86拡張精度:符号1ビット 指数15ビット 仮数64ビット
【2006年11月14日20:56 】 | Java | コメント(0) | トラックバック(0)
<<<? extends T>や<? super T>って何? | ホーム |synchronized と volatile の役割って?>>
コメント
コメントの投稿













トラックバック
トラックバックURL

前ページ| ホーム |次ページ
PR

忍者ブログ [PR]