テンプレート:Hex/docのソースを表示
←
テンプレート:Hex/doc
ナビゲーションに移動
検索に移動
あなたには「このページの編集」を行う権限がありません。理由は以下の通りです:
この操作は、次のグループに属する利用者のみが実行できます:
登録利用者
。
このページのソースの閲覧やコピーができます。
{{Documentation subpage}} This template shows the exact value of a number of type float. The [[w:significand|significand]] is given in [[w:hexadecimal|hexadecimal]] format, which, apart from the sign, consists of a fixed "<code>1.</code>", followed by 13 hexadecimal characters. [[w:Denormal number|Denormal numbers]] are shown in normalized format, not in internal format, but without inherently zero digits. No distinction is made between 0 and -0. For numbers of type integer which are not exactly representable as float the integer is rounded to float. If an integer just below 2^n is rounded to 2^n the result is shown in the form 2*2^(n-1), thus giving the exponent the value it would have in an exact floating-point representation (which would require up to 10 bits more, hence up to three hexadecimal digits more). See also [[Help:Calculation accuracy]]. ==Examples== *{{xpsoc|hex}} *{{xpsoc|hex|a}} *{{xpsoc|hex|0}} *{{xpsoc|hex|-0}} *{{xpsoc|hex|1/7}} *{{xpsoc|hex|-2/3}} *{{xpsoc|hex|123}} *{{xpsoc|hex|.0123}} *{{xpsoc|hex|1+2^-52}} *{{xpsoc|hex|1.0000000000000002}} *{{xpsoc|hex|1+2e-16}} *{{xpsoc|hex|-1e309}} *{{xpsoc|hex|1e309}} *{{xpsoc|hex|1e308}} *{{xpsoc|hex|1e307}} *{{xpsoc|hex|1e306}} *{{xpsoc|hex|1e305}} *{{xpsoc|hex|1e304}} *{{xpsoc|hex|1e303}} *{{xpsoc|hex|1e302}} *{{xpsoc|hex|1e301}} *{{xpsoc|hex|1e300}} *{{xpsoc|hex|1e299}} *{{xpsoc|hex|1e298}} *{{xpsoc|hex|1e297}} *{{xpsoc|hex|1e296}} *{{xpsoc|hex|1e295}} *{{xpsoc|hex|1e294}} *{{xpsoc|hex|1e293}} *{{xpsoc|hex|1e292}} *{{xpsoc|hex|1e-308}} *{{xpsoc|hex|1e-309}} *{{xpsoc|hex|1e-310}} *{{xpsoc|hex|1e-311}} *{{xpsoc|hex|1e-312}} *{{xpsoc|hex|1e-313}} *{{xpsoc|hex|1e-314}} *{{xpsoc|hex|1e-315}} *{{xpsoc|hex|1e-316}} *{{xpsoc|hex|1e-317}} *{{xpsoc|hex|1e-318}} *{{xpsoc|hex|1e-319}} *{{xpsoc|hex|1e-320}} *{{xpsoc|hex|1e-321}} *{{xpsoc|hex|1e-322}} *{{xpsoc|hex|1e-323}} *{{xpsoc|hex|1e-323/2}} *{{xpsoc|hex|1e-323/3}} *{{xpsoc|hex|1e-323/4}} *<code><nowiki>{{hex|.{{loop|323|0}}25}}</nowiki></code> → {{hex|.{{loop|323|0}}25}} *<code><nowiki>{{hex|.{{loop|323|0}}24}}</nowiki></code> → {{hex|.{{loop|323|0}}24}} *{{xpsoc|hex|1000000e-324}} *{{xpsoc|hex|1.71*2^-1021}} *{{xpsoc|hex|1.71*2^-1022}} *{{xpsoc|hex|1.71*2^-1023}} *{{xpsoc|hex|1.71*2^-1024}} *{{xpsoc|hex|1.71*2^-1025}} *{{xpsoc|hex|1.71*2^-1064}} *{{xpsoc|hex|1.71*2^-1065}} *{{xpsoc|hex|1.71*2^-1066}} *{{xpsoc|hex|1.71*2^-1067}} *{{xpsoc|hex|1.71*2^-1068}} *{{xpsoc|hex|1.71*2^-1069}} *{{xpsoc|hex|1.71*2^-1070}} *{{xpsoc|hex|1.71*2^-1071}} *{{xpsoc|hex|1.71*2^-1072}} *{{xpsoc|hex|1.71*2^-1073}} *{{xpsoc|hex|1.71*2^-1074}} *{{xpsoc|hex|3*2^-1074}} *{{xpsoc|hex|2*2^-1074}} *{{xpsoc|hex|1*2^-1074}} Numbers of type integer which are not exactly representable as float: *{{xpsoc|hex|trunc(2^62-512)+trunc511}} <includeonly> [[Category:Mathematical templates|Hex]] </includeonly>
テンプレート:Hex/doc
に戻る。
ナビゲーション メニュー
個人用ツール
ログイン
名前空間
テンプレート
議論
日本語
表示
閲覧
履歴表示
その他
検索
案内
索引
脳科学辞典について
最近完成した項目
編集履歴
執筆にあたって
引用の仕方
著作権について
免責事項
問い合わせ
各学会編集のオンライン用語辞典
About us (in English)
Twitter (BrainScienceBot)
ツール
リンク元
関連ページの更新状況
特別ページ
ページ情報
他のプロジェクト