固定小数点数を使用する際の注意とアドバイス



LabVIEW 2018ヘルプ


発行年月: 2018年3月
製品番号: 371361R-0112
製品情報を参照

ダウンロード (Windowsのみ)


LabVIEW 2016ヘルプ
LabVIEW 2017ヘルプ
LabVIEW 2018ヘルプ
LabVIEW 2019ヘルプ
LabVIEW 2020ヘルプ

以下のリストは、固定小数点を使用する際の注意とアドバイスを示します。

  • 固定小数点のサイズを増加する数値関数を含むループにシフトレジスタを追加すると、タイプ情報の伝搬でサイクルが作成される可能性があります。データ量がLabVIEWが受け入れることが可能な最大ワード長、または指定する最大ワード長に近づくと、オーバーフローが発生する可能性があります。オーバーフローの処理について数値関数を構成しない場合、LabVIEWはデータを不動小数点の表記に変換して発生する可能性のあるデータの損失とVIの破損を回避します。
  • 指定するワード長はターゲットが受け入れる最大ワード長を超える場合があります。この問題が発生すると、LabVIEWは可能な最大の長さにワード長を設定して、オーバーフローと丸め込み用にデフォルト設定を使用します。デフォルトでは、ワード長は最上位ビットを保持します。このワード長の減少は値を丸め込みますが、オーバーフローは阻止します。ターゲットで利用可能な最大ワード長は、ターゲットのドキュメントで確認してください。
  • LabVIEWおよびその他のアプリケーションは、基数を2とするシステムのバイナリ形式で固定小数点数をエンコードします。小数点システムは底10であるため、小数点で正確にすべての小数点の値を表すことはできません。たとえば、0.1は10進数形式で正確に表すことができますが、0.1を32ビットのワード長および16ビットの整数ワード長で小数点数に変換する場合、LabVIEWは底2で表記可能な0.100006に有理数を変換します。


この記事は役に立ちましたか。

役に立たなかった