浮動小数点数



LabVIEW 2018ヘルプ


発行年月: 2018年3月
製品番号: 371361R-0112
製品情報を参照

ダウンロード (Windowsのみ)


LabVIEW 2015ヘルプ
LabVIEW 2016ヘルプ
LabVIEW 2017ヘルプ
LabVIEW 2018ヘルプ
LabVIEW 2019ヘルプ

LabVIEWの浮動小数点数はANSI/IEEE規格754-1985に準拠しています。実数のすべてをANSI/IEEE規格の浮動小数点で表すことはできません。したがって、浮動小数点を使用する比較では丸め誤差の影響で予想外の結果が生じる場合があります。不正確な結果を回避するには、浮動小数点数を整数に丸め込みます。たとえば、2桁の小数点を含む計算結果を出す場合、浮動小数点数を100で乗算し、計算が完了する前にその積を整数に丸め込みます。また、2つの浮動小数点数値が、それぞれ等しいかどうかを確認するのではなく、それぞれ値が近いかどうかを確認します。たとえば、2つの浮動小数点数値の差異の絶対値が定義された許容範囲よりも小さい場合、それらの数値は等しいとみなされます。

数値データタイプのビット数、桁数、範囲の詳細については、数値データタイプ表を参照してください。浮動小数点数には以下の3つのタイプがあります。

単精度浮動小数(SGL)―単精度浮動小数点数は32ビットIEEE単精度形式です。メモリ節約が重要視される場合、単精度浮動小数点数を使用すると、数値範囲のオーバーフローを回避できます。
倍精度浮動小数(DBL)―倍精度浮動小数点数は64ビットIEEE倍精度形式です。倍精度は、数値オブジェクトのデフォルト形式です。ほとんどの場合、倍精度小数点数を使用します。
拡張精度浮動小数(EXT)―拡張精度浮動小数をディスクに保存した場合、そのデータはプラットフォームに依存しない128ビット形式で保存されます。メモリの場合、サイズと精度はプラットフォームにより異なります。拡張精度浮動小数点数は、必要な場合にのみ使用してください。拡張精度演算の能力はプラットフォームにより異なります。

多くの場合、データ集録VIは浮動小数点数の配列を返します。



この記事は役に立ちましたか。

役に立たなかった