数値変換



LabVIEW 2018ヘルプ


発行年月: 2018年3月
製品番号: 371361R-0112
製品情報を参照

ダウンロード (Windowsのみ)


LabVIEW 2016ヘルプ
LabVIEW 2017ヘルプ
LabVIEW 2018ヘルプ
LabVIEW 2019ヘルプ
LabVIEW 2020ヘルプ

出力を数値表記方法が異なる接続先に配線すると、LabVIEWは以下の規則に従ってデータを変換します。

  • 符号付きまたは符号なし整数から浮動小数点数―データが可能な限り近い値に変換されます。整数よりも浮動小数点数のほうが正確な場合、この変換は精密です。整数が浮動小数点数よりもより正確な場合、できる限り精度の高い変換が試みられます。
  • 浮動小数点数から符号付きまたは符号なし整数―範囲外の値を最小または最大の整数値に強制します。たとえば、負の浮動小数点数を符号なし整数に変換すると、結果は0になります。
  • 列挙体を符号なし整数として処理―たとえば、浮動小数点数である-1を列挙体に変換する場合、値は列挙体の範囲内に強制されます。列挙体の範囲が0~25の場合、値は0に変換されます。
  • 整数から整数―範囲外の値を最小または最大の整数値へ強制します。元の値が目標値よりも小さい場合は、元の値の符号付き部分の符号部が拡張され、元の値の符号なし部分の余剰ビットに0が配置されます。ソースが目的の数値よりも大きい場合は、その値の最下位ビットのみがコピーされます。
  • 整数、浮動小数点数、または固定小数点数から固定小数点数―固定小数点数の指定範囲外の値は、固定小数点数の最大値および最小値の範囲に強制されます。

2つの異なる数値データタイプを同じデータタイプの入力が必要な数値関数に配線すると、LabVIEWは端子の一方をもう一方の端子と同じ表記法に変換します。LabVIEWでは、より多くのビットを使用する表記法を採用します。ビット数が同じ場合は、符号付きよりも符号なしが優先されます。

メモ メモ  (FPGAモジュール) FPGA VIで発生する強制、特に端子がSGLデータタイプとの間の強制は多大なFPGAリソースを消費します。

強制ドットがブロックダイアグラムノードに表示され、LabVIEWがノードに渡された値を別の表記法に強制変換したことを警告します。特定の強制では、強制ドットによってメモリの使用量および実行時間の増加、および結果の確度低下の原因になる場合があります。強制ドットを除去するには、制御器または定数の出力データタイプを受信端子のデータタイプと一致させます。入力値の表記法を端子の表記法に変更するには、ブロックダイアグラム上の制御器または定数を右クリックし、ショートカットメニューから表記法を選択します。



この記事は役に立ちましたか。

役に立たなかった