Nombres à virgule flottante

Aide LabVIEW 2014

Date d'édition : June 2014

Numéro de référence : 371361L-0114

»Afficher les infos sur le produit
Télécharger l'aide (Windows uniquement)

Dans LabVIEW, les nombres à virgule flottante sont conformes à la norme ANSI/IEEE Standard 754-1985. Certains nombres réels ne peuvent pas être représentés comme nombres à virgule flottante ANSI/IEEE Standard. De ce fait, les comparaisons qui utilisent des nombres à virgule flottante peuvent produire des résultats inattendus à cause d'erreurs d'arrondi. Pour éviter d'obtenir des résultats inexacts, vous pouvez arrondir les nombres à virgule flottante à des entiers. Par exemple, si vous voulez que le résultat d'un calcul soit d'une précision de deux chiffres après la virgule, multipliez le nombre à virgule flottante par 100 et arrondissez ensuite le produit à un entier avant de terminer le calcul. Vous pouvez aussi vérifier que deux nombres à virgule flottante sont proches l'un de l'autre au lieu d'être égaux. Par exemple, si la valeur absolue de la différence entre deux nombres à virgule flottante est inférieure à la tolérance définie, vous pouvez en déduire que ces deux nombres sont égaux.

Reportez-vous au Tableau des types de données numériques pour obtenir plus d'informations sur les bits, les chiffres et la gamme des types de données numériques. Il existe trois types de nombres à virgule flottante.

Simple précision (SGL) — Les nombres à virgule flottante à simple précision ont un format à simple précision IEEE 32 bits. Utilisez des nombres à virgule flottante simple précision pour économiser la mémoire et si vous ne dépassez pas la gamme des nombres.
Double précision (DBL) — Les nombres à virgule flottante à double précision ont un format à double précision IEEE 64 bits. Double précision est le format par défaut des objets numériques. Dans la plupart des situations, utilisez des nombres à virgule flottante double précision.
Précision étendue (EXT) — Lorsque vous enregistrez des nombres à précision étendue sur un disque, LabVIEW les enregistre dans un format de 128 bits indépendant de la plate-forme. En mémoire, la taille et la précision varient en fonction de la plate-forme. Utilisez des nombres à virgule flottante précision étendue seulement lorsque c'est nécessaire. Les performances de l'arithmétique avec précision étendue varient en fonction des plates-formes.

Les VIs d'acquisition de données renvoient souvent des tableaux de nombres à virgule flottante.

CET ARTICLE VOUS A-T-IL ÉTÉ UTILE ?

Pas utile