Base de connaissances > Nombres à virgule flottante dans le Automation Engine

Nombres à virgule flottante dans le Automation Engine

Ici, vous trouvez une courte description de la représentation des nombres à virgule flottante dans le cadre de l'infotechnologie et des spécifications relevant du Automation Engine. Une discussion approfondie des nombres à virgule flottante en ordinateur et en numérique que vous pouvez trouver au sein des ouvrages scientifiques respectifs et sur le Web.

 

Le calcul des nombres à virgule flottante dans l'infotechnologie mène à des erreurs d'arrondissement, car le nombre de chiffres que l'on peut utiliser est infini. Puisque les ordinateurs utilisent le système binaire pour leurs calculs et la représentation interne des nombres, les nombres, dans un système informatique, doivent d'abord être assimilés par le système binaire.

Un célèbre exemple des problèmes liés à la représentation de nombres dans les systèmes informatiques est le nombre à virgule flottante "0,1", qui nécessite un nombre infini de chiffres dans le système binaire.

La représentation des nombres à virgule flottante dans le système binaire a été définie par l'IEEE par le biais de la norme IEEE754 pour appliquer un standard de précision à la fois simple et double . La précision de type de données double est utilisée à l'intérieur d'Automation Engine.

À propos de l'exemple du nombre "0,1" : En l'assimilant avec la précision double, ce nombre devient 0,100000000000000005551115123126 d'un point de vue mathématique. Si ce nombre venait à être utilisé pour des calculs, plusieurs erreurs se produiraient.

L'affichage de ce nombre est une fois de plus arrondi de telle sorte qu'Automation Engine affiche 0,10000000000000001.