> Tech > Arrondir les résultats intermédiaires

Arrondir les résultats intermédiaires

Tech - Par iTPro.fr - Publié le 24 juin 2010
email

Les trucs & astuces de la semaine du 11 au 17 Juillet 2005 : Arrondir les résultats intermédiaires, Index Evaluator d’iSeries Navigator, 

L’opération Eval supporte l’extenseur d’opération (H) pour
obtenir un demi-ajustement, ou arrondi. Mais l’arrondi se
produit une seule fois pour une expression – après que la totalité
de l’expression ait été évaluée à  l’aide des règles de dimensionnement
internes de RPG pour les valeurs intermédiaires.
Vous souhaiterez parfois mieux maîtriser la précision
et l’exactitude des résultats intermédiaires, que ne le permettent
Eval et l’extenseur (H). Pour contrôler les résultats
intermédiaires d’une expression, vous pouvez inclure les
fonctions de conversion décimale %Dec et %Dech dans l’expression.
Ainsi, les deux instructions de la figure 2 pourraient fournir
des résultats différents. La première instruction confie à 
RPG le soin de déterminer la taille et la précision des valeurs
intermédiaires et elle arrondit le résultat final une seule fois.
La seconde instruction contrôle la taille et la précision des
valeurs intermédiaires (13 chiffres avec deux décimales)
et arrondit chaque valeur intermédiaire. La seconde instruction
donnera un résultat plus exact pour cet exemple de
calcul.

Téléchargez cette ressource

Livre blanc Sécurité et Stockage des documents

Livre blanc Sécurité et Stockage des documents

Découvrez dans ce livre blanc Kyocera les outils logiciels qui permettent une approche holistique et efficace de la collecte, du stockage, de la gestion et de la sécurisation des documents en entreprise.

Tech - Par iTPro.fr - Publié le 24 juin 2010