> Tech > Arrondir les résultats intermédiaires

Arrondir les résultats intermédiaires

Tech - Par iTPro.fr - Publié le 24 juin 2010
email

Les trucs & astuces de la semaine du 11 au 17 Juillet 2005 : Arrondir les résultats intermédiaires, Index Evaluator d’iSeries Navigator, 

L’opération Eval supporte l’extenseur d’opération (H) pour
obtenir un demi-ajustement, ou arrondi. Mais l’arrondi se
produit une seule fois pour une expression – après que la totalité
de l’expression ait été évaluée à  l’aide des règles de dimensionnement
internes de RPG pour les valeurs intermédiaires.
Vous souhaiterez parfois mieux maîtriser la précision
et l’exactitude des résultats intermédiaires, que ne le permettent
Eval et l’extenseur (H). Pour contrôler les résultats
intermédiaires d’une expression, vous pouvez inclure les
fonctions de conversion décimale %Dec et %Dech dans l’expression.
Ainsi, les deux instructions de la figure 2 pourraient fournir
des résultats différents. La première instruction confie à 
RPG le soin de déterminer la taille et la précision des valeurs
intermédiaires et elle arrondit le résultat final une seule fois.
La seconde instruction contrôle la taille et la précision des
valeurs intermédiaires (13 chiffres avec deux décimales)
et arrondit chaque valeur intermédiaire. La seconde instruction
donnera un résultat plus exact pour cet exemple de
calcul.

Téléchargez cette ressource

Guide des Solutions Cloud & Services Managés Simplifiés

Guide des Solutions Cloud & Services Managés Simplifiés

Comment capitaliser sur son existant tout en bénéficiant, dès à présent, des promesses de flexibilité et de scalabilité du cloud ? Découvrez les bonnes pratiques pour répondre aux défis de simplification du Cloud dans ce nouveau TOP 5.

Tech - Par iTPro.fr - Publié le 24 juin 2010