What rounding method is used in the REAL_TO_INT results for M580 and Quantum?
If you compare the REAL_TO_INT with an M580 and Quantum, you will see some differences.
For example:
Quantum 2.5 = 2
M580 2.5 = 3
The M580 uses the method called "round to nearest, ties away from zero".
The Quantum uses the method called "round to nearest, ties to even" (as described in ControlExpert help).
The following table shows an example:
These two methods can be found in the IEEE 754 (IEC 559).
For example:
Quantum 2.5 = 2
M580 2.5 = 3
The M580 uses the method called "round to nearest, ties away from zero".
The Quantum uses the method called "round to nearest, ties to even" (as described in ControlExpert help).
The following table shows an example:
| Mode | 11.5 | 12.5 | -11.5 | -12.5 |
| to nearest, ties to even | 12 | 12 | -12 | -12 |
| to nearest, ties away from zero | 12 | 13 | -12 | -13 |
These two methods can be found in the IEEE 754 (IEC 559).
Опубліковано для: Schneider Electric Україна
Потрібна допомога?
Почніть тут!
Знайдіть відповіді зараз. Шукайте рішення самостійно або зверніться до нашого експерта.
Звернутися до служби підтримки
Якщо вам потрібна допомога, додаткова інформація чи технічна підтримка або ви хочете подати скаргу, зв’яжіться з нашою командою з обслуговування клієнтів.
Де придбати?
Зручний пошук найближчого дистриб’ютора, магазина або спеціалізованого партнера Schneider Electric у вашому регіоні.
Переглянути відповіді на поширені запитання
Отримайте необхідну інформацію, переглянувши відповіді на поширені запитання за відповідними темами.