What rounding method is used in the REAL_TO_INT results for M580 and Quantum?
If you compare the REAL_TO_INT with an M580 and Quantum, you will see some differences.
For example:
Quantum 2.5 = 2
M580 2.5 = 3
The M580 uses the method called "round to nearest, ties away from zero".
The Quantum uses the method called "round to nearest, ties to even" (as described in ControlExpert help).
The following table shows an example:
These two methods can be found in the IEEE 754 (IEC 559).
For example:
Quantum 2.5 = 2
M580 2.5 = 3
The M580 uses the method called "round to nearest, ties away from zero".
The Quantum uses the method called "round to nearest, ties to even" (as described in ControlExpert help).
The following table shows an example:
| Mode | 11.5 | 12.5 | -11.5 | -12.5 |
| to nearest, ties to even | 12 | 12 | -12 | -12 |
| to nearest, ties away from zero | 12 | 13 | -12 | -13 |
These two methods can be found in the IEEE 754 (IEC 559).
게시 대상: 슈나이더 일렉트릭 Korea
도움이 필요하신가요?
제품 선택기
애플리케이션에 적합한 제품과 액세서리를 빠르고 쉽게 찾을 수 있습니다.
견적 받기
영업 관련하여 온라인으로 문의하시면 전문가가 연락드립니다.
구매처
해당 지역의 가장 가까운 슈나이더 일렉트릭 대리점을 쉽게 찾을 수 있습니다.
지원 센터
한 곳에서 모든 요구 사항에 대한 지원 리소스를 찾아보십시오.