Математические операции(не относится к S#)
Atom Ответить
14.04.2011


В общем появилась проблема с обычными операциями сложение и вычитание - искажается результат.
Например:
Код

double va1 = 17.1;
double va2 = 17.2;
double re2 = va2 - va1;

на выходе получаю re2 = 0.099999999999997868
что это может быть?



Спасибо:




2 Ответов
anothar

Фотография
Дата: 14.04.2011
Ответить


Это проблема связанная с представлением double(короче это нормально). Чтобы от этого избавиться используйте округление Math.Round(re2,2), либо вместо double используйте decimal.
Спасибо:

skuvv

Фотография
Дата: 14.04.2011
Ответить


Спасибо за наводку.
Странно что раньше не замечал такого.
Автор топика
Спасибо:


Добавить файлы через драг-н-дроп, , или вставить из буфера обмена.

loading
clippy