Математические операции(не относится к S#). StockSharp

Математические операции(не относится к S#)

14.04.2011

skuvv

В общем появилась проблема с обычными операциями сложение и вычитание - искажается результат. Например:


            double va1 = 17.1;
            double va2 = 17.2;
            double re2 = va2 - va1;

на выходе получаю re2 = 0.099999999999997868 что это может быть?

Теги:

клуб алготрейдеров

Спасибо:

anothar

Дата: 14.04.2011

Это проблема связанная с представлением double(короче это нормально). Чтобы от этого избавиться используйте округление Math.Round(re2,2), либо вместо double используйте decimal.

Спасибо:

skuvv

Дата: 14.04.2011

Спасибо за наводку. Странно что раньше не замечал такого.

Спасибо:

Добавить файлы через драг-н-дроп, , или вставить из буфера обмена.