double a = 3.6d;
double b = 1.2d * 3d;
assertEquals(a, b);
Результат:
junit.framework.AssertionFailedError: expected:<3.6> but was:<3.5999999999999996>
Как с этим в других языках программирования?
Паскаль, С, С#, Basic, Asm и пр.?
|
|
|
Ответ на сообщение Точность точки пользователя RealWega
Ответ на сообщение Re: Точность точки пользователя Сибиряк
Ответ на сообщение Re: Точность точки пользователя RealWega
Осторожнее с травой!
Если хапнешь много дряни
Увезут тебя с собой
Злые инопланетяне
Ответ на сообщение Re: Точность точки пользователя RealWega
Я столько лет программирую и никогда не сталкивался с этим вплотную, точнееЭх вот они современные программисты, нифига не знающие математических основ дискретных вычислений
не обращал на это внимание.

Ответ на сообщение Re: Точность точки пользователя RealWega
Ответ на сообщение Re: Точность точки пользователя CoolUser
Ответ на сообщение Re: Точность точки пользователя RealWega
