SMART-LAB
Новый дизайн
Мы делаем деньги на бирже
Информация
Блог им. sevkav60
Небольшое непонимание в языке Lua.
- 07 июля 2015, 15:44
- |
У меня возникла проблема в понимание результата даного кода:
a = -20+12.7; // здесь в переменную а записывается -7,3
b = a + 7.3; // здесь должен получится 0 ( но ноль не получается)
c = -7.3 +7.3; // и здесь должен быть 0
print(b);
print©;
Но вот результат вывода:
-8.8817841970013e-16
0
Кто может обьяснить в чем проблема и как решить данную проблему?
a = -20+12.7; // здесь в переменную а записывается -7,3
b = a + 7.3; // здесь должен получится 0 ( но ноль не получается)
c = -7.3 +7.3; // и здесь должен быть 0
print(b);
print©;
Но вот результат вывода:
-8.8817841970013e-16
0
Кто может обьяснить в чем проблема и как решить данную проблему?
78 |
Читайте на SMART-LAB:
Долгосрочное инвестирование умерло. В этот раз - без "но". Хороших новостей не будет
Увеличение капитала посредством инвестирования в доли компаний всегда основывалось на двух тезисах
(1) компания сможет на длительном...
16:12
Как на самом деле используют ИИ в алготрейдинге
Если первая часть моего репортажа по конференции алготрейдеров в Москве была об инфраструктуре, то вторая часть будет про искусственный...
04:30
a = -20.0+12.7;
double a;
Проблема у вас может возникнуть, только если вы начнете сравнивать b с нулем:
if(b == 0)… чего в программировании при использоваини вещественных чисел делать никогда не следует. Нужно писать, например
if abs(b) < 10e-8
Довольно странно, что Вы только сейчас узнали об этой проблеме: в школе/университете при написании циклов на Basic Вы были просто обязаны попасть на эту ошибку