Блог им. sevkav60

Небольшое непонимание в языке Lua.

У меня возникла проблема в понимание результата даного кода:

a =   -20+12.7;               //  здесь в переменную а записывается  -7,3
b =  a + 7.3;                   // здесь должен получится 0 ( но ноль не получается)   
c = -7.3 +7.3;                // и здесь должен быть 0
print(b);
print©;

Но вот результат вывода:

-8.8817841970013e-16
0

Кто может обьяснить в чем проблема и как решить данную проблему?
  • Ключевые слова:
  • LUA
78 | ★3
11 комментариев
На первый взгляд проблема в типах данных
avatar
Потому что в переменной «а» лежит не то, что вы думаете. Скорее всего из-за её типа.
avatar
Попробуйте для переменной «a» явно указать дробную часть
a = -20.0+12.7;
avatar
sahar, о я делал, тотже результат.
avatar
Уж не QLua ли это. Не совсем корректно преобразуется тип (int) в (double). Действительно попробуйте написать -20.0 или (double)-20.
avatar
Karim, бесполезно.
avatar
tonumber(a)
avatar
«а» как объявлена? попробуйте объявить ее явно и приведите сразу к типу double.
double a;
avatar
Ivor, тут слабая типизация. Здесь не пишут тип рядом с переменой
avatar
Все правильно. Число b — ОЧЕНЬ маленькое, практически ноль.
Проблема у вас может возникнуть, только если вы начнете сравнивать b с нулем:
if(b == 0)… чего в программировании при использоваини вещественных чисел делать никогда не следует. Нужно писать, например
if abs(b) < 10e-8
avatar
Проблема в том, что многие вещественные числа (например, 0.1) невозможно представить в двоичном виде, в итоге компьютер оперирует приближённым значением.
Довольно странно, что Вы только сейчас узнали об этой проблеме: в школе/университете при написании циклов на Basic Вы были просто обязаны попасть на эту ошибку
avatar

Читайте на SMART-LAB:
Не тихая гавань. Как меняется восприятие розничных инвесторов на фоне взлетов и падений драгоценных металлов
После январских исторических максимумов по цене на унцию разнообразных драгоценных металлов восприятие розничных инвесторов относительно данного...
Фото
СЕО «Просебя» рассказала, почему бизнес будет инвестировать в ментальное здоровье сотрудников даже в текущих экономических условиях
Мы превращаем ментальное благополучие из разовой «плюшки» в управляемый инструмент устойчивости бизнеса. Ксения Винцюнене, СЕО нашей компании в...
Фото
📍 Ресейл: рынок, который растёт, потому что стал удобным
Рынок ресейла в последние годы растёт опережающими темпами — и дело уже не только в экономии. Вторичный рынок перестал быть нишевым и...
Фото
Рублевые корпоративные облигации: подбираем оптимальные выпуски
С начала текущего года ситуация в рублевых корпоративных облигациях в целом довольно спокойная – пока не наблюдается какая-либо выраженная...

теги блога Sev Kav

....все тэги



UPDONW
Новый дизайн