Гость
Форумы / Delphi [игнор отключен] [закрыт для гостей] / Трабл с числами double / 3 сообщений из 3, страница 1 из 1
04.07.2001, 15:12
    #32008900
RayBot
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Трабл с числами double
var frc:double;

........................

frc:=Frac(какое-то выражение)

получаю что когда мне должен вренуться 0, я получаю хер знает что в -313 степени.
Результат мне надо сравнивать с 0 и естественно при таком раскладе сравнение происходит неккоректно.

В чем тут проблема.

RayBot
...
Рейтинг: 0 / 0
04.07.2001, 16:42
    #32008905
maximF
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Трабл с числами double
Нельзя числа с плавающей точкой сравнивать с целыми числами напрямую! Надо пользоваться конcтрукцией типа abs(frc)<0.0000000001
...
Рейтинг: 0 / 0
04.07.2001, 19:19
    #32008912
JINX
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Трабл с числами double
Для общего ознакомления может вот пригодится

http://www.delphikingdom.com/helloworld/reals.htm
...
Рейтинг: 0 / 0
Форумы / Delphi [игнор отключен] [закрыт для гостей] / Трабл с числами double / 3 сообщений из 3, страница 1 из 1
Целевая тема:
Создать новую тему:
Автор:
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]