Гость
Целевая тема:
Создать новую тему:
Автор:
Форумы / Firebird, InterBase [игнор отключен] [закрыт для гостей] / (1.0/1000.0) в WHERE / 6 сообщений из 6, страница 1 из 1
16.01.2003, 10:08
    #32091602
ZrenBy
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
(1.0/1000.0) в WHERE
Здравствуйте.

FB 1.0 v6.2.794

Есть простая табличка с полем DOUBLE PRECISION

Если делаю

select * from TBL_THS where THS_MOD<(0.001)

то все отлично, но при запросе

select * from TBL_THS where THS_MOD<(1.0/1000.0)

отбирается только то, где THS_MOD строго меньше нуля.

Почему ?
...
Рейтинг: 0 / 0
16.01.2003, 13:14
    #32091791
Gold
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
(1.0/1000.0) в WHERE
Привет. Попробу сделать явное преобразование типов, а вобще-то это к разработчикам вопрос ...

select * from TBL_THS where THS_MOD<cast(1.0/1000.0 as double precission)
...
Рейтинг: 0 / 0
17.01.2003, 10:30
    #32092321
p519446
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
(1.0/1000.0) в WHERE
Я проверил у себя на IB 6.5, результат такой же!!
Он выдает пустой результат даже если я дам такой запрос:
select * from doubtest where ths<1/2
или даже так:
select * from doubtest where ths < cast(1/2 as double precision) - тоже не дает результатов.
Странно...
...
Рейтинг: 0 / 0
17.01.2003, 10:36
    #32092326
p519446
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
(1.0/1000.0) в WHERE
Делай так:
select * from <table> where ths_mod<1.0/1000.00
(у числа 1000 после запятой должно быть ДВА знака!!)
Тогда работает (даже когла я загонял туда "совсем маленькие" числа типа INSERT INTO DOUBTEST(ID,THS) VALUES (77,0.000000000000077)
...
Рейтинг: 0 / 0
17.01.2003, 12:08
    #32092410
Gold
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
(1.0/1000.0) в WHERE
Да, судя по раскладам IB что-то не совсем правильно преобразовывает. У меня тоже год назад какие-то подобные проблемы в ХП были ...
...
Рейтинг: 0 / 0
17.01.2003, 12:39
    #32092440
Dragon
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
(1.0/1000.0) в WHERE
Точно не помню,
Но мне отвечали и давали ссылку на преобразование дробей в ИБ.
Возможно, с этим все связано.
...
Рейтинг: 0 / 0
Форумы / Firebird, InterBase [игнор отключен] [закрыт для гостей] / (1.0/1000.0) в WHERE / 6 сообщений из 6, страница 1 из 1
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]