Гость
Войти | Профиль | Очистить
Целевая тема:
Создать новую тему:
Автор:
Действия ...
Форумы / Firebird, InterBase [игнор отключен] [закрыт для гостей] / (1.0/1000.0) в WHERE / 6 сообщений из 6, страница 1 из 1
16.01.2003, 10:08:28
    #32091602
ZrenBy
ZrenBy
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
(1.0/1000.0) в WHERE
Здравствуйте.

FB 1.0 v6.2.794

Есть простая табличка с полем DOUBLE PRECISION

Если делаю

select * from TBL_THS where THS_MOD<(0.001)

то все отлично, но при запросе

select * from TBL_THS where THS_MOD<(1.0/1000.0)

отбирается только то, где THS_MOD строго меньше нуля.

Почему ?
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
16.01.2003, 13:14:58
    #32091791
Gold
Gold
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
(1.0/1000.0) в WHERE
Привет. Попробу сделать явное преобразование типов, а вобще-то это к разработчикам вопрос ...

select * from TBL_THS where THS_MOD<cast(1.0/1000.0 as double precission)
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
17.01.2003, 10:30:35
    #32092321
p519446
p519446
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
(1.0/1000.0) в WHERE
Я проверил у себя на IB 6.5, результат такой же!!
Он выдает пустой результат даже если я дам такой запрос:
select * from doubtest where ths<1/2
или даже так:
select * from doubtest where ths < cast(1/2 as double precision) - тоже не дает результатов.
Странно...
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
17.01.2003, 10:36:34
    #32092326
p519446
p519446
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
(1.0/1000.0) в WHERE
Делай так:
select * from <table> where ths_mod<1.0/1000.00
(у числа 1000 после запятой должно быть ДВА знака!!)
Тогда работает (даже когла я загонял туда "совсем маленькие" числа типа INSERT INTO DOUBTEST(ID,THS) VALUES (77,0.000000000000077)
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
17.01.2003, 12:08:21
    #32092410
Gold
Gold
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
(1.0/1000.0) в WHERE
Да, судя по раскладам IB что-то не совсем правильно преобразовывает. У меня тоже год назад какие-то подобные проблемы в ХП были ...
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
17.01.2003, 12:39:10
    #32092440
Dragon
Dragon
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
(1.0/1000.0) в WHERE
Точно не помню,
Но мне отвечали и давали ссылку на преобразование дробей в ИБ.
Возможно, с этим все связано.
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
Форумы / Firebird, InterBase [игнор отключен] [закрыт для гостей] / (1.0/1000.0) в WHERE / 6 сообщений из 6, страница 1 из 1
Найденые пользователи ...
Разблокировать пользователей ...
Читали тему (0):
Читали форум (0):
Пользователи онлайн (0):
Польз. соглашение  
Полит. конфиден.  
созд. / загр.: 362ms
Закрыть
start [/forum/topic.php?fid=40&tablet=1&tid=1580943]:
 0ms
get settings:
 6ms
get forum list:
 12ms
check forum access:
 3ms
check topic access:
 3ms
track hit:
 52ms
get topic data:
 10ms
get forum data:
 3ms
get page messages:
 42ms
get tp. blocked users:
 1ms
others: 230ms
total:  362ms
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]