|
|
|
(1.0/1000.0) в WHERE
|
|||
|---|---|---|---|
|
#18+
Здравствуйте. FB 1.0 v6.2.794 Есть простая табличка с полем DOUBLE PRECISION Если делаю select * from TBL_THS where THS_MOD<(0.001) то все отлично, но при запросе select * from TBL_THS where THS_MOD<(1.0/1000.0) отбирается только то, где THS_MOD строго меньше нуля. Почему ? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 16.01.2003, 10:08 |
|
||
|
(1.0/1000.0) в WHERE
|
|||
|---|---|---|---|
|
#18+
Привет. Попробу сделать явное преобразование типов, а вобще-то это к разработчикам вопрос ... select * from TBL_THS where THS_MOD<cast(1.0/1000.0 as double precission) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 16.01.2003, 13:14 |
|
||
|
(1.0/1000.0) в WHERE
|
|||
|---|---|---|---|
|
#18+
Я проверил у себя на IB 6.5, результат такой же!! Он выдает пустой результат даже если я дам такой запрос: select * from doubtest where ths<1/2 или даже так: select * from doubtest where ths < cast(1/2 as double precision) - тоже не дает результатов. Странно... ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.01.2003, 10:30 |
|
||
|
(1.0/1000.0) в WHERE
|
|||
|---|---|---|---|
|
#18+
Делай так: select * from <table> where ths_mod<1.0/1000.00 (у числа 1000 после запятой должно быть ДВА знака!!) Тогда работает (даже когла я загонял туда "совсем маленькие" числа типа INSERT INTO DOUBTEST(ID,THS) VALUES (77,0.000000000000077) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.01.2003, 10:36 |
|
||
|
(1.0/1000.0) в WHERE
|
|||
|---|---|---|---|
|
#18+
Да, судя по раскладам IB что-то не совсем правильно преобразовывает. У меня тоже год назад какие-то подобные проблемы в ХП были ... ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.01.2003, 12:08 |
|
||
|
|
start [/forum/topic.php?fid=40&fpage=529&tid=1580943]: |
0ms |
get settings: |
7ms |
get forum list: |
13ms |
check forum access: |
3ms |
check topic access: |
3ms |
track hit: |
41ms |
get topic data: |
12ms |
get forum data: |
3ms |
get page messages: |
51ms |
get tp. blocked users: |
2ms |
| others: | 16ms |
| total: | 151ms |
| 0 / 0 |
