|
Загадка...
|
|||
---|---|---|---|
#18+
select TMP, cast(TMP as varchar(10)) from (select round(0.001*623.20,2) as TMP from rdb$database) вы видите тоже, что и я? это глюк IBExpert или все таки FB? FB 2.5.1 IBExpert 2014.10.11.1 ... |
|||
:
Нравится:
Не нравится:
|
|||
11.07.2017, 15:27 |
|
Загадка...
|
|||
---|---|---|---|
#18+
/0IBExpert 2014.10.11.1 Какой год на дворе? ... |
|||
:
Нравится:
Не нравится:
|
|||
11.07.2017, 15:33 |
|
Загадка...
|
|||
---|---|---|---|
#18+
Загадка тут одна - как можно до сих пор не понимать двоичные числа с плавающей точкой ... |
|||
:
Нравится:
Не нравится:
|
|||
11.07.2017, 15:50 |
|
Загадка...
|
|||
---|---|---|---|
#18+
hvlad, явно же глюк select round(0.001*623.20,3) as TMP from rdb$database 0.62299 select round(0.001*623.20,4) as TMP from rdb$database 0.6232 ... |
|||
:
Нравится:
Не нравится:
|
|||
11.07.2017, 16:04 |
|
Загадка...
|
|||
---|---|---|---|
#18+
сдается мне раунд из какой-нибудь древнючей УДФ, в итоге результат такого округления принудительный дабл. решение - выпилить удф-ный раунд. Оно поди еще и null к нолику приводит. ... |
|||
:
Нравится:
Не нравится:
|
|||
11.07.2017, 16:05 |
|
Загадка...
|
|||
---|---|---|---|
#18+
Result type: INTEGER, (scaled) BIGINT or DOUBLE нумерика нет среди результата. select 0.001*623.20, round(0.001*623.20,1) as f1, round(0.001*623.20,2) as f2, round(0.001*623.20,3) as f3, round(cast(0.001 * 623.20 as numeric (18,5)),3) as fn3, round(0.001*623.20,4) as f4, round(0.001*623.20,5) as f5, round(0.6232,2), round(0.6232,3) from rdb$database хотя все равно как-то странно. ... |
|||
:
Нравится:
Не нравится:
|
|||
11.07.2017, 16:27 |
|
Загадка...
|
|||
---|---|---|---|
#18+
rstrelba, Код: plaintext 1. 2. 3. 4. 5. 6. 7. 8. 9. 10. 11. 12. 13. 14. 15.
... |
|||
:
Нравится:
Не нравится:
|
|||
11.07.2017, 16:32 |
|
Загадка...
|
|||
---|---|---|---|
#18+
Никакие UDF не используются - родной round из комплекта сервера. По поводу "двоичные числа с плавающей точкой " отчасти согласен, НО это злополучное число получается как сумма некоторых значений из столбца таблицы, имеющего формат NUMERIC(12,2). Можно прокастовать 623.20 к этому типу - такая же ситуация. И если это действительно была ошибка округления ввиду ряда причин - почему при касте в строку получилось то, что и должно быть, а не '0.61999'? Конечно можно кастовать в строку, а потом обратно - но это не спортивно как то... ... |
|||
:
Нравится:
Не нравится:
|
|||
11.07.2017, 16:55 |
|
Загадка...
|
|||
---|---|---|---|
#18+
Такое впечатление, что это эксперт с его датасетом и AsFloat портит картину. В эксперте (у меня 17 года) картинка странная. Влад, в доке https://firebirdsql.org/refdocs/langrefupd21-intfunc-round.html нет нумерика как результат, это в доке кривовато написано? ... |
|||
:
Нравится:
Не нравится:
|
|||
11.07.2017, 17:07 |
|
Загадка...
|
|||
---|---|---|---|
#18+
/0, родной round я выше показывал. Вот ещё раз: Код: plaintext 1. 2. 3. 4. 5. 6. 7. 8. 9.
... |
|||
:
Нравится:
Не нравится:
|
|||
11.07.2017, 17:09 |
|
Загадка...
|
|||
---|---|---|---|
#18+
/0...почему при касте в строку получилось то, что и должно быть... Ну может потому что сервер (а не кто-то другой) в строку переводит ведь вот здесь 20634261 Влад показал что выдает сервер однако у тебя вопросы не исчезли ... |
|||
:
Нравится:
Не нравится:
|
|||
11.07.2017, 17:10 |
|
Загадка...
|
|||
---|---|---|---|
#18+
Ivan_PisarevskyВлад, в доке https://firebirdsql.org/refdocs/langrefupd21-intfunc-round.html нет нумерика как результат, это в доке кривовато написано?(scaled) BIGINT - не оно ? ... |
|||
:
Нравится:
Не нравится:
|
|||
11.07.2017, 17:12 |
|
Загадка...
|
|||
---|---|---|---|
#18+
по идее да, да и по наблюдению оно. Перекину-ка я топик в соседний раздел, пусть Хвастунов про свое детище расскажет. Модератор: Тема перенесена из форума "Firebird, InterBase". ... |
|||
:
Нравится:
Не нравится:
|
|||
11.07.2017, 17:14 |
|
|
start [/forum/topic.php?fid=42&fpage=17&tid=1599068]: |
0ms |
get settings: |
10ms |
get forum list: |
14ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
59ms |
get topic data: |
10ms |
get forum data: |
2ms |
get page messages: |
73ms |
get tp. blocked users: |
2ms |
others: | 241ms |
total: | 419ms |
0 / 0 |