powered by simpleCommunicator - 2.0.53     © 2025 Programmizd 02
Форумы / Oracle [игнор отключен] [закрыт для гостей] / Точное значение NUMBER
8 сообщений из 33, страница 2 из 2
Точное значение NUMBER
    #39856433
Фотография SY
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Stax,

Это на сегоднящих данных. Поэтому утвержнение что to_char() показывает истинное значение должно быть с пониманием что в принципе to_char округляет.

SY.
...
Рейтинг: 0 / 0
Точное значение NUMBER
    #39856479
Фотография Elic
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
SYв принципе to_char округляет.Соломон, я же уже показал, что тебе опасно бездумно утверждать "всеобщие" истины.
На практически используемых данных бесформатному to_char-у нечего округлять.
...
Рейтинг: 0 / 0
Точное значение NUMBER
    #39856488
Фотография Stax
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
SY,

то что из-за короткой маски to_char округляет, я знал

не понятно откуда у Maxmix взялось 21960482 когда в табліце 447703.37

каккой-то хитрий типа "?_float"

надеюсь разберутся где "галочку" сняли/поставили

......
stax
...
Рейтинг: 0 / 0
Точное значение NUMBER
    #39856492
Фотография -2-
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Staxкаккой-то хитрий типа "?_float" Его клиентское ПО использует при чтении из БД тип binary64 IEEE754, который не может точно отражать десятично-дробные числа
Код: plsql
1.
2.
3.
4.
5.
6.
7.
8.
9.
select x,
  to_char((1-to_number(utl_raw.bit_and(substr(x,1,1), '8'))/4)
         *(1+to_number(substr(x, 4), 'xxxxxxxxxxxxx')/power(2,52))
         *power(2,to_number(utl_raw.bit_and(substr(x, 1, 3),'7FF'), 'xxxx')-1023)) y
from (select utl_raw.cast_from_binary_double(447703.37d) x from dual);

X                Y                                       
---------------- ----------------------------------------
411B535D7AE147AE 447703.369999999995343387126922607421875
...
Рейтинг: 0 / 0
Точное значение NUMBER
    #39856669
Фотография MasterZiv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Maxmix,

Клиент double -ы для значения использует.
Видимо.
Надо биндить параметров как строки или как какие-то аналоги
BigDecimal
...
Рейтинг: 0 / 0
Точное значение NUMBER
    #39856676
Фотография Elic
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
MasterZivбиндить параметровЗачем суёшься туда, где ни черта не понимаешь?
...
Рейтинг: 0 / 0
Точное значение NUMBER
    #39857050
Maxmix
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
MasterZiv,

Да там какое-то Embarcadero используется, кроме типов с плавающей точкой ничего не нашли. Хотя в свойствах компонента есть галочка Currency, вот её и тыкали!
...
Рейтинг: 0 / 0
Точное значение NUMBER
    #39857051
Maxmix
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Странно, почему оповещения на email не приходят, я же подписался на свою тему
...
Рейтинг: 0 / 0
8 сообщений из 33, страница 2 из 2
Форумы / Oracle [игнор отключен] [закрыт для гостей] / Точное значение NUMBER
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]