ReSQL.ru
     
powered by simpleCommunicator - 2.0.61     © 2026 Programmizd 02
Мобильная версия    Контакт    Правила    FAQ    Помощь
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Доб. в избранное | Игнор. тему | Прикреп. тему | Пометить прочит. / непрочит. | Фильтр
Форумы / Oracle [игнор отключен] [закрыт для гостей] / Точное значение NUMBER
8 сообщений из 33, страница 2 из 2
  2  все
Точное значение NUMBER
    #39856433
Фотография SY
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
SY
Участник
Stax,

Это на сегоднящих данных. Поэтому утвержнение что to_char() показывает истинное значение должно быть с пониманием что в принципе to_char округляет.

SY.
...
Рейтинг: 0 / 0
02.09.2019, 19:44
| Ответить | Цитировать | Написать  
Точное значение NUMBER
    #39856479
Фотография Elic
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Elic
Участник
SYв принципе to_char округляет.Соломон, я же уже показал, что тебе опасно бездумно утверждать "всеобщие" истины.
На практически используемых данных бесформатному to_char-у нечего округлять.
...
Рейтинг: 0 / 0
03.09.2019, 07:52
| Ответить | Цитировать | Написать  
Точное значение NUMBER
    #39856488
Фотография Stax
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Stax
Участник
SY,

то что из-за короткой маски to_char округляет, я знал

не понятно откуда у Maxmix взялось 21960482 когда в табліце 447703.37

каккой-то хитрий типа "?_float"

надеюсь разберутся где "галочку" сняли/поставили

......
stax
...
Рейтинг: 0 / 0
03.09.2019, 08:49
| Ответить | Цитировать | Написать  
Точное значение NUMBER
    #39856492
Фотография -2-
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
-2-
Участник
Staxкаккой-то хитрий типа "?_float" Его клиентское ПО использует при чтении из БД тип binary64 IEEE754, который не может точно отражать десятично-дробные числа
Код: plsql
1.
2.
3.
4.
5.
6.
7.
8.
9.
select x,
  to_char((1-to_number(utl_raw.bit_and(substr(x,1,1), '8'))/4)
         *(1+to_number(substr(x, 4), 'xxxxxxxxxxxxx')/power(2,52))
         *power(2,to_number(utl_raw.bit_and(substr(x, 1, 3),'7FF'), 'xxxx')-1023)) y
from (select utl_raw.cast_from_binary_double(447703.37d) x from dual);

X                Y                                       
---------------- ----------------------------------------
411B535D7AE147AE 447703.369999999995343387126922607421875
...
Рейтинг: 0 / 0
03.09.2019, 09:01
| Ответить | Цитировать | Написать  
Точное значение NUMBER
    #39856669
Фотография MasterZiv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
MasterZiv
Участник
Maxmix,

Клиент double -ы для значения использует.
Видимо.
Надо биндить параметров как строки или как какие-то аналоги
BigDecimal
...
Рейтинг: 0 / 0
03.09.2019, 14:33
| Ответить | Цитировать | Написать  
Точное значение NUMBER
    #39856676
Фотография Elic
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Elic
Участник
MasterZivбиндить параметровЗачем суёшься туда, где ни черта не понимаешь?
...
Рейтинг: 0 / 0
03.09.2019, 14:46
| Ответить | Цитировать | Написать  
Точное значение NUMBER
    #39857050
Maxmix
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Maxmix
Гость
MasterZiv,

Да там какое-то Embarcadero используется, кроме типов с плавающей точкой ничего не нашли. Хотя в свойствах компонента есть галочка Currency, вот её и тыкали!
...
Рейтинг: 0 / 0
04.09.2019, 11:47
| Ответить | Цитировать | Написать  
Точное значение NUMBER
    #39857051
Maxmix
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Maxmix
Гость
Странно, почему оповещения на email не приходят, я же подписался на свою тему
...
Рейтинг: 0 / 0
04.09.2019, 11:49
| Ответить | Цитировать | Написать  
8 сообщений из 33, страница 2 из 2
  2  все
Форумы / Oracle [игнор отключен] [закрыт для гостей] / Точное значение NUMBER
Найденые пользователи ...
Разблокировать пользователей ...
Читали тему (0):
Читали форум (0):
Пользователи онлайн (0):
Польз. соглашение   Полит. конфиден.  
NoSQL.ru       Кролег: Проекты, Новости, Чат       РЕД ФОРУМ       Фотоальбом: Участники, Встречи
Закрыть
start [/forum/moderation_log.php?user_name=Me_and_me_again%2C]:
 0ms
get settings:
 10ms
get forum list:
 11ms
get settings:
 10ms
get forum list:
 19ms
check forum access:
 3ms
check topic access:
 3ms
track hit:
 38ms
get topic data:
 12ms
get forum data:
 3ms
get page messages:
 73ms
get tp. blocked users:
 2ms
others: 658ms
total:  842ms
созд. / загр.: 842ms
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]