andrey_anonymous-2-пропущено...
Между 10 ¹ и 10 ^-38 требуется точность 40 значащих цифр. binary_double дает до 18 десятичных знаков.
И что из этого следует?

следует то, что некорректно сравнивать граничные number и binary_float, в первый влазит намного больше "информации" - значащих цифр, разница между ними будет всегда

проблема же автора скорее из отряда того, что у него клиенские double/float (а это очень распостраненная практика - преобразовывать number, который base100 разновидность BCD в типы IEEE на клиенте, ибо там других типов нет) пишутся в базу данных без специальной коррекции, в результате он наступает на проблему

http://0.30000000000000004.com/

и тут ему только в trunc()/round(), ну и в dump() для полного просвещения, сама же СУБД тут абсолютно ни при чем.

andrey_anonymousdbpatchпропущено...


следует то, что некорректно сравнивать граничные number и binary_float
:)

Фикус немного в другом.
number в oracle имеет не только десятичную мантиссу, но и, что более важно, десятичный порядок.
Числа, представленные в IEEE-754, имеют двоичный порядок.

не совсем десятичный, там base100. но с натяжкой ок, можно считать десятичным :)
http://www.orafaq.com/wiki/Number#Internal_storage


andrey_anonymousИ тут наступает смешная штука - множества представимых чисел в этих представлениях тупо не совпадают .
И чем больше порядок - тем больше расстояние между представимыми числами, и, следовательно, больше абсолютная погрешность.
В итоге, сохраняя IEEE-754 (а они бывают 32, 64, и 80 бит) во вроде бы более точный number, получаем по факту потерю точности, поскольку в number не всегда возможно представить значение double.

а не наоборот ???

andrey_anonymousПотому и ввели в 12с binary_double и binary_float, чтобы классические приложения могли хранить данные без преобразования и не "наступать".
сомнительно, ИМХО это было скорее для вопроса перфоманса.

andrey_anonymousИ в этой связи мне показался слегка странным данный тут совет избегать этих типов.\
Oracle в подавляющем большинстве случаев используется для подсчета и хранения денег, а использование там нативного
double вообще говоря преступление с т.з. бухгалтерий всяких (если у тебя нет библиотеки для "нормализации" копеек после умножений и делений).

в IBM вообще есть целая библиотека для "правильного" подсчета денег https://github.com/libdfp/libdfp
даром что ей никто не пользуется (в Java и .NET тоже есть имплементации, тоже непопулярные).

andrey_anonymous Если что - устриц ел, в смысле - приходилось как-то плотно заниматься "самопальным" преобразованиями из IEEE-754 в number и обратно.
да нет там никаких устриц, задача для начального уровня. я с ней столкнулся практически на второй неделе после того, как вообще начал работать программистом - мне принесли два отчета где цифры Итого не сходились.

странно, что неофиты до сих пор наступают на такие грабли, и никто не решил проблему системно

andrey_anonymousdbpatchне совсем десятичный, там base100. но с натяжкой ок, можно считать десятичным :)

Сам когда-то так полагал (и вроде даже писал на этом форуме).
Но там чистый BCD.

ой да ладно. base100 это и разновидность BCD, но если мы говорим про IBM варианты, то .... блин, да нет понятия чистый BCD
https://en.wikipedia.org/wiki/Binary-coded_decimal



andrey_anonymousdbpatchа не наоборот ???

Что конкретно наоборот?
Расстояние между представимыми числами, точность или невозможность представить IEEE-754 в number?
всякий IEEE-754 можно представить как number, но не наоборот.
ты говорил что как раз не всякий IEEE-754 можно в number, что не есть научно


andrey_anonymousdbpatchстранно, что неофиты до сих пор наступают на такие грабли, и никто не решил проблему системно
Так нет тут "системной проблемы", потому и не решают.
Всего лишь особенности машинных вычислений, которые по идее должны преподаваться на профильных курсах.

это не техническая системная проблема, а проблема организационная.

практически все актуальные языки программирования имеют реализацию Money/Currency или подобного, от Fixed pointer до BCD вариаций, но этим никто не пользуются, все почему-то считают деньги через double, который без специальных библиотек можно использовать лишь для инженерных/научных расчетов, но никак не для бухгалтерий

есть даже специальный вид консалтинга - приходят и начинают код "линтать", на предмет некорректного использования double (первым делом ищут операторы деления и умножения, находят практически каждый раз в новом коде)

andrey_anonymousdbpatchпропущено...

ой да ладно. base100 это и разновидность BCD

Ну покажи вариант BCD, который нельзя назвать "BASE 100" :)


Я дал ссылку на википедию, все описанные там варианты BCD - не base 100.


andrey_anonymousdbpatchвсякий IEEE-754 можно представить как number, но не наоборот.

Неправда ваша.
Пример - выше :)

какой такой пример? с power? ну так power для double выдает искаженный результат, но это не означает, что существует
какое-то представимое в double число, которое нельзя воткнуть в number без потери значимых цифр.

или еще раз - число, в студию, которое можно присвоить в double, но нельзя такое-же число получить в number без искажений :)

andrey_anonymousЧто до научности - то независимо от системы счисления множество вещественных чисел нельзя представить ни в одном из машинных представлений уже просто ввиду перечислимости представимых множеств.
Из первого попавшегося можно почитать здесь:
http://www.softelectro.ru/ieee754.html
7.4 Точность представления вещественных чисел в формате IEEE754

А в обсуждаемом случае имеем ошибку преобразования из одного представления в другое просто ввиду несовпадения множеств представимых чисел.

вот жеж блин :\

где я говорил, что бесконечное множество вещественных чисел можно представить в number?
число 0.3(3), как результат 1/3 нельзя представить ни в double, ни в number, без потери точности, это и ежу понятно,

речь же была про другое, про то, что не всякий double можно в number - я к этому утверждению (ложному) и придрался

говоря проще - я утверждал (вернее предпологаю), что все конечное множество числел double можно поместить в множество number.


вот и прошу опровергнуть оное, примерами непомещаемых чисел