1.


Наблюдается дребезг в 14-м и далее разрядах, характерный для преобразований чисел с плавающей точкой. С чего бы? Специально выбрал формат с фиксированной точкой, чтобы не терять ни одного знака, и вот. Это пока не вопрос, так, недоумение.

2. А вот и вопрос. Хочу хранить в поле таблицы величины decimal(18,14) и получать их с клиента, но не могу сообразить, как бы эту передачу толком сделать.

Передавать в виде floating point нельзя, будут искажения. Если передавать как bigint , то потом невозможно поделить на 100000000000000 , это число в выражении явно или неявно преобразуется к decimal(18,14) и возникает overflow . Да и есть сильные подозрения, что при делении не обойдется без floating point (см. п. 1), что опять приведет к потере разрядов.

Единственное, что остается, передавать в виде строки '99.00000000000001' и потом делать cast к decimal(18,14) , но это ж как-то некошерно работать с числами через строки. А как? Ладно, хотя бы к decimal(18,13) , на 13 знаках хотя бы явления, описанного в п. 1, не наблюдается.

Firebird 3.0.7

P.S.
Да, и с праздником всех причастных!

Хм, и правда, dimitr. ISQL дает такой результат. А IBExpert - тот, который у меня выше. Значит, это IBExpert результат представляет неаккуратно. Ну, уже легче, спасибо. Но п. 2 остается с вопросом.

Ага, точно

Мн-да... знал, что я лопух, но чтоб настолько... Работает, однако, спасибо!


Ну, в Дельфи есть currency = decimal(18,4) , но это очень куце, конечно. Поначалу его и использовал, и все работало, пока не выяснилось, что 4 знака - это очень мало для задачи.