Добрый день.

Помогите, пожалуйста, правильно округлить.

Сервер 2.5, диалект 3

select cast(27043022.5 as double precision) / cast(100 as double precision) from rdb$database

получаем результат 270430.224999999977 , при математическом округлении на 2 знаков после запятой получаем 270430.22, а нужно 270430.23 .

Симонов ДенисLuke221,

не понятно по каким критериям вы хотите округлить. Как сервер поймёт это?

Есть 2 числа 27043022.5 и 100. При делении первого на второе результат 270430.225 , при округлении до 2 знаков после запятой получается 270430.23

Что делает Firebird:

select round(cast(27043022.5 as double precision) / cast(100 as double precision), 2) from rdb$database

Результат: 270430.22000000003

rdb_devКак вариант:



первое число - переменная, костылик +0.5 не прокатит для любых чисел

fraksLuke221,

В FB2.5 есть встроенная функция ROUND (number [, scale]).

round как раз правильно работает, именно поэтому я и не упомянул. Неверный результат получается как раз при делении на 100 из-за особенностей Firebird с 9999999 в периоде

rdb_devLuke221первое число - переменная, костылик +0.5 не прокатит для любых чиселЧой-то не прокатит? Тебе же сначала надо округлить до целого, а только затем делить на 100? Дополнение на 0.5, с последующим отбрасыванием дробной части, очень даже прокатит, если при попадании в половину целого тебе надо округлять в большую сторону, а не в зависимости от четности/нечетности целого!

не совсем...
ваш метод:
SELECT Floor(Cast(27043022.55 as double precision) + 0.5) / cast(100.0 as double precision) FROM RDB$DATABASE

дает 270430.23

а нужно:
27043022.55 / 100 = 270430.2255

Luke221rdb_devпропущено...
Чой-то не прокатит? Тебе же сначала надо округлить до целого, а только затем делить на 100? Дополнение на 0.5, с последующим отбрасыванием дробной части, очень даже прокатит, если при попадании в половину целого тебе надо округлять в большую сторону, а не в зависимости от четности/нечетности целого!

не совсем...
ваш метод:
SELECT Floor(Cast(27043022.55 as double precision) + 0.5) / cast(100.0 as double precision) FROM RDB$DATABASE

дает 270430.23

а нужно:
27043022.55 / 100 = 270430.2255

Тут я уже напутал) Результат при округлении до 2 знаков как раз 270430.23

p.s.> вроде прокатывает

kdvLuke221а нужно:
27043022.55 / 100 = 270430.2255
никак такое не получится, потому что по нормальному выходит
select cast(27043022.5 as numeric(18,2)) / cast(100 as numeric(18,2)) from rdb$database
270430,2250

откуда из 270430.224999999977 в 4м разряде после запятой получится 5 - непонятно.

Читать
http://www.delphikingdom.com/asp/viewitem.asp?catalogid=374
и
http://www.delphikingdom.com/asp/viewitem.asp?catalogID=1217

потому что в моем 2 примере

select cast(27043022.55 as numeric(18,2)) / cast(100 as numeric(18,2)) from rdb$database

Симонов ДенисLuke221,

ещё раз повторяю проблема в использовании типов с плавающей точкой. Ну не возможно работать с double precision без ошибок округления. Поэтому пока вариант только один переходить на фиксированную точку. Выйдет 4.0 там можно развлекаться с DECFLOAT

Проблема с фиксированной точкой другая - переполнение при умножении (там на самом деле сложнее формула)

kdvLuke221,

да пофиг. читайте те 2 статьи.

Спасибо за статьи

rdb_devКак вариант:



Спасибо. Ваш метод и правда работает!

select round(round(cast(27043022.5 as double precision), 0) / cast(100 as double precision), 2) from rdb$database