Гость
Войти | Профиль | Очистить
Действия ...
Форумы / Firebird, InterBase [игнор отключен] [закрыт для гостей] / Округление :| / 20 сообщений из 20, страница 1 из 1
22.06.2017, 10:15
    #39475990
Luke221
Luke221
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Округление :|
Добрый день.

Помогите, пожалуйста, правильно округлить.

Сервер 2.5, диалект 3

select cast(27043022.5 as double precision) / cast(100 as double precision) from rdb$database

получаем результат 270430.224999999977 , при математическом округлении на 2 знаков после запятой получаем 270430.22, а нужно 270430.23 .
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
22.06.2017, 10:27
    #39475998
Симонов Денис
Симонов Денис
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Округление :|
Luke221,

не понятно по каким критериям вы хотите округлить. Как сервер поймёт это?
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
22.06.2017, 10:27
    #39475999
fraks
fraks
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Округление :|
Luke221,

В FB2.5 есть встроенная функция ROUND (number [, scale]).
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
22.06.2017, 10:32
    #39476005
fraks
fraks
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Округление :|
Когда-то заморачивался округлением вверх на сервере, родил вот такую процедуру.

Код: plsql
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
16.
17.
18.
19.
20.
create or alter procedure ROUNDUP (
    AI numeric(18,2),
    ST integer)
returns (
    RESULT integer)
AS
declare variable st2 integer;
begin
  --
  -- Округляем до ST[EP] вверх.
  -- На входе нумерик а не integer потому что округляем после деления/умножения
  -- а если результат покастить к целому - то он в процессе каста округляется
  -- до ближайшего целого, чего как раз и хочется избежать
  --
  st2 = cast( (st / 2) as integer);
  if ( ((AI / st) * st) <> (cast((AI / st) as integer) * st) )
    then RESULT = cast(((AI-st2) / st) as integer) * st + st;
    else RESULT = AI;
  suspend;
end
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
22.06.2017, 10:38
    #39476012
rdb_dev
rdb_dev
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Округление :|
Как вариант:
Код: sql
1.
SELECT Floor(Cast(27043022.5 as double precision) + 0.5) / 100 FROM RDB$DATABASE
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
22.06.2017, 10:41
    #39476014
Luke221
Luke221
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Округление :|
Симонов ДенисLuke221,

не понятно по каким критериям вы хотите округлить. Как сервер поймёт это?

Есть 2 числа 27043022.5 и 100. При делении первого на второе результат 270430.225 , при округлении до 2 знаков после запятой получается 270430.23

Что делает Firebird:

select round(cast(27043022.5 as double precision) / cast(100 as double precision), 2) from rdb$database

Результат: 270430.22000000003
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
22.06.2017, 10:43
    #39476017
Luke221
Luke221
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Округление :|
rdb_devКак вариант:
Код: sql
1.
SELECT Floor(Cast(27043022.5 as double precision) + 0.5) / 100 FROM RDB$DATABASE



первое число - переменная, костылик +0.5 не прокатит для любых чисел
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
22.06.2017, 10:46
    #39476024
Симонов Денис
Симонов Денис
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Округление :|
Luke221, fraks

никакое округление вверх тут не поможет. Проблема автора в использовании типов с плавающей точкой
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
22.06.2017, 10:47
    #39476027
Luke221
Luke221
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Округление :|
fraksLuke221,

В FB2.5 есть встроенная функция ROUND (number [, scale]).

round как раз правильно работает, именно поэтому я и не упомянул. Неверный результат получается как раз при делении на 100 из-за особенностей Firebird с 9999999 в периоде
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
22.06.2017, 10:49
    #39476029
rdb_dev
rdb_dev
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Округление :|
Luke221первое число - переменная, костылик +0.5 не прокатит для любых чиселЧой-то не прокатит? Тебе же сначала надо округлить до целого, а только затем делить на 100? Дополнение на 0.5, с последующим отбрасыванием дробной части, очень даже прокатит, если при попадании в половину целого тебе надо округлять в большую сторону, а не в зависимости от четности/нечетности целого!
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
22.06.2017, 10:58
    #39476044
Luke221
Luke221
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Округление :|
rdb_devLuke221первое число - переменная, костылик +0.5 не прокатит для любых чиселЧой-то не прокатит? Тебе же сначала надо округлить до целого, а только затем делить на 100? Дополнение на 0.5, с последующим отбрасыванием дробной части, очень даже прокатит, если при попадании в половину целого тебе надо округлять в большую сторону, а не в зависимости от четности/нечетности целого!

не совсем...
ваш метод:
SELECT Floor(Cast(27043022.55 as double precision) + 0.5) / cast(100.0 as double precision) FROM RDB$DATABASE

дает 270430.23

а нужно:
27043022.55 / 100 = 270430.2255
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
22.06.2017, 10:58
    #39476045
hvlad
hvlad
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Округление :|
Luke221Неверный результат получается как раз при делении на 100 из-за особенностей Firebird с 9999999 в периодеRTFM double precision
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
22.06.2017, 10:59
    #39476046
Luke221
Luke221
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Округление :|
Luke221rdb_devпропущено...
Чой-то не прокатит? Тебе же сначала надо округлить до целого, а только затем делить на 100? Дополнение на 0.5, с последующим отбрасыванием дробной части, очень даже прокатит, если при попадании в половину целого тебе надо округлять в большую сторону, а не в зависимости от четности/нечетности целого!

не совсем...
ваш метод:
SELECT Floor(Cast(27043022.55 as double precision) + 0.5) / cast(100.0 as double precision) FROM RDB$DATABASE

дает 270430.23

а нужно:
27043022.55 / 100 = 270430.2255

Тут я уже напутал) Результат при округлении до 2 знаков как раз 270430.23

p.s.> вроде прокатывает
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
22.06.2017, 11:03
    #39476049
kdv
kdv
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Округление :|
Luke221а нужно:
27043022.55 / 100 = 270430.2255
никак такое не получится, потому что по нормальному выходит
select cast(27043022.5 as numeric(18,2)) / cast(100 as numeric(18,2)) from rdb$database
270430,2250

откуда из 270430.224999999977 в 4м разряде после запятой получится 5 - непонятно.

Читать
http://www.delphikingdom.com/asp/viewitem.asp?catalogid=374
и
http://www.delphikingdom.com/asp/viewitem.asp?catalogID=1217
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
22.06.2017, 11:21
    #39476060
Luke221
Luke221
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Округление :|
kdvLuke221а нужно:
27043022.55 / 100 = 270430.2255
никак такое не получится, потому что по нормальному выходит
select cast(27043022.5 as numeric(18,2)) / cast(100 as numeric(18,2)) from rdb$database
270430,2250

откуда из 270430.224999999977 в 4м разряде после запятой получится 5 - непонятно.

Читать
http://www.delphikingdom.com/asp/viewitem.asp?catalogid=374
и
http://www.delphikingdom.com/asp/viewitem.asp?catalogID=1217

потому что в моем 2 примере

select cast(27043022.55 as numeric(18,2)) / cast(100 as numeric(18,2)) from rdb$database
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
22.06.2017, 11:28
    #39476068
kdv
kdv
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Округление :|
Luke221,

да пофиг. читайте те 2 статьи.
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
22.06.2017, 11:46
    #39476084
Симонов Денис
Симонов Денис
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Округление :|
Luke221,

ещё раз повторяю проблема в использовании типов с плавающей точкой. Ну не возможно работать с double precision без ошибок округления. Поэтому пока вариант только один переходить на фиксированную точку. Выйдет 4.0 там можно развлекаться с DECFLOAT
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
22.06.2017, 11:56
    #39476088
Luke221
Luke221
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Округление :|
Симонов ДенисLuke221,

ещё раз повторяю проблема в использовании типов с плавающей точкой. Ну не возможно работать с double precision без ошибок округления. Поэтому пока вариант только один переходить на фиксированную точку. Выйдет 4.0 там можно развлекаться с DECFLOAT

Проблема с фиксированной точкой другая - переполнение при умножении (там на самом деле сложнее формула)

kdvLuke221,

да пофиг. читайте те 2 статьи.

Спасибо за статьи

rdb_devКак вариант:
Код: sql
1.
SELECT Floor(Cast(27043022.5 as double precision) + 0.5) / 100 FROM RDB$DATABASE



Спасибо. Ваш метод и правда работает!

select round(round(cast(27043022.5 as double precision), 0) / cast(100 as double precision), 2) from rdb$database
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
22.06.2017, 13:09
    #39476140
WildSery
WildSery
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Округление :|
round(:value + 0.00001, 2)
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
22.06.2017, 13:33
    #39476159
Dimitry Sibiryakov
Dimitry Sibiryakov
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Округление :|
Luke221Проблема с фиксированной точкой другая - переполнение при умножении (там на самом деле
сложнее формула)

Значит на самом деле тебе не надо маяться дурью с плавающей точкой, а тщательно, согласно
бизнес-правилам, расставить приведение промежуточных результатов в этой формуле.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
Форумы / Firebird, InterBase [игнор отключен] [закрыт для гостей] / Округление :| / 20 сообщений из 20, страница 1 из 1
Целевая тема:
Создать новую тему:
Автор:
Найденые пользователи ...
Разблокировать пользователей ...
Читали тему (0):
Читали форум (0):
Пользователи онлайн (0):
Польз. соглашение
созд. / загр.: 278ms
Закрыть
start [/forum/topic.php?fid=40&tablet=1&tid=1561522]:
 0ms
get settings:
 9ms
get forum list:
 14ms
check forum access:
 4ms
check topic access:
 4ms
track hit:
 162ms
get topic data:
 11ms
get forum data:
 2ms
get page messages:
 55ms
get tp. blocked users:
 2ms
others: 15ms
total:  278ms
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]