ЧЮдеса с ROUND/DOUBLE'ами или... / IBM DB2, WebSphere, IMS, U2

ReSQL.ru

Мобильная версия Контакт Правила FAQ Помощь

Гость

Войти | Регистрация | Профиль | Очистить

Новые сообщения | Избранное

Форумы | Пользователи | Статистика | Мод. лог | Поиск

Цитировать

Написать

Автор*:

Ввести пароль для входа

Тема*:

Сообщение

Данное сообщение тематическое

Сообщение содержит картинки или видео 18+

Автор:

ВНИМАНИЕ! На данном подфоруме действуют строгие правила. Удостоверьтесь, что ваше сообщение соответствует им!

Форум или тема закрыты для гостей. Необходима авторизация!

Загрузить последнюю сохраненную версию

Вложение:

Вставить как галерею

Максимальный размер вложений: 4,0 МБ, аудио/видео: 8,0 МБ. Картинки большего размера ужимаются, если возможно.

Введите код, изображенный на картинке. Если код нечитаемый, кликните картинку, чтобы загрузить другой вариант.

Отправляя сообщение, я выражаю свое согласие с правилами форума и принимаю пользовательское соглашение.

Доб. в избранное | Игнор. тему | Прикреп. тему | Пометить прочит. / непрочит. | Фильтр

Форумы / IBM DB2, WebSphere, IMS, U2 [игнор отключен] [закрыт для гостей] / ЧЮдеса с ROUND/DOUBLE'ами или...

24 сообщений из 24, страница 1 из 1

ЧЮдеса с ROUND/DOUBLE'ами или...

#33354258

Herr Developer

Гость

или я что-то туплю...

# 1

Код: plaintext

1.
2.
3.
4.
5.

select ROUND(PRICE*ROUND(M3, 3 ), 2 ) from t.di_data where id_di =  161 

 1                     
------------------------
  + 2 ,45290000000000E+ 002

Код: plaintext

1.
2.
3.
4.
5.

select ROUND(PRICE*ROUND(M3, 3 ), 3 ) from t.di_data where id_di =  161 

 1                    
------------------------
  + 2 ,45295000000000E+ 002

Код: plaintext

1.
2.
3.
4.
5.

select ROUND(ROUND(PRICE*ROUND(M3, 3 ), 3 ), 2 )  from t.di_data where id_di =  161 

 1                      
------------------------
  + 2 ,45300000000000E+ 002

#1 = 245,29 (+2,45290000000000E+002) ROUND(value,2)
#2 = 245,295 (+2,45295000000000E+002) ROUND(value,3)
#3 = 245,30 (+2,45300000000000E+002) ROUND(ROUND(value,3),2)

P.S.
поля "PRICE","M3" - DOUBLE
DB2/NT 8.2.3 32bit

...

Рейтинг:

0 / 0

01.11.2005, 00:30

| Ответить | Цитировать | Написать

ЧЮдеса с ROUND/DOUBLE'ами или...

#33354265

ska

Участник

Сообщения: 106

Рейтинг: 0 / 0

Да вроде так и должно быть ежели value типа 245,2946

...

Рейтинг:

0 / 0

01.11.2005, 00:57

| Ответить | Цитировать | Написать

ЧЮдеса с ROUND/DOUBLE'ами или...

#33355202

Victor Metelitsa

Участник

Откуда: Тюмень

Сообщения: 2 626

Рейтинг: 0 / 0

Держать деньги в double - грубая ошибка. Даже как-то странно видеть людей, которые до сих пор этого не знают.

...

Рейтинг:

0 / 0

01.11.2005, 13:49

| Ответить | Цитировать | Написать

ЧЮдеса с ROUND/DOUBLE'ами или...

#33355807

Herr Developer

Гость

туплю...

...

Рейтинг:

0 / 0

01.11.2005, 16:49

| Ответить | Цитировать | Написать

ЧЮдеса с ROUND/DOUBLE'ами или...

#33355821

Herr Developer

Гость

Victor MetelitsaДержать деньги в double - грубая ошибка. Даже как-то странно видеть людей, которые до сих пор этого не знают.
В чем грубая ошибка, соизволите сказать или ссылочку?
Для тех кто до сих пор не знает...

...

Рейтинг:

0 / 0

01.11.2005, 16:55

| Ответить | Цитировать | Написать

ЧЮдеса с ROUND/DOUBLE'ами или...

#33355880

gardenman

Участник

Откуда: С-Петербург

Сообщения: 2 347

Рейтинг: 0 / 0

Если использовать даблы для денег, то неизбежно возникнут ошибки округления. Т.е. баланс не сойдется.

...

Рейтинг:

0 / 0

01.11.2005, 17:11

| Ответить | Цитировать | Написать

ЧЮдеса с ROUND/DOUBLE'ами или...

#33355951

Herr Developer

Гость

gardenmanЕсли использовать даблы для денег, то неизбежно возникнут ошибки округления. Т.е. баланс не сойдется.
А что же тогда использовать? DECIMAL/NUMERIC? Т.е. числа с implicit decimal point?
А если мне нужно 10 цифр после запятой (например),
то c DECIMAL(15,10) проблем c округлением не будет что-ли?

...

Рейтинг:

0 / 0

01.11.2005, 17:32

| Ответить | Цитировать | Написать

ЧЮдеса с ROUND/DOUBLE'ами или...

#33355977

Herr Developer

Гость

skaДа вроде так и должно быть ежели value типа 245,2946

Код: plaintext

1.
2.
3.
4.
5.

select ROUND(PRICE*ROUND(M3, 3 ), 5 ),PRICE,M3 from t.di_data where id_di =  161 

 1                         PRICE                    M3                      
------------------------ ------------------------ ------------------------
  + 2 ,45295000000000E+ 002    + 7 ,90000000000000E+ 001    + 3 ,10500000000000E+ 000

...

Рейтинг:

0 / 0

01.11.2005, 17:43

| Ответить | Цитировать | Написать

ЧЮдеса с ROUND/DOUBLE'ами или...

#33355994

Herr Developer

Гость

Herr Developerтуплю...

Код: plaintext

1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
16.
17.

select ROUND(PRICE*ROUND(M3, 3 ), 5 ),PRICE,M3 from t.di_data where id_di =  161 

 1                         PRICE                    M3                      
------------------------ ------------------------ ------------------------
  + 2 ,45295000000000E+ 002    + 7 ,90000000000000E+ 001    + 3 ,10500000000000E+ 000 

   1  record(s) selected.


select ROUND(PRICE*ROUND(M3, 3 ), 2 ),PRICE,M3 from t.di_data where id_di =  161 

 1                         PRICE                    M3                      
------------------------ ------------------------ ------------------------
  + 2 ,45290000000000E+ 002    + 7 ,90000000000000E+ 001    + 3 ,10500000000000E+ 000 

   1  record(s) selected.

Вы нестесняйтесь, скажите где я торможу.

...

Рейтинг:

0 / 0

01.11.2005, 17:48

| Ответить | Цитировать | Написать

ЧЮдеса с ROUND/DOUBLE'ами или...

#33356204

gardenman

Участник

Откуда: С-Петербург

Сообщения: 2 347

Рейтинг: 0 / 0

вот здесь:

Код: plaintext

 2 ,45290000000000E+ 002    =  245 . 29

проблемы? Чем не устраивает?

double всегда тока мантису отображает...

попробуй лучше так

Код: plaintext

1.
2.

values cast( round(cast( 12345 . 6789  as double), 2 ) as dec( 17 , 2 ))
values round(cast( 12345 . 6789  as double), 2 )

Код: plaintext

1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.

db2 => values cast( round(cast( 12345 . 6789  as double), 2 ) as dec( 17 , 2 ))

 1 
-------------------
            12345 , 68 

   1  record(s) selected.

db2 => values round(cast( 12345 . 6789  as double), 2 )

 1 
------------------------
  + 1 ,23456800000000E+ 004 

   1  record(s) selected.

...

Рейтинг:

0 / 0

01.11.2005, 19:42

| Ответить | Цитировать | Написать

ЧЮдеса с ROUND/DOUBLE'ами или...

#33356235

Herr Developer

Гость

gardenmanвот здесь:

Код: plaintext

 2 ,45290000000000E+ 002    =  245 . 29

проблемы? Чем не устраивает?

double всегда тока мантису отображает...

[/src]
Как отображает мне по-барабану.
Мне не понятно следующее:

Код: plaintext

1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
16.
17.
18.
19.
20.
21.
22.
23.
24.
25.
26.
27.

db2 => create table t ( price double,m3 double )
DB20000I  The SQL command completed successfully.
db2 => insert into t values ( 79 , 3 . 105 )
DB20000I  The SQL command completed successfully.
db2 => select price*m3 from t

 1 
------------------------
  + 2 .45295000000000E+ 002 

   1  record(s) selected.

db2 => select ROUND(price*m3, 2 ) from t

 1 
------------------------
  + 2 .45290000000000E+ 002 

   1  record(s) selected.

db2 => select ROUND( cast(price*m3 as dec( 17 , 10 )), 2 ) from t

 1 
--------------------
       245 . 3000000000 

   1  record(s) selected.

Где я туплю????

...

Рейтинг:

0 / 0

01.11.2005, 20:19

| Ответить | Цитировать | Написать

ЧЮдеса с ROUND/DOUBLE'ами или...

#33356438

golsa

Участник

Откуда: Красноярск

Сообщения: 789

Рейтинг: 0 / 0

Herr Developer db2 => insert into t values (79,3.105)

Десятичные дроби в DOUBLE представляются не точно!
Поэтому твое 3.105 будет хранится что-то типа 3.104999...658.
Ошибка может выползти в значимую область (например три цифры после запятой) при умножении или многократном сложении (это про расхождение баланса).

...

Рейтинг:

0 / 0

02.11.2005, 06:10

| Ответить | Цитировать | Написать

ЧЮдеса с ROUND/DOUBLE'ами или...

#33356440

golsa

Участник

Откуда: Красноярск

Сообщения: 789

Рейтинг: 0 / 0

И еще - если Round() участвует в арифметическом выражении с double, то он снова становится double.

...

Рейтинг:

0 / 0

02.11.2005, 06:22

| Ответить | Цитировать | Написать

ЧЮдеса с ROUND/DOUBLE'ами или...

#33356726

Ggg_old

Участник

Откуда: Одесса

Сообщения: 1 474

Рейтинг: 0 / 0

Деньги в копейках хранить надо или в numeric(x,2) - что в общем-то одно и тоже. В таком случае - десять цифр после запятой вам не понадобятся никогда.
^{все наши на www.corba.kubsu.ru}

...

Рейтинг:

0 / 0

02.11.2005, 10:10

| Ответить | Цитировать | Написать

ЧЮдеса с ROUND/DOUBLE'ами или...

#33357801

Herr Developer

Гость

golsa
Десятичные дроби в DOUBLE представляются не точно!
Поэтому твое 3.105 будет хранится что-то типа 3.104999...658.

Прикольно.
Это типа "как хотим так и храним".

golsa
Ошибка может выползти в значимую область (например три цифры после запятой) при умножении или многократном сложении (это про расхождение баланса).

Что из-этого может выйти, ну да... что-угодно...

...

Рейтинг:

0 / 0

02.11.2005, 15:07

| Ответить | Цитировать | Написать

ЧЮдеса с ROUND/DOUBLE'ами или...

#33357809

Herr Developer

Гость

golsaИ еще - если Round() участвует в арифметическом выражении с double, то он снова становится double.
Да, ROUND возращает тот-же тип.

...

Рейтинг:

0 / 0

02.11.2005, 15:08

| Ответить | Цитировать | Написать

ЧЮдеса с ROUND/DOUBLE'ами или...

#33357828

Herr Developer

Гость

Ggg_oldДеньги в копейках хранить надо или в numeric(x,2) - что в общем-то одно и тоже. В таком случае - десять цифр после запятой вам не понадобятся никогда.
^{все наши на www.corba.kubsu.ru}
"Деньги в копейках хранить" ничего не дадут, экономия получиться в 2 знака.
И в "или в numeric(x,2)" не залезит 1,212125474 $, например.

...

Рейтинг:

0 / 0

02.11.2005, 15:11

| Ответить | Цитировать | Написать

ЧЮдеса с ROUND/DOUBLE'ами или...

#33358057

Herr Developer

Гость

golsa
Поэтому твое 3.105 будет хранится что-то типа 3.104999...658.

Странно что в языках таких проблем ненаблюдалось (C#,Java)...

...

Рейтинг:

0 / 0

02.11.2005, 16:04

| Ответить | Цитировать | Написать

ЧЮдеса с ROUND/DOUBLE'ами или...

#33358338

Ggg_old

Участник

Откуда: Одесса

Сообщения: 1 474

Рейтинг: 0 / 0

Я если честно не могу понять вашей проблемы. Если вы работаетет с деньгами, то храните в копейках, результат операций округляете до копейки. Дробные копейки вам принципиально не нужны, вернее если вдруг они вам стали нужны - значит где-то ошибка в самом алгоритме.
Лучше опишите задачу, где вам понадобились суммы меньши копейки.
^{все наши на www.corba.kubsu.ru}

...

Рейтинг:

0 / 0

02.11.2005, 17:17

| Ответить | Цитировать | Написать

ЧЮдеса с ROUND/DOUBLE'ами или...

#33358343

Ggg_old

Участник

Откуда: Одесса

Сообщения: 1 474

Рейтинг: 0 / 0

...

Рейтинг:

0 / 0

02.11.2005, 17:20

| Ответить | Цитировать | Написать

ЧЮдеса с ROUND/DOUBLE'ами или...

#33358460

Herr Developer

Гость

Ggg_oldЯ если честно не могу понять вашей проблемы. Если вы работаетет с деньгами, то храните в копейках, результат операций округляете до копейки. Дробные копейки вам принципиально не нужны, вернее если вдруг они вам стали нужны - значит где-то ошибка в самом алгоритме.
Лучше опишите задачу, где вам понадобились суммы меньши копейки.
^{все наши на www.corba.kubsu.ru}
Проблема с ROUND/DOUBLE (или мной) :-)

А насчет дробных копеек (почему и зачем), примеров можно набрать много из конкретных областей ...

Или Вы думаете что все должно стоить (имеет цену) как минимум 1 копейку, и не меньше?!
:-)

...

Рейтинг:

0 / 0

02.11.2005, 17:53

| Ответить | Цитировать | Написать

ЧЮдеса с ROUND/DOUBLE'ами или...

#33358585

Herr Developer

Гость

http://docs.sun.com/app/docs/doc/800-7895/6hos0aou8?a=view
OK. Все встало на свои места.
Спасибо Всем ответившим.

Тема закрыта.

...

Рейтинг:

0 / 0

02.11.2005, 18:31

| Ответить | Цитировать | Написать

ЧЮдеса с ROUND/DOUBLE'ами или...

#33358999

golsa

Участник

Откуда: Красноярск

Сообщения: 789

Рейтинг: 0 / 0

Herr Developer Странно что в языках таких проблем ненаблюдалось (C#,Java)
Ошибаетесь, дорогой, там теже самые проблемы для типов real, double, extendet - это определяется способом хранения - двоичной мантиссой.

Сопроцессор на компе работает именно с таким представлением данных - так что этот факт отлит в "железе".

...

Рейтинг:

0 / 0

03.11.2005, 05:31

| Ответить | Цитировать | Написать

ЧЮдеса с ROUND/DOUBLE'ами или...

#33360445

Herr Developer

Гость

golsa
Ошибаетесь, дорогой, там теже самые проблемы для типов real, double, extendet - это определяется способом хранения - двоичной мантиссой.

Сопроцессор на компе работает именно с таким представлением данных - так что этот факт отлит в "железе".

Я же говорю

Herr Developer
http://docs.sun.com/app/docs/doc/800-7895/6hos0aou8?a=view
OK. Все встало на свои места.

Спасибо ;-)

...

Рейтинг:

0 / 0

03.11.2005, 15:27

| Ответить | Цитировать | Написать

24 сообщений из 24, страница 1 из 1

Форумы / IBM DB2, WebSphere, IMS, U2 [игнор отключен] [закрыт для гостей] / ЧЮдеса с ROUND/DOUBLE'ами или...

Читали тему (0):

Читали форум (0):

Пользователи онлайн (0):

start [/forum/search_topic.php?author=Screen_&author_mode=last_topics&do_search=1]:	0ms
get settings:	7ms
get forum list:	19ms
get settings:	10ms
get forum list:	15ms
get settings:	12ms
get forum list:	19ms
check forum access:	4ms
check topic access:	4ms
track hit:	35ms
get topic data:	12ms
get forum data:	3ms
get page messages:	72ms
get tp. blocked users:	2ms
others:	1199ms

total:	1413ms