Гость
Войти | Профиль | Очистить
Целевая тема:
Создать новую тему:
Автор:
Действия ...
Форумы / PowerBuilder [игнор отключен] [закрыт для гостей] / Help!!! Как работать с числом 12 знаков целых 8 дробных / 20 сообщений из 20, страница 1 из 1
16.02.2006, 19:39
    #33550343
ToughChap
ToughChap
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Help!!! Как работать с числом 12 знаков целых 8 дробных
В СУБД (ORACLE) поле имеет тип данных NUMBER(20,8)
Имеем в самом худшем варианте 12 целых знаков и 8 дробных
Decimal - только 18, соответственно 10 целых и 8 дробных.
Получается что число 9 999 999 999.99999999 - предел мечтаний в билдере. Эдак билдером скоро не посчитать наш золотовалютный резерв
Что делать?

Заранее спасибо.

Если данный вопрос уже поднимался - извините и просьба укажите где почитать.
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
16.02.2006, 20:52
    #33550462
PridobreY
PridobreY
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Help!!! Как работать с числом 12 знаков целых 8 дробных
ToughChapВ СУБД (ORACLE) поле имеет тип данных NUMBER(20,8)
Имеем в самом худшем варианте 12 целых знаков и 8 дробных
Decimal - только 18, соответственно 10 целых и 8 дробных.
Получается что число 9 999 999 999.99999999 - предел мечтаний в билдере. Эдак билдером скоро не посчитать наш золотовалютный резерв
Что делать?

Заранее спасибо.

Если данный вопрос уже поднимался - извините и просьба укажите где почитать.

Double
A signed floating-point number with 15 digits of precision and a range from 2.2250738585073E-308 to 1.79769313486231E+308.

Достаточно?
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
16.02.2006, 21:17
    #33550491
ToughChap
ToughChap
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Help!!! Как работать с числом 12 знаков целых 8 дробных
PridobreY
Double
A signed floating-point number with 15 digits of precision and a range from 2.2250738585073E-308 to 1.79769313486231E+308.

Достаточно?
Я бы рад, но что делать с DataWindow - оно не позволяет (в 9 билдере)
ввести число более 18 знаков - т е для 8 знаков после запятой только 10 целых.
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
16.02.2006, 21:42
    #33550518
Anatoly Moskovsky
Anatoly Moskovsky
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Help!!! Как работать с числом 12 знаков целых 8 дробных
Никак.
Переходите на 10.5 когда выйдет, там dec расширили.
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
16.02.2006, 21:45
    #33550521
Anatoly Moskovsky
Anatoly Moskovsky
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Help!!! Как работать с числом 12 знаков целых 8 дробных
Можно хранить отдельно целую и дробную части :)

А зачем Вам 8 после точки?
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
17.02.2006, 10:56
    #33551151
Estets
Estets
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Help!!! Как работать с числом 12 знаков целых 8 дробных
ToughChapDecimal - только 18, соответственно 10 целых и 8 дробных.
Скажу больше, как аргумент DW можно передать только Numeric а это как показывает опыт всего 16 значаших цифр или 8 целых 8 дробных. Что совсем ни в какие рамки не лезет. (PB 6.5)
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
17.02.2006, 10:57
    #33551156
Estets
Estets
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Help!!! Как работать с числом 12 знаков целых 8 дробных
Anatoly MoskovskyПереходите на 10.5 когда выйдет, там dec расширили.
А до скольки, если не секрет?
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
17.02.2006, 10:58
    #33551157
ToughChap
ToughChap
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Help!!! Как работать с числом 12 знаков целых 8 дробных
Anatoly MoskovskyМожно хранить отдельно целую и дробную части :)

А зачем Вам 8 после точки?
Спасибо за ответ.
Процесс разработки разделен - заказчик захотел, технолог выдвинул требования, ДБ админ изменил структуры таблиц и некоторые поля стали NUMBER(20,8) - а мне приходится клиентскую часть править.
Видимо в критических ситуациях воспользуюсь Вашим советом - но только не хранить отдельно - а показывать и редактировать - а сохранение в базу через double.
Надо еще проверить - не потеряет ли double циферки после передачи его в оракле.
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
17.02.2006, 11:09
    #33551201
ЗоринАндрей
ЗоринАндрей
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Help!!! Как работать с числом 12 знаков целых 8 дробных
ToughChap Anatoly MoskovskyМожно хранить отдельно целую и дробную части :)

А зачем Вам 8 после точки?
Спасибо за ответ.
Процесс разработки разделен - заказчик захотел, технолог выдвинул требования, ДБ админ изменил структуры таблиц и некоторые поля стали NUMBER(20,8) - а мне приходится клиентскую часть править.
Видимо в критических ситуациях воспользуюсь Вашим советом - но только не хранить отдельно - а показывать и редактировать - а сохранение в базу через double.
Надо еще проверить - не потеряет ли double циферки после передачи его в оракле.

ни в коем случае не double!!
это ж азбука - double бинарный и в нем точно представить decimal невозможно.
попробуйте посчитать с использованием double
a = 0.1111
b = 100*a - 11.11
получился ноль? нет?
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
17.02.2006, 11:15
    #33551226
Dim2000
Dim2000
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Help!!! Как работать с числом 12 знаков целых 8 дробных
ToughChap пишет:

> В СУБД (ORACLE) поле имеет тип данных NUMBER(20,8)
> Имеем в самом худшем варианте 12 целых знаков и 8 дробных
> Decimal - только 18, соответственно 10 целых и 8 дробных.
> Получается что число* 9 999 999 999.99999999* - предел мечтаний в
> билдере. Эдак билдером скоро не посчитать наш золотовалютный резерв

ЗВР не обязательно считать с точностью 8 знаков после запятой ;).
Posted via ActualForum NNTP Server 1.3
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
17.02.2006, 11:16
    #33551233
Dim2000
Dim2000
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Help!!! Как работать с числом 12 знаков целых 8 дробных
ToughChap пишет:

> Процесс разработки разделен - заказчик захотел, технолог выдвинул
> требования, ДБ админ изменил структуры таблиц и некоторые поля стали
> NUMBER(20,8) - а мне приходится клиентскую часть править.

А тебе придётся обломать всю эту камарилью .

> Видимо в критических ситуациях воспользуюсь Вашим советом - но только не
> хранить отдельно - а показывать и редактировать - а сохранение в базу
> через double.

Не поможет - у Double 15 значащих цифр, у Decimal - 18.
Posted via ActualForum NNTP Server 1.3
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
17.02.2006, 11:43
    #33551355
Anatoly Moskovsky
Anatoly Moskovsky
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Help!!! Как работать с числом 12 знаков целых 8 дробных
Estets Anatoly MoskovskyПереходите на 10.5 когда выйдет, там dec расширили.
А до скольки, если не секрет?
не секрет :)

Decimal type upgrade:
- Provide support for 30 digits versus current 18
- Position for support of .NET which handles 28 digits

http://www.sybase.com/sb_content/1027266/ISUG_Techcast-PBDotNetCompiler.pdf
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
17.02.2006, 17:48
    #33553096
ToughChap
ToughChap
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Help!!! Как работать с числом 12 знаков целых 8 дробных
Правильно ли я понимаю что выхода кроме 10.5 нет?

А что уважаемые гуру скажут про этот документ
www.sybase.com/detail?id=1019020

Разве это поможет? (данные считываются и потом отдельно для сохранения вызывается stored procedure). Ведь поле все равно считывать в переменную - а подходящего типа переменной до 10.5 нет?
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
17.02.2006, 18:59
    #33553275
Михаил Панайот
Михаил Панайот
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Help!!! Как работать с числом 12 знаков целых 8 дробных
Используйте в PB строковые поля.
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
17.02.2006, 20:16
    #33553439
ЗоринАндрей
ЗоринАндрей
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Help!!! Как работать с числом 12 знаков целых 8 дробных
ToughChapА что уважаемые гуру скажут про этот документ
www.sybase.com/detail?id=1019020

документ писал идиот.
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
18.02.2006, 01:00
    #33553625
18-я весна
18-я весна
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Help!!! Как работать с числом 12 знаков целых 8 дробных
ЗоринАндрейдокумент писал идиот.
Грубо, но суть передана верно :))
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
18.02.2006, 01:04
    #33553626
18-я весна
18-я весна
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Help!!! Как работать с числом 12 знаков целых 8 дробных
ToughChapА что уважаемые гуру скажут про этот документ
www.sybase.com/detail?id=1019020

Разве это поможет?

Нет, не поможет, т.к. суть этого "решения" в округлении до числа знаков доступных в float, что намного меньще чем dec. Единственный "+" - не будет мусора из-за переполнения разрядной сетки - число просто округлится до нужного числа знаков.
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
20.02.2006, 12:00
    #33555286
Геннадич
Геннадич
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Help!!! Как работать с числом 12 знаков целых 8 дробных
2 ToughChap
Делайте все вычисления на сервере, а ПБ передавайте результирующую строку через to_char
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
20.02.2006, 12:09
    #33555322
Estets
Estets
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Help!!! Как работать с числом 12 знаков целых 8 дробных
Геннадич2 ToughChap
Делайте все вычисления на сервере, а ПБ передавайте результирующую строку через to_char
Угу а потом поробуйте посчитать итого ;)
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
20.02.2006, 12:15
    #33555343
Геннадич
Геннадич
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Help!!! Как работать с числом 12 знаков целых 8 дробных
EstetsУгу а потом поробуйте посчитать итого ;)
Зачем потом, надо сначала.
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
Форумы / PowerBuilder [игнор отключен] [закрыт для гостей] / Help!!! Как работать с числом 12 знаков целых 8 дробных / 20 сообщений из 20, страница 1 из 1
Найденые пользователи ...
Разблокировать пользователей ...
Читали тему (0):
Читали форум (0):
Пользователи онлайн (0):
Польз. соглашение  
Полит. конфиден.  
созд. / загр.: 372ms
Закрыть
start [/forum/topic.php?fid=15&tablet=1&tid=1337905]:
 0ms
get settings:
 10ms
get forum list:
 12ms
check forum access:
 2ms
check topic access:
 2ms
track hit:
 43ms
get topic data:
 7ms
get forum data:
 2ms
get page messages:
 48ms
get tp. blocked users:
 1ms
others: 245ms
total:  372ms
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]