Гость
Целевая тема:
Создать новую тему:
Автор:
Форумы / PowerBuilder [игнор отключен] [закрыт для гостей] / Баг PB 9 Build 5507 ??? / 4 сообщений из 4, страница 1 из 1
11.10.2004, 18:07
    #32732890
f45f
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Баг PB 9 Build 5507 ???
longlong lul_decimal,temp
lul_decimal = 9223372036854710527
temp =1
lul_decimal = lul_decimal / temp
MessageBox("",string(lul_decimal))

Выдает вместо последних 3-х цифр 527 = 272

В версии 10 - аналогично.
...
Рейтинг: 0 / 0
11.10.2004, 18:34
    #32732930
Estets
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Баг PB 9 Build 5507 ???
Не могу сказать на счет 9-10 но еще с 6-ой версии PB нелюбит более 16 значащих цифр
...
Рейтинг: 0 / 0
11.10.2004, 19:22
    #32732996
NewOne
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Баг PB 9 Build 5507 ???
Есть такая бага на десятке...

Для longlong huge lul_decimal = 999999999990000001 выдаётся 999999999990000000. Как мне показалось, погрешность всегда степень двойки..
...
Рейтинг: 0 / 0
12.10.2004, 10:32
    #32733393
NewOne
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Баг PB 9 Build 5507 ???
Следует читать:
longlong huge = 999999999990000001 // lul_decimal
...
Рейтинг: 0 / 0
Форумы / PowerBuilder [игнор отключен] [закрыт для гостей] / Баг PB 9 Build 5507 ??? / 4 сообщений из 4, страница 1 из 1
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]