Гость
Войти | Профиль | Очистить
Целевая тема:
Создать новую тему:
Автор:
Действия ...
Форумы / PowerBuilder [игнор отключен] [закрыт для гостей] / Глюк или как (деление большого числа) / 7 сообщений из 7, страница 1 из 1
19.09.2005, 16:02
    #33277073
Mikolator
Mikolator
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Глюк или как (деление большого числа)
Есть сисло типа longlong
Код: plaintext
1.
2.
longlong a= 6148627649709561178 
a=a/ 2
После такого преобразования имею a=3074313824854780416, хотя на деле a=3074313824854780589. В чем тут дело? Ведь число целое. Ето если с запятой, то после 8 уже идут погрешности. А тут ЦЕЛОЕ!!! И на тебе. Прошу народа мне сказать, действительно ли ПоверБилдер так безграмотен в арифметике с целыми числами, или ето версия виновата (9.0 build 5507)

Заранее спасибо
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
19.09.2005, 16:10
    #33277101
dfh
dfh
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Глюк или как (деление большого числа)
Мда... Видать не заточен билдер на такие вычисления :-))
Аналогично в версии 9,0,2 build 7661
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
19.09.2005, 16:15
    #33277116
Dim2000
Dim2000
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Глюк или как (деление большого числа)
Mikolator wrote:

> Есть сисло типа longlong
>
> longlong a=*6148627649709561178*
> a=a/*2*
>
> После такого преобразования имею a=3074313824854780416, хотя на деле
> a=3074313824854780589.

Используй Decimal (у него точность 18 значащих цифр) и не умничай.
Posted via ActualForum NNTP Server 1.3
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
19.09.2005, 16:19
    #33277129
Mikolator
Mikolator
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Глюк или как (деление большого числа)
Dim2000
Mikolator wrote:

> Есть сисло типа longlong
>
> longlong a=*6148627649709561178*
> a=a/*2*
>
> После такого преобразования имею a=3074313824854780416, хотя на деле
> a=3074313824854780589.

Используй Decimal (у него точность 18 значащих цифр) и не умничай.
Posted via ActualForum NNTP Server 1.3

а у меня 19. Вопрос не в том, что использовать. Вопрос в том, как он считает. Ведь по идее считать правильно такие вещи обязан.
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
19.09.2005, 16:38
    #33277183
Mikolator
Mikolator
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Глюк или как (деление большого числа)
Dim2000
Mikolator wrote:

> Есть сисло типа longlong
>
> longlong a=*6148627649709561178*
> a=a/*2*
>
> После такого преобразования имею a=3074313824854780416, хотя на деле
> a=3074313824854780589.

Используй Decimal (у него точность 18 значащих цифр) и не умничай.
Posted via ActualForum NNTP Server 1.3

С Decimal прошло. Но все равно интересно, ведь такое
Код: plaintext
1.
2.
3.
integer a
a= 32000 
a=a/ 2
считает, а с longlong пипу показывает...
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
19.09.2005, 20:13
    #33277567
White Owl
White Owl
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Глюк или как (деление большого числа)
Mikolatorа у меня 19. Вопрос не в том, что использовать. Вопрос в том, как он считает. Ведь по идее считать правильно такие вещи обязан.
Любая система имеет ограничение по максимально возможному рассчитываемому числу. Для PB это 18 знаков мантиссы. Отлито из бронзы и обсуждению не подлежит.
Хочешь считать больше - прийдется самому писать арифметическую библиотеку. Или на PowerScript или какими-либо внешними средствами.
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
20.09.2005, 07:27
    #33277775
Геннадич
Геннадич
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Глюк или как (деление большого числа)
Посчитай свои числа в базе
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
Форумы / PowerBuilder [игнор отключен] [закрыт для гостей] / Глюк или как (деление большого числа) / 7 сообщений из 7, страница 1 из 1
Найденые пользователи ...
Разблокировать пользователей ...
Читали тему (0):
Читали форум (0):
Пользователи онлайн (0):
Польз. соглашение  
Полит. конфиден.  
созд. / загр.: 425ms
Закрыть
start [/forum/topic.php?fid=15&mobile=1&tid=1338128]:
 0ms
get settings:
 9ms
get forum list:
 15ms
check forum access:
 4ms
check topic access:
 4ms
track hit:
 88ms
get topic data:
 11ms
get forum data:
 3ms
get page messages:
 45ms
get tp. blocked users:
 1ms
others: 245ms
total:  425ms
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]