ReSQL.ru
     
powered by simpleCommunicator - 2.0.61     © 2026 Programmizd 02
Мобильная версия    Контакт    Правила    FAQ    Помощь
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Доб. в избранное | Игнор. тему | Прикреп. тему | Пометить прочит. / непрочит. | Фильтр
Форумы / PowerBuilder [игнор отключен] [закрыт для гостей] / Глюк или как (деление большого числа)
7 сообщений из 7, страница 1 из 1
Глюк или как (деление большого числа)
    #33277073
Mikolator
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Mikolator
Гость
Есть сисло типа longlong
Код: plaintext
1.
2.
longlong a= 6148627649709561178 
a=a/ 2
После такого преобразования имею a=3074313824854780416, хотя на деле a=3074313824854780589. В чем тут дело? Ведь число целое. Ето если с запятой, то после 8 уже идут погрешности. А тут ЦЕЛОЕ!!! И на тебе. Прошу народа мне сказать, действительно ли ПоверБилдер так безграмотен в арифметике с целыми числами, или ето версия виновата (9.0 build 5507)

Заранее спасибо
...
Рейтинг: 0 / 0
19.09.2005, 16:02
| Ответить | Цитировать | Написать  
Глюк или как (деление большого числа)
    #33277101
dfh
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
dfh
Гость
Мда... Видать не заточен билдер на такие вычисления :-))
Аналогично в версии 9,0,2 build 7661
...
Рейтинг: 0 / 0
19.09.2005, 16:10
| Ответить | Цитировать | Написать  
Глюк или как (деление большого числа)
    #33277116
Dim2000
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Dim2000
Участник
Mikolator wrote:

> Есть сисло типа longlong
>
> longlong a=*6148627649709561178*
> a=a/*2*
>
> После такого преобразования имею a=3074313824854780416, хотя на деле
> a=3074313824854780589.

Используй Decimal (у него точность 18 значащих цифр) и не умничай.
Posted via ActualForum NNTP Server 1.3
...
Рейтинг: 0 / 0
19.09.2005, 16:15
| Ответить | Цитировать | Написать  
Глюк или как (деление большого числа)
    #33277129
Mikolator
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Mikolator
Гость
Dim2000
Mikolator wrote:

> Есть сисло типа longlong
>
> longlong a=*6148627649709561178*
> a=a/*2*
>
> После такого преобразования имею a=3074313824854780416, хотя на деле
> a=3074313824854780589.

Используй Decimal (у него точность 18 значащих цифр) и не умничай.
Posted via ActualForum NNTP Server 1.3

а у меня 19. Вопрос не в том, что использовать. Вопрос в том, как он считает. Ведь по идее считать правильно такие вещи обязан.
...
Рейтинг: 0 / 0
19.09.2005, 16:19
| Ответить | Цитировать | Написать  
Глюк или как (деление большого числа)
    #33277183
Mikolator
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Mikolator
Гость
Dim2000
Mikolator wrote:

> Есть сисло типа longlong
>
> longlong a=*6148627649709561178*
> a=a/*2*
>
> После такого преобразования имею a=3074313824854780416, хотя на деле
> a=3074313824854780589.

Используй Decimal (у него точность 18 значащих цифр) и не умничай.
Posted via ActualForum NNTP Server 1.3

С Decimal прошло. Но все равно интересно, ведь такое
Код: plaintext
1.
2.
3.
integer a
a= 32000 
a=a/ 2
считает, а с longlong пипу показывает...
...
Рейтинг: 0 / 0
19.09.2005, 16:38
| Ответить | Цитировать | Написать  
Глюк или как (деление большого числа)
    #33277567
White Owl
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
White Owl
Участник
Mikolatorа у меня 19. Вопрос не в том, что использовать. Вопрос в том, как он считает. Ведь по идее считать правильно такие вещи обязан.
Любая система имеет ограничение по максимально возможному рассчитываемому числу. Для PB это 18 знаков мантиссы. Отлито из бронзы и обсуждению не подлежит.
Хочешь считать больше - прийдется самому писать арифметическую библиотеку. Или на PowerScript или какими-либо внешними средствами.
...
Рейтинг: 0 / 0
19.09.2005, 20:13
| Ответить | Цитировать | Написать  
Глюк или как (деление большого числа)
    #33277775
Геннадич
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Геннадич
Участник
Посчитай свои числа в базе
...
Рейтинг: 0 / 0
20.09.2005, 07:27
| Ответить | Цитировать | Написать  
7 сообщений из 7, страница 1 из 1
Форумы / PowerBuilder [игнор отключен] [закрыт для гостей] / Глюк или как (деление большого числа)
Найденые пользователи ...
Разблокировать пользователей ...
Читали тему (0):
Читали форум (0):
Пользователи онлайн (0):
Польз. соглашение   Полит. конфиден.  
NoSQL.ru       Кролег: Проекты, Новости, Чат       РЕД ФОРУМ       Фотоальбом: Участники, Встречи
Закрыть
start [/forum/topic.php?fid=15&msg=33277183&tid=1338128]:
 0ms
get settings:
 7ms
get forum list:
 15ms
check forum access:
 3ms
check topic access:
 3ms
track hit:
 51ms
get topic data:
 8ms
get forum data:
 2ms
get page messages:
 37ms
get tp. blocked users:
 1ms
others: 213ms
total:  340ms
созд. / загр.: 340ms
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]