Гость
Форумы / PostgreSQL [игнор отключен] [закрыт для гостей] / Глюк при расчете на PostgeSQL / 6 сообщений из 6, страница 1 из 1
28.01.2020, 18:03
    #39919591
О-О-О
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Глюк при расчете на PostgeSQL
Неприятный факт вылез при работе (расчетах) на PostgreSQL. Раньше такая же беда была на Cache Intersystems,
Суть проблемы в следующем. Есть задачка - сумма квадратов чисел от 0 до 1 млн.
Если указывать
Код: plsql
1.
a=a+i*i::bigint;


то получается все правильно. А вот если поменять в том же коде на
Код: plsql
1.
a=a+i^2::bigint;


То результат уже другой, хотя параметры все те же.
В чем проблема.
До обновления (дней 7-10 назад), мне кажется, такой проблемы не было. Такой клюк был если указывать типа:
Код: plsql
1.
a=a+i^2::numeric;


Кто что скажет. Боюсь. Это же значит, что расчеты могут быть НЕВЕРНЫМИ!

Высылаю примеры. Фото 1 - без ошибок. Фото 2 - с ошибками.

Люди видят образы, машины видят цифры.
...
Рейтинг: 0 / 0
28.01.2020, 18:05
    #39919593
О-О-О
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Глюк при расчете на PostgeSQL
Фото №2 с ошибкой.
...
Рейтинг: 0 / 0
28.01.2020, 18:12
    #39919596
О-О-О
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Глюк при расчете на PostgeSQL
Если указать, что числа "numeric"
Странно, но теперь стало правильно.
Я точно знаю, что я в этот промежуток времени установил Python3 на PostgreSQL

Фото №3 (numeric).
.
...
Рейтинг: 0 / 0
28.01.2020, 21:33
    #39919663
Troglodit
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Глюк при расчете на PostgeSQL
Может потому что нет никакого суслика?
Код: plsql
1.
select pg_typeof(1000000^2::bigint),pg_typeof(1000000*1000000::bigint)
...
Рейтинг: 0 / 0
29.01.2020, 07:34
    #39919746
О-О-О
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Глюк при расчете на PostgeSQL
Troglodit,

Спасибо! Я то по наивности думал, что будет как описано в инструкции - указал формат числа и получаешь именно этот формат числа.
Спасибо. Суть понял. Буду проверять указанным вами способом.
.
...
Рейтинг: 0 / 0
29.01.2020, 07:36
    #39919748
О-О-О
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Глюк при расчете на PostgeSQL
Для все остальных, привожу что получилось по запросу, указанному "Troglodit".
.
...
Рейтинг: 0 / 0
Форумы / PostgreSQL [игнор отключен] [закрыт для гостей] / Глюк при расчете на PostgeSQL / 6 сообщений из 6, страница 1 из 1
Целевая тема:
Создать новую тему:
Автор:
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]