ReSQL.ru
     
powered by simpleCommunicator - 2.0.61     © 2026 Programmizd 02
Мобильная версия    Контакт    Правила    FAQ    Помощь
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Доб. в избранное | Игнор. тему | Прикреп. тему | Пометить прочит. / непрочит. | Фильтр
Форумы / Firebird, InterBase [игнор отключен] [закрыт для гостей] / bin_shl( 4294967295, 32 ) возвращает -4294967296 вместо 18446744069414584320
2 сообщений из 2, страница 1 из 1
bin_shl( 4294967295, 32 ) возвращает -4294967296 вместо 18446744069414584320
    #38727035
Таблоид
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Таблоид
Участник
hi all

В узких кругах широко известно, что число 4294967295 есть 2^32-1, т.е. это в двоичном виде будет:
Код: plaintext
11111111111111111111111111111111

Если приписать к нему тридцать два нолика справа, и скормить конвертеру (например, этому ), то должно получиться десятичное 18446744069414584320.

Однако, в isql получаем совсем другое:

Код: plaintext
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
16.
17.
18.
19.
20.
21.
22.
SQL> select bin_shl( 4294967295, 32 ) from rdb$database;

              BIN_SHL
=====================
          -4294967296

SQL> select bin_shl( cast(4294967295 as bigint), 32 ) from rdb$database;

              BIN_SHL
=====================
          -4294967296

SQL> select cast(bin_shl( cast(4294967295 as bigint), 32 ) as bigint) from rdb$database;

                 CAST
=====================
          -4294967296

SQL> select cast(bin_shl( cast(4294967295 as bigint), cast( 32 as bigint) ) as bigint) from rdb$database;

                 CAST
=====================
          -4294967296

ЧЯДНТ ?
...
Рейтинг: 0 / 0
22.08.2014, 18:10
| Ответить | Цитировать | Написать  
bin_shl( 4294967295, 32 ) возвращает -4294967296 вместо 18446744069414584320
    #38727042
Таблоид
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Таблоид
Участник
тьфу, отбой. там же 2^63 максимум...
...
Рейтинг: 0 / 0
22.08.2014, 18:18
| Ответить | Цитировать | Написать  
2 сообщений из 2, страница 1 из 1
Форумы / Firebird, InterBase [игнор отключен] [закрыт для гостей] / bin_shl( 4294967295, 32 ) возвращает -4294967296 вместо 18446744069414584320
Найденые пользователи ...
Разблокировать пользователей ...
Читали тему (0):
Читали форум (0):
Пользователи онлайн (0):
Польз. соглашение   Полит. конфиден.  
NoSQL.ru       Кролег: Проекты, Новости, Чат       РЕД ФОРУМ       Фотоальбом: Участники, Встречи
Закрыть
start [/forum/topic.php?fid=40&fpage=90&tid=1563380]:
 0ms
get settings:
 10ms
get forum list:
 16ms
check forum access:
 4ms
check topic access:
 4ms
track hit:
 47ms
get topic data:
 11ms
get forum data:
 3ms
get page messages:
 33ms
get tp. blocked users:
 2ms
others: 234ms
total:  364ms
созд. / загр.: 364ms
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]