ReSQL.ru
     
powered by simpleCommunicator - 2.0.53     © 2025 Programmizd 02
Мобильная версия    Контакт    Правила    FAQ    Помощь
Доб. в избранное | Игнор. тему | Прикреп. тему | Пометить прочит. / непрочит. | Фильтр
Форумы / Firebird, InterBase [игнор отключен] [закрыт для гостей] / Умножение больших чисел.
13 сообщений из 13, страница 1 из 1
Умножение больших чисел.
    #39260688
Просто_кодер1
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Просто_кодер1
Гость
Доброго времени суток.
Подскажите как в FB2.5 в ХП умножить 2 числа Integer, чтобы если результат не поместился в Integer, то его обрезало (как в Делфи).
Пробовал так:
Код: plsql
1.
k = 4294967295 * 4294967295;


и так:
Код: plsql
1.
k = bin_and(4294967295 * 4294967295, 0xFFFFFFFF);


не работает даже так:
Код: plsql
1.
k = 65536 * 65536;


Ругается:
Код: plsql
1.
2.
3.
Arithmetic overflow or division by zero has occurred.
arithmetic exception, numeric overflow, or string truncation.
numeric value is out of range.
...
Рейтинг: 0 / 0
22.06.2016, 18:56
| Ответить | Цитировать | Написать  
Умножение больших чисел.
    #39260693
Фотография kdv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
kdv
Участник
Просто_кодер1,

куда обрезало?
...
Рейтинг: 0 / 0
22.06.2016, 19:00
| Ответить | Цитировать | Написать  
Умножение больших чисел.
    #39260699
Просто_кодер1
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Просто_кодер1
Гость
Если в делфи умножить Integer на Integer, в результат (если ожидается тоже Integer) попадут младшие 4 байта. Можно как-то это реализовать в ХП или нужно писать UDF?
...
Рейтинг: 0 / 0
22.06.2016, 19:09
| Ответить | Цитировать | Написать  
Умножение больших чисел.
    #39260704
dimitr
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
dimitr
Участник
Код: sql
1.
k = bin_and(65536 * 65536, 0x0FFFFFFFF);
...
Рейтинг: 0 / 0
22.06.2016, 19:14
| Ответить | Цитировать | Написать  
Умножение больших чисел.
    #39260708
Просто_кодер1
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Просто_кодер1
Гость
Не-а. :(
k = bin_and(6553 4 * 65536, 0x0FFFFFFFF);
...
Рейтинг: 0 / 0
22.06.2016, 19:19
| Ответить | Цитировать | Написать  
Умножение больших чисел.
    #39260718
Фотография DarkMaster
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
DarkMaster
Участник
Просто_кодер1,

зачем такие извраты? Я о попытке впихнуть невпихуемое".
...
Рейтинг: 0 / 0
22.06.2016, 19:28
| Ответить | Цитировать | Написать  
Умножение больших чисел.
    #39260723
Просто_кодер1
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Просто_кодер1
Гость
Кстати это неправильно работает (не обрезает вообще):
Код: sql
1.
2.
k = bin_and(2814749 * 976710655, 0xFFFFFFFF);
, где k bigint


так работает:
Код: sql
1.
k = bin_and(2814749 * 976710655, 0xFFFFFFF);



В описании функции BIN_AND( <number> [, <number> ...] ), где number = непонятный тип.

DarkMasterзачем такие извраты? Я о попытке впихнуть невпихуемое".
Нужно кое-какие расчеты добавить, а на чужом сервере проще написать ХП, чем UDF.
...
Рейтинг: 0 / 0
22.06.2016, 19:37
| Ответить | Цитировать | Написать  
Умножение больших чисел.
    #39260732
Просто_кодер1
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Просто_кодер1
Гость
Просто_кодер1Кстати это неправильно работает...
тут я тупанул, пардон:
Код: sql
1.
2.
3.
select 0xFFFFFFFF, bin_and(2814749 * 976710655, 0xFFFFFFFF),
       0x0FFFFFFFF, bin_and(2814749 * 976710655, 0x0FFFFFFFF)
from rdb$database
...
Рейтинг: 0 / 0
22.06.2016, 19:45
| Ответить | Цитировать | Написать  
Умножение больших чисел.
    #39260750
Просто_кодер1
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Просто_кодер1
Гость
Используя BigInt вроде все получилось, вот только как впихнуть младшие 4 байта BigInt в Integer?
...
Рейтинг: 0 / 0
22.06.2016, 20:13
| Ответить | Цитировать | Написать  
Умножение больших чисел.
    #39260778
Ivan_Pisarevsky
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Ivan_Pisarevsky
Участник
Просто_кодер1вот только как впихнуть младшие 4 байта BigInt в Integer?После обнуления старших бит банальным присваиванием.
...
Рейтинг: 0 / 0
22.06.2016, 21:01
| Ответить | Цитировать | Написать  
Умножение больших чисел.
    #39260780
Cobalt747
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Cobalt747
Участник
Просто_кодер1,
Код: sql
1.
Cast((k mod 0xFFFF) as Integer) ?


или как там остаток от деления
...
Рейтинг: 0 / 0
22.06.2016, 21:03
| Ответить | Цитировать | Написать  
Умножение больших чисел.
    #39260816
Просто_кодер1
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Просто_кодер1
Гость
Ivan_PisarevskyПросто_кодер1вот только как впихнуть младшие 4 байта BigInt в Integer?После обнуления старших бит банальным присваиванием.
Если бы....
Так ошибка:
Код: sql
1.
select cast(bin_and(2814749 * 976710655, 0x0FFFFFFFF) as integer) from rdb$database


и так ошибка:
Код: sql
1.
select cast(bin_and(2814749 * 976710655, 0xFFFFFFFF) as integer) from rdb$database



Cobalt747Просто_кодер1,
Код: sql
1.
Cast((k mod 0xFFFF) as Integer) ?


или как там остаток от деления
Так результат 0:
Код: sql
1.
select cast(mod(bin_and(2814749 * 976710655, 0xFFFFFFFF), 0xFFFFFFFF)  as integer) from rdb$database


так ошибка:
Код: sql
1.
select cast(mod(bin_and(2814749 * 976710655, 0xFFFFFFFF), 0x0FFFFFFFF)  as integer) from rdb$database
...
Рейтинг: 0 / 0
22.06.2016, 22:30
| Ответить | Цитировать | Написать  
Умножение больших чисел.
    #39260826
Просто_кодер1
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Просто_кодер1
Гость
Кажется понял в чем проблема при преобразовании. Может кому пригодится.
Integer это -2147483648 до 2147483647. Именно в этот диапазон и нужно впихивать 0xFFFFFFFF. Т.е. если BigInt больше 2147483647, то делаем из него отрицательное, и уже его преобразовываем в Integer.
Всем спасибо.
...
Рейтинг: 0 / 0
22.06.2016, 22:48
| Ответить | Цитировать | Написать  
13 сообщений из 13, страница 1 из 1
Форумы / Firebird, InterBase [игнор отключен] [закрыт для гостей] / Умножение больших чисел.
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Найденые пользователи ...
Разблокировать пользователей ...
Читали тему (0):
Читали форум (0):
Пользователи онлайн (0):
Польз. соглашение
NoSQL.ru       Новости, Чат       Фотоальбом: Участники, Встречи
Закрыть
start [/forum/topic.php?fid=40&msg=39260732&tid=1562116]:
 0ms
get settings:
 8ms
get forum list:
 13ms
check forum access:
 3ms
check topic access:
 3ms
track hit:
 36ms
get topic data:
 9ms
get forum data:
 2ms
get page messages:
 49ms
get tp. blocked users:
 1ms
others: 258ms
total:  382ms
созд. / загр.: 382ms
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]