Сравнение Z=power( x, n ) с результатами цикла умножений, для X=3...1024, при Z < 2^63-1 / Firebird, InterBase

ReSQL.ru

Мобильная версия Контакт Правила FAQ Помощь

Гость

Войти | Регистрация | Профиль | Очистить

Новые сообщения | Избранное

Форумы | Пользователи | Статистика | Мод. лог | Поиск

Цитировать

Написать

Автор*:

Ввести пароль для входа

Тема*:

Сообщение

Данное сообщение тематическое

Сообщение содержит картинки или видео 18+

Автор:

ВНИМАНИЕ! На данном подфоруме действуют строгие правила. Удостоверьтесь, что ваше сообщение соответствует им!

Форум или тема закрыты для гостей. Необходима авторизация!

Загрузить последнюю сохраненную версию

Вложение:

Вставить как галерею

Максимальный размер вложений: 4,0 МБ, аудио/видео: 8,0 МБ. Картинки большего размера ужимаются, если возможно.

Введите код, изображенный на картинке. Если код нечитаемый, кликните картинку, чтобы загрузить другой вариант.

Отправляя сообщение, я выражаю свое согласие с правилами форума и принимаю пользовательское соглашение.

Доб. в избранное | Игнор. тему | Прикреп. тему | Пометить прочит. / непрочит. | Фильтр

Форумы / Firebird, InterBase [игнор отключен] [закрыт для гостей] / Сравнение Z=power( x, n ) с результатами цикла умножений, для X=3...1024, при Z < 2^63-1

3 сообщений из 3, страница 1 из 1

Сравнение Z=power( x, n ) с результатами цикла умножений, для X=3...1024, при Z < 2^63-1

#38372780

Таблоид

Участник

Сообщения: 9 702

Рейтинг: 0 / 0

hi all

В узких кругах широко известно, что power(2, 52) может выдать (в зав. от версии ФБ и операционки) нечетное число, что есть бред.
Решил проверить, что там с другими основаниями степени (при условии, что результат будет всегда строго меньше 2^63-1, дабы не было переполнения).
Результат превосходит ожидания.

DDL:

Код: sql

1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.

set term ^;
create or alter procedure sp_pwr(a_base int, n_power int) returns (p bigint) as
declare i int = 2;
begin
  p=cast(decode(n_power, 0,1, a_base) as bigint);
  while (i<=n_power) do begin
    p = p * a_base;
    i=i+1;
  end
  suspend;
end^
set term ;^
commit;

Query:

Код: sql

1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.

with recursive
r1 as(select 3 i from rdb$database union all select i+1 from r1 where i<1024)
,r2 as(select i, cast(floor(63*ln(2)/ln(i)) as int)-1 p_max from r1)
,nx as(select 2 k from rdb$database union all select k+1 from nx where k<63)
,p2 as(
  select r2.i, r2.p_max, x.k, cast( power(r2.i,x.k) as bigint) pwr_result, s.p sp_result
  from r2
  join nx x on x.k<=r2.p_max
  left join sp_pwr( r2.i, x.k ) s  on 1=1
)
select p2.*, pwr_result-sp_result diff
from p2
where pwr_result<>sp_result
order by abs(pwr_result-sp_result) desc;

Result:

202 rowsIP_MAXKPWR_RESULTSP_RESULTDIFF3383813508517176729920001350851717672992089-8952626149011611938476569614901161193847656257113161666541660918317990466541660918317984163526252980232238769531522980232238769531252772121558545864083284032558545864083284007251515154378938903808593924378938903808593751727121215009463529699913615009463529699912115918181500946352969991361500946352969991211533836150094635296999136150094635296999121153383745028390589099737645028390589099736313111717505447028499293760505447028499293771-115110101190424238276130081190424238276130017211313154472377739119456154472377739119461-5351111965491573730468809654915737304687557599750846862792968807508468627929687551913134205298346225705642052983462257059-3779995151694449171440951516944491714373371111177917621779460416177917621779460413313161551185893014090760511858930140907573338355003154509899970450031545098999707-316141345035996273704974503599627370496143026450359962737049745035996273704961968872138957898383377213895789838336144866808477771851366580847777185136641412664890838206582785489083820658278416399156338141568538241563381415685382314516684150994192902028415099419290201145666899060786764185789906078676418561105881477455443789062414774554437890625-19888850763022581785785076302258178561491661401163942713444214011639427134441143066632136304900000163213630490000001311111254084768964048322540847689640483114186653340574713754255334057471375424144166735582751138664273558275113866411211312735582751138664273558275113866411233773728133428371957637281334283719577-1467661037292608903896810372926089038969-1958866342043128906266634204312890625144266745647585838854574564758583885441487661334055099469780813340550994697809-143766696447881762321069644788176232091201771325477628084140013254776280841401-145066830376562500000183037656250000001721191139889518537314211398895185373143-13811106278211847988225627821184798822412312122191462443202032021914624432020321-1111882304537769717568023045377697175681-1281211829350946747187382935094674718721415665108443333890626510844333389062512197724160660561265140241606605612651391427666061320523197290606132052319728914616695985482498967609598548249896761-14216655679147220085225567914722008521140866461276126930534546127612693053441121884594972986357216045949729863572161-11117164594972986357216045949729863572161-1176775231047633534977523104763353497613311115054210651372681650542106513726817-1509661739028478142844017390284781428441-1439667157924635221362715792463522136114336665906367868111706590636786811169142966623366921598092262336692159809211569954161694481448975416169448144896122377274242046631900482742420466319004714406672563138560000017256313856000000141466503502981670713750350298167071361101881082856705628080010828567056280801-142466581025428380057758102542838005761416665182746699759617518274669975961612277731058537410917804310585374109178031489661367266442236856013672664422368561-1117883511453275801584035114532758015841-140966468101300864904246810130086490411229773302542204768570833025422047685709-117141399045780329059369904578032905937-194886095689385410817609568938541081614326664998372267786256499837226778624142366572851697365909057285169736590891209771741903142996037017419031429960369143666686940205400473768694020540047361455668872957063140626887295706314062514446676612180056514577661218005651456119077893871739000000189387173900000001186777701771143776897770177114377689614310102161148231328424821611482313284249-15036616196005304479730161960053044797291127886767523424101888067675234241018881-14536686415015479443308641501547944329118977861455065785823086145506578582291511661780432038867456017804320388674561-1119884021385347163424040213853471634241-14636698511276376054089851127637605409-1446667870623759839297787062375983929614456677653326712656267765332671265625141101013422659310152402134226593101524011998892274469442792009227446944279201-1501661581344000375300015813440003753001-1109881992562641690192019925626416901921-11847771404364958269457140436495826944173995887158670826791258871586708267913-1479661207850213721312012078502137213121-169993545208783557622835452087835576229-1497661507087030302172815070870303021729-15076616984304054288650169843040542886491469661064233820380068010642338203800681-155994605366583984376460536658398437511957710721172396796876107211723967968751485661301518757701562413015187577015625-1178775661610866627713566161086662771214136649624976023300104962497602330009142666597664684661817759766468466181761417665257948522194370525794852219436912911111220050976570582812200509765705829-1526231192092895507812411920928955078125-161991169414609283414011694146092834141-15899742765873964492974276587396449281465661010922161639062410109221616390625-1123885238909442826288052389094428262881-1173774637914326451398463791432645139712037714206014885142788142060148851427871183776873178582377928687317858237792714496681936620242848028193662024284801120577152151776469531261521517764695312514386670606496617395857060649661739584117977588804630664086058880463066408591115883059022862539062430590228625390625-14076645453408428544504545340842854449143166641008252786608264100825278660811197771151499047689841211514990476898413-12712115559060566555524555906056655552313383355590605665555245559060566555523143466668249091622201766824909162220161207771628517456341214216285174563412143-1471661091755636512632010917556365126321-1493661435758895344664814357588953446649-1443667558269224026250755826922402624919788783743359437696278374335943769611475661148581079101562411485810791015625-14910107979226629761200079792266297612001-1721207979226629761200079792266297612001-1113882658444192906432026584441929064321-1215772123582899273437621235828992734375121177186198932625125721861989326251257111917792732842180744309273284218074431-1171414168377826559400928168377826559400929-145766910955579978405091095557997840491221772574814319849794025748143198497941-1225772919292602539062429192926025390625-11515142919292602539062429192926025390625-1199771235866427916139812358664279161399-1499661543843500374700015438435003747001-14116648200432066939624820043206693961144766797710188163213079771018816321291419665411082280083482541108228008348111857774165529010156267416552901015625142066548903174400000154890317440000001371110480858437241785048085843724178491213771989102778640111619891027786401117-19288513218873137561751321887313756161125885960464477539062459604644775390625-12512125960464477539062459604644775390625-1526245960464477539062459604644775390625-1505661658625235314062416586252353140625-14710105259913223583004852599132235830049-141066475010424100000147501042410000001495661471062733439062614710627334390625118877830051320566579383005132056657921180776122200320000001612220032000000014510103405062891601562434050628916015625-118277661454104777356966145410477735681477661177905024275688811779050242756889-1481661238427132249888012384271322498881-14596693513887852512429351388785251241117777544268079729915454426807972991531483661269646396831656812696463968316569-11937799747303260050569974730326005057-1599986629958186549408662995818654939117477482886137443622548288613744362241452668527674378686465852767437868646416799272065343962949482720653439629494719388559581809665040255958180966504011473661119868024444948811198680244449489-1435666775409390765626677540939076562517199458485007184490324584850071844903111038812667700813876162126677008138761611107881718186179831920017181861798319201-142566589296118164062658929611816406251918171667718169966656816677181699666569-1338341667718169966656816677181699666569-118177636429092720166263642909272016611231773509812038460751235098120384607511145466875659204536889787565920453688961187777996339888664084799633988866408314226656477401364967055647740136496704157996351461955384058635146195538405719188470252527615152247025252761515211391010814040608519160281404060851916011217772265782076281527222657820762815273-1428666146991521173505614699152117350411757750265075683593765026507568359375165992071191283789062420711912837890625-1

Any comments ?

...

Рейтинг:

0 / 0

21.08.2013, 09:55:36

| Ответить | Цитировать | Написать

Сравнение Z=power( x, n ) с результатами цикла умножений, для X=3...1024, при Z < 2^63-1

#38372846

Ivan_Pisarevsky

Участник

Откуда: НН

Сообщения: 9 563

Рейтинг: 0 / 0

проблема сидит тут:
"power(r2.i,x.k)" против "cast( power(r2.i,x.k) as bigint)"
В трекере такого нет?

...

Рейтинг:

0 / 0

21.08.2013, 10:41:34

| Ответить | Цитировать | Написать

Сравнение Z=power( x, n ) с результатами цикла умножений, для X=3...1024, при Z < 2^63-1

#38373193

Таблоид

Участник

Сообщения: 9 702

Рейтинг: 0 / 0

Ivan_Pisarevskyпроблема сидит тут:
"power(r2.i,x.k)" против "cast( power(r2.i,x.k) as bigint)"
В трекере такого нет?В трекере этого не было. Теперь есть: http://tracker.firebirdsql.org/browse/CORE-4187

PS. Там есть интересный тикет 2007 года: http://tracker.firebirdsql.org/browse/CORE-1354 - по-поводу результатов округлений. Надо будет проверить как-нить...

...

Рейтинг:

0 / 0

21.08.2013, 13:16:28

| Ответить | Цитировать | Написать

3 сообщений из 3, страница 1 из 1

Читали тему (0):

Читали форум (0):

Пользователи онлайн (0):

start [/forum/topic.php?fid=40&fpage=115&tid=1564387]:	0ms
get settings:	10ms
get forum list:	22ms
check forum access:	4ms
check topic access:	4ms
track hit:	39ms
get topic data:	13ms
get forum data:	3ms
get page messages:	52ms
get tp. blocked users:	2ms
others:	243ms

total:	392ms

	Необходимые cookie
	Cookie для сбора статистики
	Cookie для маркетинга и рекламы