|
Есть ли библиотеки, подключаемые к VB, реализующие арифметику "удвоенной" точности?
|
|||
---|---|---|---|
#18+
автортам умножение, так что проблем не будет. хм, почемуто думал, что при фиксированной разрядности мантиссы такая дикая разница в порядках величин и при умножении даст существенную потерю точности. ... |
|||
:
Нравится:
Не нравится:
|
|||
14.07.2021, 11:52 |
|
Есть ли библиотеки, подключаемые к VB, реализующие арифметику "удвоенной" точности?
|
|||
---|---|---|---|
#18+
ldfanate автортам умножение, так что проблем не будет. хм, почемуто думал, что при фиксированной разрядности мантиссы такая дикая разница в порядках величин и при умножении даст существенную потерю точности.Это если бы имела место арифметика с представлением вещественного числа в формате с фиксированной позицией разделителя целой и дробной части (fixed-point arithmetic). У арифметики с плавающей позицией разделителя (floating-point arithmetic) такой проблемы нет, так как мантисса используеЦЦа рациональней, и её запись начинаеЦЦа с первого значащего разряда в выбранной системе счисления (не храняЦЦа предшествующие нули). ПримечаниеВ частности, это приводит к такому интересному эффекту, что в двоичной системе счисления первый значащий разряд для числа, не равного 0, всегда 1 2 , и, следовательно, её можно не хранить в явном виде (так называемая "скрытая единица"), а хранить на один двоичный разряд в мантиссе больше. Например, для вещественных чисел с двойной точностью (double) в формате IEEE-754 общая длина представления 64 бита: 1 бит на знак + 11 битов на порядок + 5 3 (явно храниЦЦа 52) бита на мантиссу. ... |
|||
:
Нравится:
Не нравится:
|
|||
14.07.2021, 13:28 |
|
Есть ли библиотеки, подключаемые к VB, реализующие арифметику "удвоенной" точности?
|
|||
---|---|---|---|
#18+
автортакой проблемы нет, так как мантисса используеЦЦа рациональней 53 (явно храниЦЦа 52) бита на мантиссу. А разве не произойдёт всёравно потери точности при нормализации в 52-битную мантиссу (2^52 это всеголишь 10^15)? Т.е. уже после того, как математический сопроцессор (8087 :)) ну даже в 80-битной арифметике если оперирует внутри себя? ... |
|||
:
Нравится:
Не нравится:
|
|||
15.07.2021, 09:28 |
|
|
start [/forum/topic.php?fid=60&gotonew=1&tid=2154714]: |
0ms |
get settings: |
9ms |
get forum list: |
15ms |
check forum access: |
5ms |
check topic access: |
5ms |
track hit: |
56ms |
get topic data: |
12ms |
get first new msg: |
9ms |
get forum data: |
3ms |
get page messages: |
49ms |
get tp. blocked users: |
2ms |
others: | 12ms |
total: | 177ms |
0 / 0 |