|
Максимальная точность десктопных процессоров
|
|||
---|---|---|---|
#18+
Интересует максимальное количество знаков после запятой, воспроизводимое без искажений процессорами Intel/AMD. Модератор: Тема перенесена из форума "C++". ... |
|||
:
Нравится:
Не нравится:
|
|||
28.09.2013, 16:00 |
|
Максимальная точность десктопных процессоров
|
|||
---|---|---|---|
#18+
kab18 , а сколько надо? ... |
|||
:
Нравится:
Не нравится:
|
|||
28.09.2013, 17:59 |
|
Максимальная точность десктопных процессоров
|
|||
---|---|---|---|
#18+
kab18Интересует максимальное количество знаков после запятой, воспроизводимое без искажений процессорами Intel/AMD. Модератор: Тема перенесена из форума "C++". Вопрос не совсем корректный. Напрямую, без использования библиотек работы с длинными числами, самым точным типом в процессорах х86/х64 является 80-битовое вещественное, имеет 19 значащих разрядов мантиссы. Сколько у него будет знаков после запятой без искажений, зависит от порядка самого числа. ... |
|||
:
Нравится:
Не нравится:
|
|||
28.09.2013, 19:57 |
|
Максимальная точность десктопных процессоров
|
|||
---|---|---|---|
#18+
ДжекНепотрошительНапрямую, без использования библиотек работы с длинными числами когда тренировался в универской команде по программированию, помню были у нас задачи, связанные как раз с длинными числами. По сути там нет ничего сложного написать пару функций для работы хоть с 1000 цифр, главное исходя из задачи правильно определиться с методом представления/хранения. ... |
|||
:
Нравится:
Не нравится:
|
|||
30.09.2013, 11:02 |
|
Максимальная точность десктопных процессоров
|
|||
---|---|---|---|
#18+
kab18Интересует максимальное количество знаков после запятой, воспроизводимое без искажений процессорами Intel/AMD. bga83когда тренировался в универской команде по программированию, помню были у нас задачи, связанные как раз с длинными числами. По сути там нет ничего сложного написать пару функций для работы хоть с 1000 цифр, главное исходя из задачи правильно определиться с методом представления/хранения. О вычислении пи с миллионами знаков после запятой не слышали? ... |
|||
:
Нравится:
Не нравится:
|
|||
01.10.2013, 07:18 |
|
|
start [/forum/topic.php?fid=30&fpage=24&tid=1529678]: |
0ms |
get settings: |
7ms |
get forum list: |
13ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
43ms |
get topic data: |
11ms |
get forum data: |
3ms |
get page messages: |
43ms |
get tp. blocked users: |
1ms |
others: | 311ms |
total: | 440ms |
0 / 0 |