|
|
|
Максимальная точность десктопных процессоров
|
|||
|---|---|---|---|
|
#18+
Интересует максимальное количество знаков после запятой, воспроизводимое без искажений процессорами Intel/AMD. Модератор: Тема перенесена из форума "C++". ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 28.09.2013, 16:00:55 |
|
||
|
Максимальная точность десктопных процессоров
|
|||
|---|---|---|---|
|
#18+
kab18 , а сколько надо? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 28.09.2013, 17:59:46 |
|
||
|
Максимальная точность десктопных процессоров
|
|||
|---|---|---|---|
|
#18+
kab18Интересует максимальное количество знаков после запятой, воспроизводимое без искажений процессорами Intel/AMD. Модератор: Тема перенесена из форума "C++". Вопрос не совсем корректный. Напрямую, без использования библиотек работы с длинными числами, самым точным типом в процессорах х86/х64 является 80-битовое вещественное, имеет 19 значащих разрядов мантиссы. Сколько у него будет знаков после запятой без искажений, зависит от порядка самого числа. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 28.09.2013, 19:57:38 |
|
||
|
Максимальная точность десктопных процессоров
|
|||
|---|---|---|---|
|
#18+
ДжекНепотрошительНапрямую, без использования библиотек работы с длинными числами когда тренировался в универской команде по программированию, помню были у нас задачи, связанные как раз с длинными числами. По сути там нет ничего сложного написать пару функций для работы хоть с 1000 цифр, главное исходя из задачи правильно определиться с методом представления/хранения. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.09.2013, 11:02:56 |
|
||
|
Максимальная точность десктопных процессоров
|
|||
|---|---|---|---|
|
#18+
kab18Интересует максимальное количество знаков после запятой, воспроизводимое без искажений процессорами Intel/AMD. bga83когда тренировался в универской команде по программированию, помню были у нас задачи, связанные как раз с длинными числами. По сути там нет ничего сложного написать пару функций для работы хоть с 1000 цифр, главное исходя из задачи правильно определиться с методом представления/хранения. О вычислении пи с миллионами знаков после запятой не слышали? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.10.2013, 07:18:41 |
|
||
|
Максимальная точность десктопных процессоров
|
|||
|---|---|---|---|
|
#18+
авторО вычислении пи с миллионами знаков после запятой не слышали? там не нужны такие точности. там алгоритмы позволяющие вычислять цифру по порядковому номеру, без вычисления предыдущих. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.10.2013, 18:14:24 |
|
||
|
|

start [/forum/topic.php?fid=30&fpage=24&tid=1529678]: |
0ms |
get settings: |
5ms |
get forum list: |
14ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
62ms |
get topic data: |
10ms |
get forum data: |
3ms |
get page messages: |
49ms |
get tp. blocked users: |
1ms |
| others: | 186ms |
| total: | 338ms |

| 0 / 0 |
