Новые сообщения [новые:0]
Дайджест
Горячие темы
Избранное [новые:0]
Форумы
Пользователи
Статистика
Статистика нагрузки
Мод. лог
Поиск
|
28.09.2013, 16:00
|
|||
---|---|---|---|
|
|||
Максимальная точность десктопных процессоров |
|||
#18+
Интересует максимальное количество знаков после запятой, воспроизводимое без искажений процессорами Intel/AMD. Модератор: Тема перенесена из форума "C++". ... |
|||
:
Нравится:
Не нравится:
|
|||
|
28.09.2013, 17:59
|
|||
---|---|---|---|
Максимальная точность десктопных процессоров |
|||
#18+
kab18 , а сколько надо? ... |
|||
:
Нравится:
Не нравится:
|
|||
|
28.09.2013, 19:57
|
|||
---|---|---|---|
|
|||
Максимальная точность десктопных процессоров |
|||
#18+
kab18Интересует максимальное количество знаков после запятой, воспроизводимое без искажений процессорами Intel/AMD. Модератор: Тема перенесена из форума "C++". Вопрос не совсем корректный. Напрямую, без использования библиотек работы с длинными числами, самым точным типом в процессорах х86/х64 является 80-битовое вещественное, имеет 19 значащих разрядов мантиссы. Сколько у него будет знаков после запятой без искажений, зависит от порядка самого числа. ... |
|||
:
Нравится:
Не нравится:
|
|||
|
30.09.2013, 11:02
|
|||
---|---|---|---|
Максимальная точность десктопных процессоров |
|||
#18+
ДжекНепотрошительНапрямую, без использования библиотек работы с длинными числами когда тренировался в универской команде по программированию, помню были у нас задачи, связанные как раз с длинными числами. По сути там нет ничего сложного написать пару функций для работы хоть с 1000 цифр, главное исходя из задачи правильно определиться с методом представления/хранения. ... |
|||
:
Нравится:
Не нравится:
|
|||
|
01.10.2013, 07:18
|
|||
---|---|---|---|
|
|||
Максимальная точность десктопных процессоров |
|||
#18+
kab18Интересует максимальное количество знаков после запятой, воспроизводимое без искажений процессорами Intel/AMD. bga83когда тренировался в универской команде по программированию, помню были у нас задачи, связанные как раз с длинными числами. По сути там нет ничего сложного написать пару функций для работы хоть с 1000 цифр, главное исходя из задачи правильно определиться с методом представления/хранения. О вычислении пи с миллионами знаков после запятой не слышали? ... |
|||
:
Нравится:
Не нравится:
|
|||
|
|
start [/forum/topic.php?fid=30&mobile=1&tid=1529678]: |
0ms |
get settings: |
8ms |
get forum list: |
11ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
40ms |
get topic data: |
11ms |
get forum data: |
2ms |
get page messages: |
41ms |
get tp. blocked users: |
1ms |
others: | 10ms |
total: | 132ms |
0 / 0 |