Гость
Целевая тема:
Создать новую тему:
Автор:
Форумы / Java [игнор отключен] [закрыт для гостей] / неточность double / 4 сообщений из 4, страница 1 из 1
29.12.2005, 14:43
    #33464466
maddcast
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
неточность double
9.7d * 100d = 969.99999
Как побороть?
...
Рейтинг: 0 / 0
29.12.2005, 14:47
    #33464481
А.Грасоff™
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
неточность double
BigDecimal?
...
Рейтинг: 0 / 0
29.12.2005, 14:48
    #33464485
ponomarevvb
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
неточность double
А что сделать-то надо? С точностью до N знаков число x получить?
Math.round(x * (10^N)) / (10^N)
--С уважением, ponomarevvb--
...
Рейтинг: 0 / 0
29.12.2005, 15:25
    #33464603
Евгений Путилин
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
неточность double
maddcast9.7d * 100d = 969.99999
Как побороть?
А оно берется? Почитай про системы счисления и харнение чисел с плавающей запятой.
...
Рейтинг: 0 / 0
Форумы / Java [игнор отключен] [закрыт для гостей] / неточность double / 4 сообщений из 4, страница 1 из 1
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]