Гость
Войти | Профиль | Очистить
Целевая тема:
Создать новую тему:
Автор:
Действия ...
Форумы / Java [игнор отключен] [закрыт для гостей] / Как посчитать BigDecimal or double с 10 знаками после коммы? / 3 сообщений из 3, страница 1 из 1
27.03.2017, 15:17
    #39427804
_webdev_
_webdev_
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Как посчитать BigDecimal or double с 10 знаками после коммы?
Здравствуйте, подскажите, кто разбирается, а то с этими знаками после коммы.. Не очень идет..

Есть два числа
v2=1000000.0000000001
v1=1000000.0

Нужно посчитать сл формулу.
abs( (value1 - value2) / max(value1, value2)) <= 10(в -10 степени)

Код: java
1.
2.
3.
4.
5.
Integer expectedValidError = 10; //так надо
expectedValidError *= -1;
BigDecimal abs = ((numberA.subtract(numberB)).divide(max)).abs();
BigDecimal powExpectedValidError = BigDecimal.valueOf(Math.pow(10, expectedValidError.doubleValue()));
boolean result = new BigDecimal(abs).compareTo(powExpectedValidError) <= 0;



С таким раскладом вылетает

Код: java
1.
2.
java.lang.ArithmeticException: Non-terminating decimal expansion; no exact representable decimal result.
	at java.math.BigDecimal.divide(BigDecimal.java:1690)



Пробовал перевести в стринг, но если пытаюсь делить, получаю такую же ошибку.
Код: java
1.
String substractResult = v2.subtract(v1).toPlainString(); //получаю .0000000001



Спасибо.
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
27.03.2017, 16:40
    #39427887
alexanderer
alexanderer
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Как посчитать BigDecimal or double с 10 знаками после коммы?
Код: java
1.
BigDecimal.valueOf(10).divide(BigDecimal.valueOf(9), 10, BigDecimal.ROUND_HALF_UP)
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
28.03.2017, 20:39
    #39428754
_webdev_
_webdev_
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Как посчитать BigDecimal or double с 10 знаками после коммы?
alexanderer
Код: java
1.
BigDecimal.valueOf(10).divide(BigDecimal.valueOf(9), 10, BigDecimal.ROUND_HALF_UP)

- пасиб
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
Форумы / Java [игнор отключен] [закрыт для гостей] / Как посчитать BigDecimal or double с 10 знаками после коммы? / 3 сообщений из 3, страница 1 из 1
Найденые пользователи ...
Разблокировать пользователей ...
Читали тему (0):
Читали форум (0):
Пользователи онлайн (0):
Польз. соглашение  
Полит. конфиден.  
созд. / загр.: 403ms
Закрыть
start [/forum/topic.php?fid=59&mobile=1&tid=2123028]:
 0ms
get settings:
 8ms
get forum list:
 16ms
check forum access:
 3ms
check topic access:
 3ms
track hit:
 113ms
get topic data:
 10ms
get forum data:
 3ms
get page messages:
 22ms
get tp. blocked users:
 1ms
others: 224ms
total:  403ms
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]