Гость
Целевая тема:
Создать новую тему:
Автор:
Форумы / Java [игнор отключен] [закрыт для гостей] / Форматирование строкового представления вещественного числа / 7 сообщений из 7, страница 1 из 1
30.03.2012, 15:17:26
    #37731576
_usa__83_
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Форматирование строкового представления вещественного числа
День добрый !

Вопрос про DecimalFormat. Хочу выставить так, чтобы число 10 знаков до запятой и 20 после отображалось верно, т.е.
1234567890.12345678901234567890

SetMinimumFractionDigits(20) при форматировании указанного числа дает 1234567890.1234567000000000000, т.е. отбрасываются
все знаки после запятой начиная с 8-го

12345.12345678901234567890 дает уже 12345.123456789011
и т.д.

значащих цифр всегда 17
...
Рейтинг: 0 / 0
30.03.2012, 16:11:11
    #37731733
Blazkowicz
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Форматирование строкового представления вещественного числа
вы значение в double держите? или в BigDecimal?
...
Рейтинг: 0 / 0
30.03.2012, 16:16:57
    #37731766
_usa__83_
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Форматирование строкового представления вещественного числа
Blazkowicz,

в double
...
Рейтинг: 0 / 0
30.03.2012, 16:20:46
    #37731784
Blazkowicz
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Форматирование строкового представления вещественного числа
Тогда я предполагаю, что ваше число не умещается в double. Попробуйте BigDecimal.
...
Рейтинг: 0 / 0
30.03.2012, 16:21:50
    #37731790
_usa__83_
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Форматирование строкового представления вещественного числа
Blazkowicz,

Попробую, хотя представленное вроде должно влезать ))
...
Рейтинг: 0 / 0
30.03.2012, 16:36:42
    #37731833
Blazkowicz
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Форматирование строкового представления вещественного числа
_usa__83_Попробую, хотя представленное вроде должно влезать ))

2^64 = 18446744073709551616
Сравните с вашим 123456789012345678901234567890. Без потери точности или специальной упаковки, никак не уместить
...
Рейтинг: 0 / 0
30.03.2012, 16:56:14
    #37731895
_usa__83_
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Форматирование строкового представления вещественного числа
Blazkowicz,

м-да, въехал ... что называется никогда не задумывался над представлением, только на границы смотрел
...
Рейтинг: 0 / 0
Форумы / Java [игнор отключен] [закрыт для гостей] / Форматирование строкового представления вещественного числа / 7 сообщений из 7, страница 1 из 1
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]