|
|
|
Форматирование строкового представления вещественного числа
|
|||
|---|---|---|---|
|
#18+
День добрый ! Вопрос про DecimalFormat. Хочу выставить так, чтобы число 10 знаков до запятой и 20 после отображалось верно, т.е. 1234567890.12345678901234567890 SetMinimumFractionDigits(20) при форматировании указанного числа дает 1234567890.1234567000000000000, т.е. отбрасываются все знаки после запятой начиная с 8-го 12345.12345678901234567890 дает уже 12345.123456789011 и т.д. значащих цифр всегда 17 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.03.2012, 15:17:26 |
|
||
|
Форматирование строкового представления вещественного числа
|
|||
|---|---|---|---|
|
#18+
вы значение в double держите? или в BigDecimal? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.03.2012, 16:11:11 |
|
||
|
Форматирование строкового представления вещественного числа
|
|||
|---|---|---|---|
|
#18+
Blazkowicz, в double ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.03.2012, 16:16:57 |
|
||
|
Форматирование строкового представления вещественного числа
|
|||
|---|---|---|---|
|
#18+
Тогда я предполагаю, что ваше число не умещается в double. Попробуйте BigDecimal. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.03.2012, 16:20:46 |
|
||
|
Форматирование строкового представления вещественного числа
|
|||
|---|---|---|---|
|
#18+
Blazkowicz, Попробую, хотя представленное вроде должно влезать )) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.03.2012, 16:21:50 |
|
||
|
Форматирование строкового представления вещественного числа
|
|||
|---|---|---|---|
|
#18+
_usa__83_Попробую, хотя представленное вроде должно влезать )) 2^64 = 18446744073709551616 Сравните с вашим 123456789012345678901234567890. Без потери точности или специальной упаковки, никак не уместить ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.03.2012, 16:36:42 |
|
||
|
|

start [/forum/topic.php?fid=59&msg=37731833&tid=2132172]: |
0ms |
get settings: |
20ms |
get forum list: |
26ms |
check forum access: |
7ms |
check topic access: |
7ms |
track hit: |
52ms |
get topic data: |
18ms |
get forum data: |
4ms |
get page messages: |
73ms |
get tp. blocked users: |
3ms |
| others: | 365ms |
| total: | 575ms |

| 0 / 0 |
