|
|
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
Почему число 47.200000762939496 при выводе всех знаков ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 19:38 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
val.ToString("f15"); ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 19:39 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
дает значение 47.200000762939500 Как получить значение "47.200000762939496" ? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 19:41 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
vlsafдает значение 47.200000762939500 Как получить значение "47.200000762939496" ? получилось это сделать с decimal при такой постановке вопроса: d.ToString("N20") ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 19:54 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
Нет. (decimal) val дает значение 47.2000007629395 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:09 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
vlsafНет. (decimal) val дает значение 47.2000007629395 пробуем код Код: c# 1. 2. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:15 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
да и просто ToString() проканает, туплю ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:18 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
Вот только из отладчика вытащил 47.200000762939496.ToString() "47,2000007629395" string ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:22 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
Вот еще: (decimal) 47.200000762939496 47.2000007629395 decimal ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:23 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
vlsafВот только из отладчика вытащил 47.200000762939496.ToString() "47,2000007629395" string Запустите, пожалуйста, мой код. Ваша строка - double, а не decimal. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:23 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
Исходное число - это double При конвертации его в decimal точность теряется! ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:24 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
скормите отладчику Код: c# 1. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:24 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
А вопрос был именно в том, как у double вывести все знаки на печать. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:25 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
Дмитрий, я в курсе, что decimal имеет большую точность, но при конвертации double в decimal точность теряется. И вывод decimal в строку уже не имеет смысла. Я выше приводил пример. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:30 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
точность double - 15-16 знаков в числе "47.200000762939496" их 18 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:31 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
vlsafДмитрий, я в курсе, что decimal имеет большую точность, но при конвертации double в decimal точность теряется. И вывод decimal в строку уже не имеет смысла. Я выше приводил пример. Можно еще раз пример, где был double и при переводе в decimal потерялась точность? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:32 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
Вот прямо из отладчика (decimal) 47.200000762939496 47.2000007629395 decimal ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:34 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
А вот без конвертирования в double/ Тоже из отладчика (double)47.200000762939496 47.200000762939496 double ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:35 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
Ой. Хотел сказать без конвертирования в decimal ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:36 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
vlsafВот прямо из отладчика (decimal) 47.200000762939496 47.2000007629395 decimal вы задаете ему число 47.200000762939496, которое сразу воспринимается как double, и там же теряет точность, а потом переводите его в decimal. Нужен сразу decimal. если хотите сохранить значение. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:36 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
vlsafА вот без конвертирования в double/ Тоже из отладчика (double)47.200000762939496 47.200000762939496 double вот тут отладчик врет, кстати. Оно там УЖЕ не такое. Не знаю, почему врет. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:37 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
Нашел. Нужно выводить вот так: 47.200000762939496.ToString("R") "47,200000762939496" string теперь ничего не теряется. :) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:40 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
vlsafНашел. Нужно выводить вот так: 47.200000762939496.ToString("R") "47,200000762939496" string теперь ничего не теряется. :) хм... не знал такую штуку. Щас проверил: на один знак больше - и потеряется. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:45 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
Binary floating point and .NET DoubleConverter System.Diagnostics.Debug.WriteLine(DoubleConverter.ToExactString(47.200000762939496)); ----------------- 47.2000007629394957575641456060111522674560546875 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:55 |
|
||
|
|
start [/forum/topic.php?fid=20&msg=38450528&tid=1403757]: |
0ms |
get settings: |
10ms |
get forum list: |
13ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
72ms |
get topic data: |
9ms |
get forum data: |
2ms |
get page messages: |
51ms |
get tp. blocked users: |
1ms |
| others: | 13ms |
| total: | 179ms |
| 0 / 0 |
