|
Действия ...
Новые сообщения [новые:0]
Дайджест
Горячие темы
Избранное [новые:0]
Форумы
Пользователи
Статистика
Статистика нагрузки
Мод. лог
Поиск
|
|
01.11.2013, 19:38
|
|||
|---|---|---|---|
Double в строку |
|||
|
#18+
Почему число 47.200000762939496 при выводе всех знаков ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
01.11.2013, 19:39
|
|||
|---|---|---|---|
Double в строку |
|||
|
#18+
val.ToString("f15"); ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
01.11.2013, 19:41
|
|||
|---|---|---|---|
Double в строку |
|||
|
#18+
дает значение 47.200000762939500 Как получить значение "47.200000762939496" ? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
01.11.2013, 19:54
|
|||
|---|---|---|---|
|
|||
Double в строку |
|||
|
#18+
vlsafдает значение 47.200000762939500 Как получить значение "47.200000762939496" ? получилось это сделать с decimal при такой постановке вопроса: d.ToString("N20") ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
01.11.2013, 20:09
|
|||
|---|---|---|---|
Double в строку |
|||
|
#18+
Нет. (decimal) val дает значение 47.2000007629395 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
01.11.2013, 20:15
|
|||
|---|---|---|---|
|
|||
Double в строку |
|||
|
#18+
vlsafНет. (decimal) val дает значение 47.2000007629395 пробуем код Код: c# 1. 2. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
01.11.2013, 20:18
|
|||
|---|---|---|---|
|
|||
Double в строку |
|||
|
#18+
да и просто ToString() проканает, туплю ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
01.11.2013, 20:22
|
|||
|---|---|---|---|
Double в строку |
|||
|
#18+
Вот только из отладчика вытащил 47.200000762939496.ToString() "47,2000007629395" string ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
01.11.2013, 20:23
|
|||
|---|---|---|---|
Double в строку |
|||
|
#18+
Вот еще: (decimal) 47.200000762939496 47.2000007629395 decimal ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
01.11.2013, 20:23
|
|||
|---|---|---|---|
|
|||
Double в строку |
|||
|
#18+
vlsafВот только из отладчика вытащил 47.200000762939496.ToString() "47,2000007629395" string Запустите, пожалуйста, мой код. Ваша строка - double, а не decimal. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
01.11.2013, 20:24
|
|||
|---|---|---|---|
Double в строку |
|||
|
#18+
Исходное число - это double При конвертации его в decimal точность теряется! ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
01.11.2013, 20:24
|
|||
|---|---|---|---|
|
|||
Double в строку |
|||
|
#18+
скормите отладчику Код: c# 1. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
01.11.2013, 20:25
|
|||
|---|---|---|---|
Double в строку |
|||
|
#18+
А вопрос был именно в том, как у double вывести все знаки на печать. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
01.11.2013, 20:30
|
|||
|---|---|---|---|
Double в строку |
|||
|
#18+
Дмитрий, я в курсе, что decimal имеет большую точность, но при конвертации double в decimal точность теряется. И вывод decimal в строку уже не имеет смысла. Я выше приводил пример. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
01.11.2013, 20:31
|
|||
|---|---|---|---|
|
|||
Double в строку |
|||
|
#18+
точность double - 15-16 знаков в числе "47.200000762939496" их 18 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
01.11.2013, 20:32
|
|||
|---|---|---|---|
|
|||
Double в строку |
|||
|
#18+
vlsafДмитрий, я в курсе, что decimal имеет большую точность, но при конвертации double в decimal точность теряется. И вывод decimal в строку уже не имеет смысла. Я выше приводил пример. Можно еще раз пример, где был double и при переводе в decimal потерялась точность? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
01.11.2013, 20:34
|
|||
|---|---|---|---|
Double в строку |
|||
|
#18+
Вот прямо из отладчика (decimal) 47.200000762939496 47.2000007629395 decimal ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
01.11.2013, 20:35
|
|||
|---|---|---|---|
Double в строку |
|||
|
#18+
А вот без конвертирования в double/ Тоже из отладчика (double)47.200000762939496 47.200000762939496 double ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
01.11.2013, 20:36
|
|||
|---|---|---|---|
Double в строку |
|||
|
#18+
Ой. Хотел сказать без конвертирования в decimal ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
01.11.2013, 20:36
|
|||
|---|---|---|---|
|
|||
Double в строку |
|||
|
#18+
vlsafВот прямо из отладчика (decimal) 47.200000762939496 47.2000007629395 decimal вы задаете ему число 47.200000762939496, которое сразу воспринимается как double, и там же теряет точность, а потом переводите его в decimal. Нужен сразу decimal. если хотите сохранить значение. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
01.11.2013, 20:37
|
|||
|---|---|---|---|
|
|||
Double в строку |
|||
|
#18+
vlsafА вот без конвертирования в double/ Тоже из отладчика (double)47.200000762939496 47.200000762939496 double вот тут отладчик врет, кстати. Оно там УЖЕ не такое. Не знаю, почему врет. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
01.11.2013, 20:40
|
|||
|---|---|---|---|
Double в строку |
|||
|
#18+
Нашел. Нужно выводить вот так: 47.200000762939496.ToString("R") "47,200000762939496" string теперь ничего не теряется. :) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
01.11.2013, 20:45
|
|||
|---|---|---|---|
|
|||
Double в строку |
|||
|
#18+
vlsafНашел. Нужно выводить вот так: 47.200000762939496.ToString("R") "47,200000762939496" string теперь ничего не теряется. :) хм... не знал такую штуку. Щас проверил: на один знак больше - и потеряется. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
01.11.2013, 20:55
|
|||
|---|---|---|---|
Double в строку |
|||
|
#18+
Binary floating point and .NET DoubleConverter System.Diagnostics.Debug.WriteLine(DoubleConverter.ToExactString(47.200000762939496)); ----------------- 47.2000007629394957575641456060111522674560546875 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
start [/forum/topic.php?fid=20&mobile=1&tid=1403757]: |
0ms |
get settings: |
9ms |
get forum list: |
14ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
69ms |
get topic data: |
10ms |
get forum data: |
2ms |
get page messages: |
64ms |
get tp. blocked users: |
1ms |
| others: | 320ms |
| total: | 497ms |
| 0 / 0 |
