|
|
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
Почему число 47.200000762939496 при выводе всех знаков ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 19:38:45 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
val.ToString("f15"); ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 19:39:46 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
дает значение 47.200000762939500 Как получить значение "47.200000762939496" ? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 19:41:26 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
vlsafдает значение 47.200000762939500 Как получить значение "47.200000762939496" ? получилось это сделать с decimal при такой постановке вопроса: d.ToString("N20") ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 19:54:07 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
Нет. (decimal) val дает значение 47.2000007629395 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:09:58 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
vlsafНет. (decimal) val дает значение 47.2000007629395 пробуем код Код: c# 1. 2. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:15:49 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
да и просто ToString() проканает, туплю ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:18:01 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
Вот только из отладчика вытащил 47.200000762939496.ToString() "47,2000007629395" string ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:22:00 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
Вот еще: (decimal) 47.200000762939496 47.2000007629395 decimal ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:23:04 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
vlsafВот только из отладчика вытащил 47.200000762939496.ToString() "47,2000007629395" string Запустите, пожалуйста, мой код. Ваша строка - double, а не decimal. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:23:25 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
Исходное число - это double При конвертации его в decimal точность теряется! ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:24:26 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
скормите отладчику Код: c# 1. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:24:38 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
А вопрос был именно в том, как у double вывести все знаки на печать. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:25:49 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
Дмитрий, я в курсе, что decimal имеет большую точность, но при конвертации double в decimal точность теряется. И вывод decimal в строку уже не имеет смысла. Я выше приводил пример. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:30:46 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
точность double - 15-16 знаков в числе "47.200000762939496" их 18 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:31:37 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
vlsafДмитрий, я в курсе, что decimal имеет большую точность, но при конвертации double в decimal точность теряется. И вывод decimal в строку уже не имеет смысла. Я выше приводил пример. Можно еще раз пример, где был double и при переводе в decimal потерялась точность? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:32:28 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
Вот прямо из отладчика (decimal) 47.200000762939496 47.2000007629395 decimal ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:34:00 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
А вот без конвертирования в double/ Тоже из отладчика (double)47.200000762939496 47.200000762939496 double ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:35:19 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
Ой. Хотел сказать без конвертирования в decimal ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:36:13 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
vlsafВот прямо из отладчика (decimal) 47.200000762939496 47.2000007629395 decimal вы задаете ему число 47.200000762939496, которое сразу воспринимается как double, и там же теряет точность, а потом переводите его в decimal. Нужен сразу decimal. если хотите сохранить значение. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:36:20 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
vlsafА вот без конвертирования в double/ Тоже из отладчика (double)47.200000762939496 47.200000762939496 double вот тут отладчик врет, кстати. Оно там УЖЕ не такое. Не знаю, почему врет. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:37:20 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
Нашел. Нужно выводить вот так: 47.200000762939496.ToString("R") "47,200000762939496" string теперь ничего не теряется. :) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:40:19 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
vlsafНашел. Нужно выводить вот так: 47.200000762939496.ToString("R") "47,200000762939496" string теперь ничего не теряется. :) хм... не знал такую штуку. Щас проверил: на один знак больше - и потеряется. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:45:01 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
Binary floating point and .NET DoubleConverter System.Diagnostics.Debug.WriteLine(DoubleConverter.ToExactString(47.200000762939496)); ----------------- 47.2000007629394957575641456060111522674560546875 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:55:20 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
"R" выводит 15 знаков, но не всегда :( Точность double это всегда 17 знаков (внутри машины) "G17" выводит все 17 знаков. Но вот, что интересно. Округляю до 15 знаков некое число Math.Round(4.7129999999999992, 15) 4.7129999999999992 double а получаю 16 знаков после запятой. Чудеса. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 20:59:15 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
LRDoubleConverter.ToExactString() Вещь! Спасибо!!! ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 21:04:00 |
|
||
|
Double в строку
|
|||
|---|---|---|---|
|
#18+
vlsafЧудеса. Binary floating point and .NETWorked example Consider the following 64-bit binary number: 0100000001000111001101101101001001001000010101110011000100100011 As a double, this is split into: Sign: 0 Exponent: 10000000100 binary = 1028 decimal Mantissa: 0111001101101101001001001000010101110011000100100011 This is therefore a normal number of value (-1)0 x 1.0111001101101101001001001000010101110011000100100011 (binary) x 21028-1023 which is more simply represented as 1.0111001101101101001001001000010101110011000100100011 (binary) x 25 or 101110.01101101101001001001000010101110011000100100011 In decimal, this is 46.42829231507700882275457843206822872161865234375, but .NET will display it by default as 46.428292315077 or with the "round-trip" format specifier as 46.428292315077009. обратите внимание на последнюю фразу: but .NET will display it by default as 46.428292315077 or with the "round-trip" format specifier as 46.428292315077009 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2013, 21:06:22 |
|
||
|
|
start [/forum/topic.php?all=1&fid=20&tid=1403757]: |
0ms |
get settings: |
9ms |
get forum list: |
16ms |
check forum access: |
3ms |
check topic access: |
3ms |
track hit: |
173ms |
get topic data: |
10ms |
get forum data: |
3ms |
get page messages: |
57ms |
get tp. blocked users: |
1ms |
| others: | 223ms |
| total: | 498ms |
| 0 / 0 |
