|
|
|
Погрешности при работе с decimal.
|
|||
|---|---|---|---|
|
#18+
Народ, объясните почему набирается такая большая погрешность при работе с типом данных decimal. Мне тут проценты нужно считать и я во временной таблице создал столбец с типом данных decimal(5,2), после того как я суммирую результаты подсчета то у меня выходит погрешность +- 0.04, т.е. может быть всего 99.97 процента или 100.04 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 14.08.2002, 12:07:36 |
|
||
|
Погрешности при работе с decimal.
|
|||
|---|---|---|---|
|
#18+
ты забыл нам код показать :)))) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 14.08.2002, 12:09:40 |
|
||
|
Погрешности при работе с decimal.
|
|||
|---|---|---|---|
|
#18+
А нафига тут код? Код: plaintext 1. 2. 3. 4. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 14.08.2002, 12:15:36 |
|
||
|
Погрешности при работе с decimal.
|
|||
|---|---|---|---|
Участник
|
|||
|
#18+
По-моему, для того, чтоб всё стыковалось, нужно, чтобы данные в поле тоже были округлены до двух знаков. Допустим есть три записи: 6.6666666666666666666 6.6666666666666666666 6.6666666666666666666 сумма будет 6.67+6.67+6.67 - 20.01 тогда по каждой строке процент будет такой: 6.6666666666666666666 / 20.01 * 100 = 33.316674996 т.е. 33.32% при суммировании только по трём записям получим 99.96% Или я не въехал в вопрос? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 14.08.2002, 12:32:28 |
|
||
|
Погрешности при работе с decimal.
|
|||
|---|---|---|---|
|
#18+
2 Luchkin Dmitry Поле тоже decimal(5,2). Погрешность естественно накапливается при округлениях, собственно я нечетко сформулировал вопрос, меня интересует можно ли сделать вычисления более точными не увеличивая количество цифр после запятой. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 14.08.2002, 12:39:37 |
|
||
|
Погрешности при работе с decimal.
|
|||
|---|---|---|---|
Участник
|
|||
|
#18+
Мне так кажется, что кол-во цифр после запятой это и есть показатель точности. Как можно вычислить значение числа "пи" точнее, чем 3.14, не увеличивая кол-во знаков? или увеличивать кол-во знаков или использовать извращения. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 14.08.2002, 12:51:52 |
|
||
|
|
start [/forum/topic.php?fid=46&fpage=3435&tid=1821148]: |
0ms |
get settings: |
8ms |
get forum list: |
10ms |
check forum access: |
2ms |
check topic access: |
2ms |
track hit: |
21ms |
get topic data: |
7ms |
get forum data: |
2ms |
get page messages: |
31ms |
get tp. blocked users: |
1ms |
| others: | 226ms |
| total: | 310ms |
| 0 / 0 |
