|
|
|
Размер дробной части результата сложения.
|
|||
|---|---|---|---|
|
#18+
Числовое поле в таблице, размер: "С плавающей точкой (4 байт)". Формат определенный не задан. В поле руками введены числа с дробной частью до 2 знаков. В запросе группы этих полей суммируются. Почему некоторые результаты оказываются с ...цатью знаками после запятой? Убрать всё это безобразие можно конечно форматом, но откуда берутся эти цифры после второго и до ...цатого знака? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.05.2004, 10:39 |
|
||
|
Размер дробной части результата сложения.
|
|||
|---|---|---|---|
|
#18+
просто машина не может представть некоторые введенные вручную значения в своей разрядной сетке (двоичное представления в машине точно только для всех целых чисел) так что терпи... ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.05.2004, 12:30 |
|
||
|
Размер дробной части результата сложения.
|
|||
|---|---|---|---|
|
#18+
Это так Аксес хранит плавающую точку, с определенной точностью. При вычислениях ошибка нарастает. Я, как параноик, округляю денежные величины после каждого арифметического действия. Кстати, в отчетах периоды (45) могут округляться некорректно, с ошибкой на копейку. Из таблицы в отчет может попась число с несколько отличающимся "хвостом", какие-то нюансы технологии хранения чисел. Поэтому лучше все вычисления (кроме суммирования итогов) производить заранее. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.05.2004, 12:35 |
|
||
|
|
start [/forum/topic.php?fid=45&msg=32510209&tid=1674779]: |
0ms |
get settings: |
7ms |
get forum list: |
17ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
312ms |
get topic data: |
11ms |
get forum data: |
2ms |
get page messages: |
35ms |
get tp. blocked users: |
1ms |
| others: | 233ms |
| total: | 626ms |
| 0 / 0 |
