|
|
|
Почему VFP3.0 неккоретно делит одно число на другое?
|
|||
|---|---|---|---|
|
#18+
Доброго времени суток всем! Такой вопрос: мне необходимо производить вычисление и выводить его результат в отчёте. Вычисление: значение поля разделить на число 7.66667, вычисление производится в самом репорте, округляется до сотых, и в некоторых случаях результат вычисления некорректен. Например, значение поля=205030.8 вычисление=205030.8/7.66667 при обыкновенном вычислении: результат=26743.14 при вычислении в поле самого репорта: результат=26743.03 Подскажите плиз, почему получается такая разница? И как её избежать? мне нужны корректные вычисления. Заранее благодарна! С уважением, Юля. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 21.11.2005, 09:10:31 |
|
||
|
Почему VFP3.0 неккоретно делит одно число на другое?
|
|||
|---|---|---|---|
|
#18+
26743.03 = 205030.8/ 7.667 У васс может быть округление до 3 знаков. Смотрите в сторону SET DECIMALS ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 21.11.2005, 09:40:09 |
|
||
|
Почему VFP3.0 неккоретно делит одно число на другое?
|
|||
|---|---|---|---|
|
#18+
Спасибо, Andrey Ts. Но в этом направлении ничего не действует. что-то с настройками в отчётах что ли, поскольку в командном окне вычисляет всё верно. Юля. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 21.11.2005, 13:32:50 |
|
||
|
Почему VFP3.0 неккоретно делит одно число на другое?
|
|||
|---|---|---|---|
|
#18+
Yuliya_gСпасибо, Andrey Ts. Но в этом направлении ничего не действует. что-то с настройками в отчётах что ли, поскольку в командном окне вычисляет всё верно. Юля. А вообще-то Юля Код: plaintext Мне кажется 4. 205030.8/26743.03 = 26743.031552... ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 21.11.2005, 14:17:10 |
|
||
|
Почему VFP3.0 неккоретно делит одно число на другое?
|
|||
|---|---|---|---|
|
#18+
Владимир СА, выдаёт 2, делала установки SET Decimals to 5 SET Decimals to 10, но на результат это никак не влияет. Напоминаю, что это вычисление производится в поле отчёта: Expression: qd_details.summ/(7.66667) Format: @J 99999999.99 как же всё-таки получить верный результат расчёта??? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 21.11.2005, 15:01:26 |
|
||
|
Почему VFP3.0 неккоретно делит одно число на другое?
|
|||
|---|---|---|---|
|
#18+
Какой ТИП имеет то поле, которое и делится. Код: plaintext 1. 2. В первом случае FoxPro использует тип Numeric. Во втором - тип Currency. С типом Currency есть некоторые тонкости обработки. Если в данном случае нужна точность, то необходимо конвертировать Currency в Numeric при помощи функции MTON() Код: plaintext Символ доллара - это еще один способ обозначения типа Currency. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 21.11.2005, 15:32:53 |
|
||
|
|

start [/forum/topic.php?fid=41&fpage=290&tid=1592986]: |
0ms |
get settings: |
11ms |
get forum list: |
20ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
83ms |
get topic data: |
11ms |
get forum data: |
3ms |
get page messages: |
54ms |
get tp. blocked users: |
2ms |
| others: | 241ms |
| total: | 433ms |

| 0 / 0 |
