|
Действия ...
|
21.11.2005, 09:40:09
|
|||
|---|---|---|---|
|
|||
Почему VFP3.0 неккоретно делит одно число на другое? |
|||
|
|
|
21.11.2005, 15:32:53
|
|||
|---|---|---|---|
|
|||
Почему VFP3.0 неккоретно делит одно число на другое? |
|||
|
|
Новые сообщения [новые:0]
Дайджест
Горячие темы
Избранное [новые:0]
Форумы
Пользователи
Статистика
Статистика нагрузки
Мод. лог
Поиск
|
|
21.11.2005, 09:10:31
|
|||
|---|---|---|---|
|
|||
Почему VFP3.0 неккоретно делит одно число на другое? |
|||
|
#18+
Доброго времени суток всем! Такой вопрос: мне необходимо производить вычисление и выводить его результат в отчёте. Вычисление: значение поля разделить на число 7.66667, вычисление производится в самом репорте, округляется до сотых, и в некоторых случаях результат вычисления некорректен. Например, значение поля=205030.8 вычисление=205030.8/7.66667 при обыкновенном вычислении: результат=26743.14 при вычислении в поле самого репорта: результат=26743.03 Подскажите плиз, почему получается такая разница? И как её избежать? мне нужны корректные вычисления. Заранее благодарна! С уважением, Юля. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
21.11.2005, 09:40:09
|
|||
|---|---|---|---|
Почему VFP3.0 неккоретно делит одно число на другое? |
|||
|
#18+
26743.03 = 205030.8/ 7.667 У васс может быть округление до 3 знаков. Смотрите в сторону SET DECIMALS ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
21.11.2005, 13:32:50
|
|||
|---|---|---|---|
|
|||
Почему VFP3.0 неккоретно делит одно число на другое? |
|||
|
#18+
Спасибо, Andrey Ts. Но в этом направлении ничего не действует. что-то с настройками в отчётах что ли, поскольку в командном окне вычисляет всё верно. Юля. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
21.11.2005, 14:17:10
|
|||
|---|---|---|---|
|
|||
Почему VFP3.0 неккоретно делит одно число на другое? |
|||
|
#18+
Yuliya_gСпасибо, Andrey Ts. Но в этом направлении ничего не действует. что-то с настройками в отчётах что ли, поскольку в командном окне вычисляет всё верно. Юля. А вообще-то Юля Код: plaintext Мне кажется 4. 205030.8/26743.03 = 26743.031552... ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
21.11.2005, 15:01:26
|
|||
|---|---|---|---|
|
|||
Почему VFP3.0 неккоретно делит одно число на другое? |
|||
|
#18+
Владимир СА, выдаёт 2, делала установки SET Decimals to 5 SET Decimals to 10, но на результат это никак не влияет. Напоминаю, что это вычисление производится в поле отчёта: Expression: qd_details.summ/(7.66667) Format: @J 99999999.99 как же всё-таки получить верный результат расчёта??? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
21.11.2005, 15:32:53
|
|||
|---|---|---|---|
Почему VFP3.0 неккоретно делит одно число на другое? |
|||
|
#18+
Какой ТИП имеет то поле, которое и делится. Код: plaintext 1. 2. В первом случае FoxPro использует тип Numeric. Во втором - тип Currency. С типом Currency есть некоторые тонкости обработки. Если в данном случае нужна точность, то необходимо конвертировать Currency в Numeric при помощи функции MTON() Код: plaintext Символ доллара - это еще один способ обозначения типа Currency. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
start [/forum/topic.php?fid=41&mobile=1&tid=1592986]: |
0ms |
get settings: |
9ms |
get forum list: |
12ms |
check forum access: |
3ms |
check topic access: |
3ms |
track hit: |
263ms |
get topic data: |
9ms |
get forum data: |
2ms |
get page messages: |
40ms |
get tp. blocked users: |
2ms |
| others: | 207ms |
| total: | 550ms |
| 0 / 0 |
