Гость
Целевая тема:
Создать новую тему:
Автор:
Форумы / FoxPro, Visual FoxPro [игнор отключен] [закрыт для гостей] / Опять автоматическое округление при добавлении / 3 сообщений из 3, страница 1 из 1
26.04.2010, 15:54
    #36598755
AkIg
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Опять автоматическое округление при добавлении
Здравствуйте.
Есть курсор с 2 записями, есть поле в формате N(12.4) с значением: 9999999.9999.
При попытке добавления новой записи (3-й) в этот курсор с таким же значением происходит округление: садится 100000000.
Значение переменной памяти и переменной верны. (смотрели в DEBUG).
НО независимо от используемой команды: Append, INSERT при записи в курсор
результат округляется.
Установки SET DECIMALS DEFAULT и SET FIXED DEFAULT.
Заранее Спасибо за любые подсказки.
Данная ситуация возникает только при добавлении записи.
...
Рейтинг: 0 / 0
26.04.2010, 16:05
    #36598778
прошелмимо
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Опять автоматическое округление при добавлении
Код: plaintext
1.
2.
3.
4.
Create Cursor tt ( myValue y)
Insert into tt VALUES ( 99999999 . 9999 )

? tt.myValue
...
Рейтинг: 0 / 0
26.04.2010, 16:08
    #36598789
ВладимирМ
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Опять автоматическое округление при добавлении
Приведите код вычисления зачения и собственно добавления. Перед добавлением не пробовали явно округлять до 4 разрядов через Round()?

12 разрядов - это далеко от предела точности, но число уж больно "скользкое". Если получено, например, в результате деления, то есть шанс, что была бесконечная дробь.
...
Рейтинг: 0 / 0
Форумы / FoxPro, Visual FoxPro [игнор отключен] [закрыт для гостей] / Опять автоматическое округление при добавлении / 3 сообщений из 3, страница 1 из 1
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]