Опять автоматическое округление при добавлении / FoxPro, Visual FoxPro

ReSQL.ru

2.0.55

Планшетная версия Контакт Правила FAQ Помощь

Гость

Войти | Профиль | Очистить

Нов. | Гор. | Избр.

Написать

Автор*:

Ввести пароль для входа

Тема*:

Сообщение

Данное сообщение тематическое

Сообщение содержит картинки или видео 18+

Автор:

ВНИМАНИЕ! На данном подфоруме действуют строгие правила. Удостоверьтесь, что ваше сообщение соответствует им!

Форум или тема закрыты для гостей. Необходима авторизация!

Загрузить последнюю сохраненную версию

Вставить как галерею

Максимальный размер вложений: 4,0 МБ, аудио/видео: 8,0 МБ. Картинки большего размера ужимаются, если возможно.

Введите код, изображенный на картинке. Если код нечитаемый, кликните картинку, чтобы загрузить другой вариант.

Отправляя сообщение, я выражаю свое согласие с правилами форума и принимаю пользовательское соглашение.

Действия ...

Доб. в избранное
Игнор. тему
Прикреп. тему
Пометить прочит. / непрочит.
Фильтр:
Сообщения автора темы
Сообщение содержит вложения
Сообщение содержит картинки
Сообщение содержит видеоклипы
Сообщение содержит аудиоклипы
Сообщение содержит картинки или видео 18+

Форумы / FoxPro, Visual FoxPro [игнор отключен] [закрыт для гостей] / Опять автоматическое округление при добавлении / 3 сообщений из 3, страница 1 из 1

26.04.2010, 15:54

#36598755

AkIg

Гость

Опять автоматическое округление при добавлении

Здравствуйте.
Есть курсор с 2 записями, есть поле в формате N(12.4) с значением: 9999999.9999.
При попытке добавления новой записи (3-й) в этот курсор с таким же значением происходит округление: садится 100000000.
Значение переменной памяти и переменной верны. (смотрели в DEBUG).
НО независимо от используемой команды: Append, INSERT при записи в курсор
результат округляется.
Установки SET DECIMALS DEFAULT и SET FIXED DEFAULT.
Заранее Спасибо за любые подсказки.
Данная ситуация возникает только при добавлении записи.

...

Рейтинг:

0 / 0

| Ответить | Цитировать | Написать

26.04.2010, 16:05

#36598778

прошелмимо

Участник

Откуда: Из Курска понаехал
Сообщения: 10 249
Рейтинг: 0 / 0

Опять автоматическое округление при добавлении

Код: plaintext

1.
2.
3.
4.

Create Cursor tt ( myValue y)
Insert into tt VALUES ( 99999999 . 9999 )

? tt.myValue

...

Рейтинг:

0 / 0

| Ответить | Цитировать | Написать

26.04.2010, 16:08

#36598789

ВладимирМ

Участник

Откуда: г. Москва
Сообщения: 7 937
Рейтинг: 0 / 0

Опять автоматическое округление при добавлении

Приведите код вычисления зачения и собственно добавления. Перед добавлением не пробовали явно округлять до 4 разрядов через Round()?

12 разрядов - это далеко от предела точности, но число уж больно "скользкое". Если получено, например, в результате деления, то есть шанс, что была бесконечная дробь.

...

Рейтинг:

0 / 0

| Ответить | Цитировать | Написать

Читали тему (0):

Читали форум (0):

Пользователи онлайн (0):

start [/forum/topic.php?fid=41&mobile=1&tid=1585361]:	0ms
get settings:	9ms
get forum list:	10ms
check forum access:	3ms
check topic access:	3ms
track hit:	40ms
get topic data:	12ms
get forum data:	3ms
get page messages:	50ms
get tp. blocked users:	2ms
others:	355ms

total:	487ms