Гость
Войти | Профиль | Очистить
Целевая тема:
Создать новую тему:
Автор:
Действия ...
Форумы / Sybase ASA, ASE, IQ [игнор отключен] [закрыт для гостей] / ASE тип float(8) - потеря последней цифры... / 3 сообщений из 3, страница 1 из 1
16.08.2006, 10:03
    #33920610
DimaU
DimaU
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
ASE тип float(8) - потеря последней цифры...
Может кто сталкивался или подскажет, что делать?
Система работает на ASE, есть таблица с полем типа float(8), пользователь из программы вводит в это поле значение "95.3938885 6 "
Значение вносится так "95.3938885 599 ".
Причем, если вместо конечной "6" использовать любую другую 0..9 - все нормально...
Может быть такой глюк?

PS
прямой "Update set" тоже не может внести в поле такое значение

@@Version=
Adaptive Server Enterprise/12.0.0.4/P/SWR 9846 ROLLUP/NT (IX86)/OS 4.0/1777/32bit/OPT/Fri Nov 23 02:27:07 2001
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
16.08.2006, 13:39
    #33921570
Сергей Васкецов
Сергей Васкецов
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
ASE тип float(8) - потеря последней цифры...
Это не глюк. Это следствие выбора типа поля с плавающей точкой. Поле хранится с максимально возможной точностью, которую можно реализовать в вашем случае.
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
16.08.2006, 17:03
    #33922674
antand
antand
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
ASE тип float(8) - потеря последней цифры...
Я уж не знаю глюк это или нет,
но вот здесь весело провел время с ASA
http://www.sql.ru/forum/actualthread.aspx?tid=319694

Теперь стал более осмотрительнее в выборе типа данных и вычислениях
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
Форумы / Sybase ASA, ASE, IQ [игнор отключен] [закрыт для гостей] / ASE тип float(8) - потеря последней цифры... / 3 сообщений из 3, страница 1 из 1
Найденые пользователи ...
Разблокировать пользователей ...
Читали тему (0):
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]