|
Действия ...
|
28.06.2002, 20:57:00
|
|||
|---|---|---|---|
|
|||
Погрешность при работе с SQL Server + ADO |
|||
|
|
|
01.07.2002, 20:38:10
|
|||
|---|---|---|---|
|
|||
Погрешность при работе с SQL Server + ADO |
|||
|
|
Новые сообщения [новые:0]
Дайджест
Горячие темы
Избранное [новые:0]
Форумы
Пользователи
Статистика
Статистика нагрузки
Мод. лог
Поиск
|
|
28.06.2002, 19:28:48
|
|||
|---|---|---|---|
|
|||
Погрешность при работе с SQL Server + ADO |
|||
|
#18+
Здравствуйте! При работе с SQL Server через ADO (Delphi 5) появляется погрешность в 17-м знаке после запятой, например, при посте числа 2.5 на сервере получаем 2.50000000000000001. Не подскажите, в чем дело? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
28.06.2002, 20:57:00
|
|||
|---|---|---|---|
Погрешность при работе с SQL Server + ADO |
|||
|
#18+
А какой тип Вы используете? Если float, то ничем помочь нельзя. Что там будет в конце - чистая лотерея. Симптомы, но не болезнь, лечится только функцией round. Всегда старайтесь использовать numeric. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
28.06.2002, 21:09:01
|
|||
|---|---|---|---|
Погрешность при работе с SQL Server + ADO |
|||
|
#18+
Т.к. даже для real максимальное количество знаков после запятой равно 15, то какие-либо цифры после 15-го знака являются "самодеятельностью" клиентской программы. Query Analyzer, например, этим тоже "грешит". ЗЫ Это вовсе не отменяет всего, что сказал выше Cat2 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
28.06.2002, 23:14:42
|
|||
|---|---|---|---|
Погрешность при работе с SQL Server + ADO |
|||
|
#18+
2Glory Скачал на днях sqldat.chm. Спасибо Вам ещё раз! (мало кого так уважаю :))))))))) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
29.06.2002, 15:45:17
|
|||
|---|---|---|---|
|
|||
Погрешность при работе с SQL Server + ADO |
|||
|
#18+
А не будет ли эта погрешность накапливаться? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
30.06.2002, 13:12:04
|
|||
|---|---|---|---|
Погрешность при работе с SQL Server + ADO |
|||
|
#18+
Накапливаться где ? В таблице ? Ну так ведь там максимально физически только 15 мест. В приложении ? Может, но опять же в таблицу все, что старше 15 знака, не занесется. И где собственно вы собираетесь производить вычисления ? В процедуре - это одно, на клиенте - это другое. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
01.07.2002, 20:31:53
|
|||
|---|---|---|---|
|
|||
Погрешность при работе с SQL Server + ADO |
|||
|
#18+
То есть лишних знаков, которые выдает Query Analyzer, на самом деле нет, я правильно понимаю? И ошибка - в самом QryAnalyzer'е, а данные передались правильно? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
01.07.2002, 20:36:01
|
|||
|---|---|---|---|
|
|||
Погрешность при работе с SQL Server + ADO |
|||
|
#18+
А если выделить под мантиссу больше бит? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
01.07.2002, 20:38:10
|
|||
|---|---|---|---|
Погрешность при работе с SQL Server + ADO |
|||
|
#18+
Надо перейти к типу decimal вместо float, там можно задавать такие вещи. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
start [/forum/topic.php?fid=46&mobile=1&tid=1822079]: |
0ms |
get settings: |
9ms |
get forum list: |
16ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
70ms |
get topic data: |
11ms |
get forum data: |
3ms |
get page messages: |
44ms |
get tp. blocked users: |
1ms |
| others: | 268ms |
| total: | 430ms |
| 0 / 0 |
