|
|
|
Погрешность при работе с SQL Server + ADO
|
|||
|---|---|---|---|
|
#18+
Здравствуйте! При работе с SQL Server через ADO (Delphi 5) появляется погрешность в 17-м знаке после запятой, например, при посте числа 2.5 на сервере получаем 2.50000000000000001. Не подскажите, в чем дело? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 28.06.2002, 19:28:48 |
|
||
|
Погрешность при работе с SQL Server + ADO
|
|||
|---|---|---|---|
|
#18+
А какой тип Вы используете? Если float, то ничем помочь нельзя. Что там будет в конце - чистая лотерея. Симптомы, но не болезнь, лечится только функцией round. Всегда старайтесь использовать numeric. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 28.06.2002, 20:57:00 |
|
||
|
Погрешность при работе с SQL Server + ADO
|
|||
|---|---|---|---|
|
#18+
Т.к. даже для real максимальное количество знаков после запятой равно 15, то какие-либо цифры после 15-го знака являются "самодеятельностью" клиентской программы. Query Analyzer, например, этим тоже "грешит". ЗЫ Это вовсе не отменяет всего, что сказал выше Cat2 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 28.06.2002, 21:09:01 |
|
||
|
Погрешность при работе с SQL Server + ADO
|
|||
|---|---|---|---|
|
#18+
2Glory Скачал на днях sqldat.chm. Спасибо Вам ещё раз! (мало кого так уважаю :))))))))) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 28.06.2002, 23:14:42 |
|
||
|
Погрешность при работе с SQL Server + ADO
|
|||
|---|---|---|---|
|
#18+
А не будет ли эта погрешность накапливаться? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 29.06.2002, 15:45:17 |
|
||
|
Погрешность при работе с SQL Server + ADO
|
|||
|---|---|---|---|
|
#18+
Накапливаться где ? В таблице ? Ну так ведь там максимально физически только 15 мест. В приложении ? Может, но опять же в таблицу все, что старше 15 знака, не занесется. И где собственно вы собираетесь производить вычисления ? В процедуре - это одно, на клиенте - это другое. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.06.2002, 13:12:04 |
|
||
|
Погрешность при работе с SQL Server + ADO
|
|||
|---|---|---|---|
|
#18+
То есть лишних знаков, которые выдает Query Analyzer, на самом деле нет, я правильно понимаю? И ошибка - в самом QryAnalyzer'е, а данные передались правильно? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.07.2002, 20:31:53 |
|
||
|
Погрешность при работе с SQL Server + ADO
|
|||
|---|---|---|---|
|
#18+
А если выделить под мантиссу больше бит? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.07.2002, 20:36:01 |
|
||
|
Погрешность при работе с SQL Server + ADO
|
|||
|---|---|---|---|
|
#18+
Надо перейти к типу decimal вместо float, там можно задавать такие вещи. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.07.2002, 20:38:10 |
|
||
|
|
start [/forum/topic.php?fid=46&msg=32034355&tid=1822079]: |
0ms |
get settings: |
9ms |
get forum list: |
18ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
55ms |
get topic data: |
12ms |
get forum data: |
3ms |
get page messages: |
69ms |
get tp. blocked users: |
2ms |
| others: | 209ms |
| total: | 385ms |
| 0 / 0 |
