|
|
|
Float в IB
|
|||
|---|---|---|---|
|
#18+
Вот в общем так... понадобилось мне использовать дроби, и заношу в табличку к примеру 1,01. Добавляю, открываю таблицу (шо таблицу, шо запрос) и вижу вместо 1,01 к примеру 1,0099999904687. И шо мнэ дЭлать с такой аброкадаброй? Если учесть что мне нужно точное значение дроби ... ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 29.10.2002, 09:33 |
|
||
|
Float в IB
|
|||
|---|---|---|---|
|
#18+
А какая версия ИБ? Меня это дело на 4.2 задолбало просто. Неужели Борланды так и ненаучились числа хранить. Я это обошел с помощью UDF на тригерах. Можешь сам написать можешь готовых поискать - их много. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 29.10.2002, 11:24 |
|
||
|
Float в IB
|
|||
|---|---|---|---|
|
#18+
Привет. Попробуй использовать DOUBLE PRECISSION или NUMERIC/DECIMAL с большой разрядностью. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 29.10.2002, 12:42 |
|
||
|
Float в IB
|
|||
|---|---|---|---|
|
#18+
http://www.delphikingdom.com/helloworld/reals.htm ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 29.10.2002, 14:11 |
|
||
|
Float в IB
|
|||
|---|---|---|---|
|
#18+
Спасиб, интересная ссылка. Хоть и математик, а интересно было почитать. Учитывая такой подход, что мне делать? Просто округлять числа до необходимого кол-ва знаков? Если учесть что это стоимость некоторой продукции, исчисляемой миллионами, могу схлопотать и погрешность при расчете? Весело. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.10.2002, 07:53 |
|
||
|
Float в IB
|
|||
|---|---|---|---|
|
#18+
2alex_v Интересно, а в Борланде есть такая информация. Если есть, то ее наверняка они еене читали. 8-) Так как подобные проблемы я слышал (и решал) только у IB. 2Dragon > Просто округлять числа до необходимого кол-ва знаков? Если учесть что это стоимость некоторой продукции, исчисляемой миллионами, могу схлопотать и погрешность при расчете? Весело. ИМХО, погрешность получишь если НЕ округлять. Да и миллионам это не грозит, только копейкам. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.10.2002, 11:36 |
|
||
|
Float в IB
|
|||
|---|---|---|---|
|
#18+
Я для хранения денежных величин использую NUMERIC(15,2). А от ошибок округления в 1 копейку никуда не уйдешь. Тут приходится строить алгоритмы таким образом, чтобы ошибка не накапливалась. Кстати в банковском ПО деньги хранятся с точностью до сотых копейки. Т.е. NUMERIC(*,4). Поэтому накопление погрешности идет в 4м знаке и при округлении не превышает одну копейку. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.11.2002, 08:41 |
|
||
|
|
start [/forum/topic.php?fid=40&msg=32062943&tid=1581103]: |
0ms |
get settings: |
8ms |
get forum list: |
11ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
32ms |
get topic data: |
9ms |
get forum data: |
2ms |
get page messages: |
43ms |
get tp. blocked users: |
1ms |
| others: | 10ms |
| total: | 124ms |
| 0 / 0 |
