|
С точностью до какого знака в дробной части ФБ пишет в rdb$statistics ?
|
|||
---|---|---|---|
#18+
hi all Заполняю таблицу уникальными ИДшниками, от 0 до 299 (т.е. всего их 300): Код: plaintext 1. 2. 3. 4. 5. 6. 7. 8. 9. 10. 11. 12. 13. 14. 15. 16. 17. 18. 19.
На виндузе (32-разрядная сборка) это выдаст (что в 2.5.5, что в 3.0): Код: plaintext 1.
На linux-64 первое число будет 0.00333333341404795 6 . В любом случае, враньё начинается с 10-го знака после десятичной точки. Это так и должно быть ? ... |
|||
:
Нравится:
Не нравится:
|
|||
13.06.2015, 01:29 |
|
С точностью до какого знака в дробной части ФБ пишет в rdb$statistics ?
|
|||
---|---|---|---|
#18+
ты на тип поля RDB$STATISTICS смотрел? У тебя все еще есть вопросы про 10-й знак после запятой? ... |
|||
:
Нравится:
Не нравится:
|
|||
13.06.2015, 09:52 |
|
С точностью до какого знака в дробной части ФБ пишет в rdb$statistics ?
|
|||
---|---|---|---|
#18+
dimitrты на тип поля RDB$STATISTICS смотрел? У тебя все еще есть вопросы про 10-й знак после запятой?Оно имеет тип = double precision. Вопрос про точность остаётся: каким образом в значение статистики пишется хз что, когда должно было вробе бы записаться вот это: Код: plaintext 1. 2. 3. 4. 5. 6. 7.
ЗЫ. Не, я помню, конечно, что в диалекте-1 поля, объявленные как numeric(N, d), где d > 9, будут храниться как double precision, а не в виде фиксированной точки. Но больше что-то никаких идей насчёт этой "магии числа 10". ... |
|||
:
Нравится:
Не нравится:
|
|||
14.06.2015, 00:02 |
|
С точностью до какого знака в дробной части ФБ пишет в rdb$statistics ?
|
|||
---|---|---|---|
#18+
Шо-то мне подсказывает, что дело в isql, а именно в том, как он отображает такие числа. ... |
|||
:
Нравится:
Не нравится:
|
|||
14.06.2015, 04:53 |
|
С точностью до какого знака в дробной части ФБ пишет в rdb$statistics ?
|
|||
---|---|---|---|
#18+
насколько помню, внутрях оно считается как FLOAT ... |
|||
:
Нравится:
Не нравится:
|
|||
14.06.2015, 10:09 |
|
С точностью до какого знака в дробной части ФБ пишет в rdb$statistics ?
|
|||
---|---|---|---|
#18+
dimitrвнутрях оно считается как FLOATА ведь так и есть :-) Код: plaintext 1. 2. 3. 4. 5. 6. 7. 8. 9. 10.
Зачем так было сделано ? И может ли этот мусор после 10-го знака сыграть злую рояль при построении оптимизатором плана для запроса с большими таблицами ? ... |
|||
:
Нравится:
Не нравится:
|
|||
14.06.2015, 10:45 |
|
С точностью до какого знака в дробной части ФБ пишет в rdb$statistics ?
|
|||
---|---|---|---|
#18+
ТаблоидЗачем так было сделано ? И может ли этот мусор после 10-го знака сыграть злую рояль при построении оптимизатором плана для запроса с большими таблицами ? ХЗ зачем, скорее всего просто забили болт на точность. Насчет планов - не думаю, что это может сыграть плохую роль при современных размерах баз. ... |
|||
:
Нравится:
Не нравится:
|
|||
14.06.2015, 11:10 |
|
|
start [/forum/topic.php?fid=40&fpage=75&tid=1562778]: |
0ms |
get settings: |
8ms |
get forum list: |
16ms |
check forum access: |
3ms |
check topic access: |
3ms |
track hit: |
31ms |
get topic data: |
22ms |
get forum data: |
2ms |
get page messages: |
43ms |
get tp. blocked users: |
1ms |
others: | 280ms |
total: | 409ms |
0 / 0 |