|
Проблема с битовыми строками.
|
|||
---|---|---|---|
#18+
Коллеги, доброго дня. Вот проблемма у нас с битовыми строками. Помогите, кто может уже наступал на эти грабли. Есть массив битовых строк. Он реальный и выдран из живой бд. С этим массивом делаем битовые операции. И происходит ошибка <INVALID BIT STRING>getAND+4^Sample. Что характерно, если уменьшить длину битовой строки, то ошибка не происходит. Вот рутина воспроизводящая ошибку. Она есть и в архиве. В архиве и проблемный массив. Код: javascript 1. 2. 3. 4. 5. 6. 7. 8. 9. 10. 11. 12. 13. 14. 15. 16. 17. 18. 19. 20. 21. 22. 23. 24. 25. 26. 27. 28. 29. 30. 31. 32. 33. 34. 35. 36. 37. 38.
... |
|||
:
Нравится:
Не нравится:
|
|||
26.11.2012, 22:40 |
|
Проблема с битовыми строками.
|
|||
---|---|---|---|
#18+
больше всего мне в вашем примере не понравилось использование длины в логических операторах зачем вы умышленно увеличиваете количество элементов в битовом массиве длина битовых строк во операциях желательно должны быть одинакова в последнем элементе массива битов может быть меньше в вашем случае если вам понадобится сделать операцию Not, то у вас появятся не существующие элементы в массиве, которые выйдут за пределы существующих значений в общем ваша задача решается если, битов в операндах будет одно, либо вы откажитесь от указания длины ... |
|||
:
Нравится:
Не нравится:
|
|||
27.11.2012, 00:10 |
|
Проблема с битовыми строками.
|
|||
---|---|---|---|
#18+
SergeyMiВот проблемма у нас с битовыми строками. Помогите, кто может уже наступал на эти грабли. Код: javascript 1. 2. 3. 4.
Наступал. Пока проблема решается только ограничением числа бит в битовой строке 64000. Значения 196608 и другие больше чем 64000 это частные случаи, о причинах и более детально может ответить WRC. ... |
|||
:
Нравится:
Не нравится:
|
|||
27.11.2012, 00:17 |
|
Проблема с битовыми строками.
|
|||
---|---|---|---|
#18+
ну яНаступал. Пока проблема решается только ограничением числа бит в битовой строке 64000. Значения 196608 и другие больше чем 64000 это частные случаи, о причинах и более детально может ответить WRC. Спасибо, будем обращаться в WRC. ... |
|||
:
Нравится:
Не нравится:
|
|||
27.11.2012, 07:02 |
|
Проблема с битовыми строками.
|
|||
---|---|---|---|
#18+
ну яПока проблема решается только ограничением числа бит в битовой строке 64000 Ага, и битмап индексы хранятся как битовые строки по 64000. ... |
|||
:
Нравится:
Не нравится:
|
|||
27.11.2012, 10:19 |
|
Проблема с битовыми строками.
|
|||
---|---|---|---|
#18+
Всем спасибо за участие. Проблему решили уменьшением битовой строки до 64000. ... |
|||
:
Нравится:
Не нравится:
|
|||
28.11.2012, 16:51 |
|
|
start [/forum/topic.php?fid=39&msg=38054198&tid=1557282]: |
0ms |
get settings: |
10ms |
get forum list: |
15ms |
check forum access: |
3ms |
check topic access: |
3ms |
track hit: |
169ms |
get topic data: |
11ms |
get forum data: |
3ms |
get page messages: |
43ms |
get tp. blocked users: |
1ms |
others: | 240ms |
total: | 498ms |
0 / 0 |