|
|
|
Функция integer
|
|||
|---|---|---|---|
|
#18+
Если передавать большие числа в функцию integer то она не правильно отрабатывает. если передавать '444444123456' то возвращается 8512. Кто нить сталкивался? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 29.04.2009, 18:46 |
|
||
|
Функция integer
|
|||
|---|---|---|---|
|
#18+
А кто нить (то бишь вы) документацию по СТАНДАРТНЫМ типам данных читал??? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 29.04.2009, 18:53 |
|
||
|
Функция integer
|
|||
|---|---|---|---|
|
#18+
ФилиппА кто нить (то бишь вы) документацию по СТАНДАРТНЫМ типам данных читал??? +1024 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 29.04.2009, 22:24 |
|
||
|
Функция integer
|
|||
|---|---|---|---|
|
#18+
да это понятно что в int можно записать только от - до +32768 вот мне и надо понять входит ли введенное число в этот интервал или нет. С помощью integer() что то не получается! ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 29.04.2009, 22:33 |
|
||
|
Функция integer
|
|||
|---|---|---|---|
|
#18+
dakota97да это понятно что в int можно записать только от - до +32768 вот мне и надо понять входит ли введенное число в этот интервал или нет. С помощью integer() что то не получается! В данном случае вам нужна ф-я Dec(), т.к. число превышает размер int и long ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 29.04.2009, 23:17 |
|
||
|
Функция integer
|
|||
|---|---|---|---|
|
#18+
Anatoly Moskovsky, dec(большое число)<32700 я пробовал он тоже не всегда отрабатывает. бывает что isnumber(большое число)=true а вот потом dec(большое число)<32700 and dec(большое число)>-32700 на гигантских числах не отрабатыват правильно. А пользователь может понавводить любых чисел!(он их через зпт вводит) Други, как быть?:) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.04.2009, 00:07 |
|
||
|
Функция integer
|
|||
|---|---|---|---|
|
#18+
dakota97dec(большое число)<32700 я пробовал он тоже не всегда отрабатывает. бывает что isnumber(большое число)=true а вот потом dec(большое число)<32700 and dec(большое число)>-32700 на гигантских числах не отрабатыват правильно. Ну так у Dec тоже есть ограничения по размеру. Пробуйте longlong (< 2^64). Если допустима погрешность в младших цифрах - используйте double. В PB нету типов кроме строки в которых можно было бы хранить число с произвольным кол. цифр без потери точности. Вообще если вам только проверить на вместимость в Int, то сначала проверяйте длину строки. Если > 6 цифр (со знаком) - то отбрасывайте без перевода в число. А дальше используйте перевод в Long. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.04.2009, 00:20 |
|
||
|
Функция integer
|
|||
|---|---|---|---|
|
#18+
dakota97да это понятно что в int можно записать только от - до +32768 вот мне и надо понять входит ли введенное число в этот интервал или нет. С помощью integer() что то не получается! если надо проверить, Код: plaintext 1. 2. 3. 4. 5. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.04.2009, 09:17 |
|
||
|
|
start [/forum/topic.php?fid=15&msg=35961843&tid=1336295]: |
0ms |
get settings: |
7ms |
get forum list: |
12ms |
check forum access: |
3ms |
check topic access: |
3ms |
track hit: |
77ms |
get topic data: |
11ms |
get forum data: |
2ms |
get page messages: |
46ms |
get tp. blocked users: |
2ms |
| others: | 329ms |
| total: | 492ms |
| 0 / 0 |
