Функция integer / PowerBuilder

ReSQL.ru

Мобильная версия Контакт Правила FAQ Помощь

Гость

Войти | Регистрация | Профиль | Очистить

Новые сообщения | Избранное

Форумы | Пользователи | Статистика | Мод. лог | Поиск

Цитировать

Написать

Автор*:

Ввести пароль для входа

Тема*:

Сообщение

Данное сообщение тематическое

Сообщение содержит картинки или видео 18+

Автор:

ВНИМАНИЕ! На данном подфоруме действуют строгие правила. Удостоверьтесь, что ваше сообщение соответствует им!

Форум или тема закрыты для гостей. Необходима авторизация!

Загрузить последнюю сохраненную версию

Вложение:

Вставить как галерею

Максимальный размер вложений: 4,0 МБ, аудио/видео: 8,0 МБ. Картинки большего размера ужимаются, если возможно.

Введите код, изображенный на картинке. Если код нечитаемый, кликните картинку, чтобы загрузить другой вариант.

Отправляя сообщение, я выражаю свое согласие с правилами форума и принимаю пользовательское соглашение.

Доб. в избранное | Игнор. тему | Прикреп. тему | Пометить прочит. / непрочит. | Фильтр

Форумы / PowerBuilder [игнор отключен] [закрыт для гостей] / Функция integer

9 сообщений из 9, страница 1 из 1

Функция integer

#35961843

dakota97

Гость

Если передавать большие числа в функцию integer то она не правильно отрабатывает. если передавать '444444123456' то возвращается 8512. Кто нить сталкивался?

...

Рейтинг:

0 / 0

29.04.2009, 18:46

| Ответить | Цитировать | Написать

Функция integer

#35961865

Филипп

Участник

Откуда: Boston, MA, USA (c 1989 ) б. Москва

Сообщения: 1 887

Рейтинг: 0 / 0

А кто нить (то бишь вы) документацию по СТАНДАРТНЫМ типам данных читал???

...

Рейтинг:

0 / 0

29.04.2009, 18:53

| Ответить | Цитировать | Написать

Функция integer

#35962133

spas2001

Участник

Откуда: Тамбов--->Москва-->Тамбов-->Москва-->Тамбов

Сообщения: 1 789

Рейтинг: 0 / 0

ФилиппА кто нить (то бишь вы) документацию по СТАНДАРТНЫМ типам данных читал???
+1024

...

Рейтинг:

0 / 0

29.04.2009, 22:24

| Ответить | Цитировать | Написать

Функция integer

#35962138

dakota97

Гость

да это понятно что в int можно записать только от - до +32768
вот мне и надо понять входит ли введенное число в этот интервал или нет. С помощью integer() что то не получается!

...

Рейтинг:

0 / 0

29.04.2009, 22:33

| Ответить | Цитировать | Написать

Функция integer

#35962214

Anatoly Moskovsky

Участник

Откуда: Odessa

Сообщения: 6 713

Рейтинг: 0 / 0

dakota97да это понятно что в int можно записать только от - до +32768
вот мне и надо понять входит ли введенное число в этот интервал или нет. С помощью integer() что то не получается!
В данном случае вам нужна ф-я Dec(), т.к. число превышает размер int и long

...

Рейтинг:

0 / 0

29.04.2009, 23:17

| Ответить | Цитировать | Написать

Функция integer

#35962278

dakota97

Гость

Anatoly Moskovsky, dec(большое число)<32700 я пробовал он тоже не всегда отрабатывает.

бывает что isnumber(большое число)=true
а вот потом dec(большое число)<32700 and dec(большое число)>-32700 на гигантских числах не отрабатыват правильно. А пользователь может понавводить любых чисел!(он их через зпт вводит)
Други, как быть?:)

...

Рейтинг:

0 / 0

30.04.2009, 00:07

| Ответить | Цитировать | Написать

Функция integer

#35962288

Anatoly Moskovsky

Участник

Откуда: Odessa

Сообщения: 6 713

Рейтинг: 0 / 0

dakota97dec(большое число)<32700 я пробовал он тоже не всегда отрабатывает.

бывает что isnumber(большое число)=true
а вот потом dec(большое число)<32700 and dec(большое число)>-32700 на гигантских числах не отрабатыват правильно.
Ну так у Dec тоже есть ограничения по размеру. Пробуйте longlong (< 2^64). Если допустима погрешность в младших цифрах - используйте double.
В PB нету типов кроме строки в которых можно было бы хранить число с произвольным кол. цифр без потери точности.

Вообще если вам только проверить на вместимость в Int, то сначала проверяйте длину строки. Если > 6 цифр (со знаком) - то отбрасывайте без перевода в число. А дальше используйте перевод в Long.

...

Рейтинг:

0 / 0

30.04.2009, 00:20

| Ответить | Цитировать | Написать

Функция integer

#35962574

Dmitry..

Гость

Код: plaintext

1.
2.
3.
4.
5.

double d=....

if integer(d)<>d then

end if

...

Рейтинг:

0 / 0

30.04.2009, 09:17

| Ответить | Цитировать | Написать

Функция integer

#35962631

dakota97

Гость

понятно
всем спасибо

...

Рейтинг:

0 / 0

30.04.2009, 09:40

| Ответить | Цитировать | Написать

9 сообщений из 9, страница 1 из 1

Форумы / PowerBuilder [игнор отключен] [закрыт для гостей] / Функция integer

Читали тему (0):

Читали форум (0):

Пользователи онлайн (0):

start [/forum/topic.php?fid=15&msg=35962288&tid=1336295]:	0ms
get settings:	9ms
get forum list:	13ms
check forum access:	3ms
check topic access:	3ms
track hit:	150ms
get topic data:	10ms
get forum data:	2ms
get page messages:	43ms
get tp. blocked users:	1ms
others:	14ms

total:	248ms