Гость
Целевая тема:
Создать новую тему:
Автор:
Форумы / Visual Basic [игнор отключен] [закрыт для гостей] / Overflow '6' ничего не понимаю / 11 сообщений из 11, страница 1 из 1
08.04.2011, 12:44
    #37206454
DUDALS
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Overflow '6' ничего не понимаю
Добрые люди помогите не свихнуться.
Имеется функция высчитывающая процент от целых чисел. При вычислении дает ошибку 6.
Проверяю данные в окне immediate где пишу:
...
Рейтинг: 0 / 0
08.04.2011, 13:03
    #37206509
Antonariy
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Overflow '6' ничего не понимаю
Ошибка в восьмой строке.
...
Рейтинг: 0 / 0
08.04.2011, 13:17
    #37206578
Shamanus
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Overflow '6' ничего не понимаю
DUDALSпомогите не свихнуться опоздали
...
Рейтинг: 0 / 0
08.04.2011, 15:13
    #37206848
DUDALS
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Overflow '6' ничего не понимаю
сори за свою связь.
пишу msgbox (234*100)/530 пишет ошибку. Что это, глюк?
...
Рейтинг: 0 / 0
08.04.2011, 15:20
    #37206873
Antonariy
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Overflow '6' ничего не понимаю
Не выдает ошибки.
...
Рейтинг: 0 / 0
08.04.2011, 22:13
    #37207560
Akina
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Overflow '6' ничего не понимаю
DUDALSсори за свою связь.
пишу msgbox (234*100)/530 пишет ошибку. Что это, глюк?
Правильно. Первым выполняется умножение. Оба операнда интерпретируются как Integer. Результат в Integer не лезет. Переполнение.
Вот варианты (не все, есссно), которые не дают переполнения:
Код: plaintext
1.
msgbox ( 234 # *  100 )/ 530  
msgbox ( 234 . * 100 )/ 530  
...
Рейтинг: 0 / 0
08.04.2011, 23:09
    #37207595
Shocker.Pro
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Overflow '6' ничего не понимаю
AkinaПравильно. Первым выполняется умножение. Оба операнда интерпретируются как Integer. Результат в Integer не лезет.
Кто здесь? (с)
ну-ка-ну-ка
и с каких это пор 23400 не лезет в Integer?
...
Рейтинг: 0 / 0
09.04.2011, 12:24
    #37207869
DUDALS
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Overflow '6' ничего не понимаю
Shocker.Pro,

самое интересное что мой результат String :-) скорее всего дядя Билл опять намутил :-)
...
Рейтинг: 0 / 0
09.04.2011, 12:53
    #37207904
VSVLAD
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Overflow '6' ничего не понимаю
DUDALS, в MsgBox - стринг, а при вычислении скобки Integer
...
Рейтинг: 0 / 0
09.04.2011, 16:06
    #37208053
Shocker.Pro
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Overflow '6' ничего не понимаю
DUDALSсамое интересное что мой результат String :-) скорее всего дядя Билл опять намутил :-)
используй явные преобразования типов и Option Explicit и у тебя не будет дурацких вопросов.
...
Рейтинг: 0 / 0
09.04.2011, 22:58
    #37208351
Akina
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Overflow '6' ничего не понимаю
Shocker.Proи с каких это пор 23400 не лезет в Integer?
Он привёл не тот код, на котором получает переполнение, а нашлёпал от фонаря. Я пояснил суть на данном материале безотносительно к значениям.
...
Рейтинг: 0 / 0
Форумы / Visual Basic [игнор отключен] [закрыт для гостей] / Overflow '6' ничего не понимаю / 11 сообщений из 11, страница 1 из 1
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]