ReSQL.ru
     
powered by simpleCommunicator - 2.0.55     © 2025 Programmizd 02
Мобильная версия    Контакт    Правила    FAQ    Помощь
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Доб. в избранное | Игнор. тему | Прикреп. тему | Пометить прочит. / непрочит. | Фильтр
Форумы / Visual Basic [игнор отключен] [закрыт для гостей] / Overflow '6' ничего не понимаю
11 сообщений из 11, страница 1 из 1
Overflow '6' ничего не понимаю
    #37206454
DUDALS
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
DUDALS
Участник
Добрые люди помогите не свихнуться.
Имеется функция высчитывающая процент от целых чисел. При вычислении дает ошибку 6.
Проверяю данные в окне immediate где пишу:
...
Рейтинг: 0 / 0
08.04.2011, 12:44
| Ответить | Цитировать | Написать  
Overflow '6' ничего не понимаю
    #37206509
Фотография Antonariy
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Antonariy
Участник
Ошибка в восьмой строке.
...
Рейтинг: 0 / 0
08.04.2011, 13:03
| Ответить | Цитировать | Написать  
Overflow '6' ничего не понимаю
    #37206578
Фотография Shamanus
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Shamanus
Участник
DUDALSпомогите не свихнуться опоздали
...
Рейтинг: 0 / 0
08.04.2011, 13:17
| Ответить | Цитировать | Написать  
Overflow '6' ничего не понимаю
    #37206848
DUDALS
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
DUDALS
Участник
сори за свою связь.
пишу msgbox (234*100)/530 пишет ошибку. Что это, глюк?
...
Рейтинг: 0 / 0
08.04.2011, 15:13
| Ответить | Цитировать | Написать  
Overflow '6' ничего не понимаю
    #37206873
Фотография Antonariy
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Antonariy
Участник
Не выдает ошибки.
...
Рейтинг: 0 / 0
08.04.2011, 15:20
| Ответить | Цитировать | Написать  
Overflow '6' ничего не понимаю
    #37207560
Фотография Akina
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Akina
Участник
DUDALSсори за свою связь.
пишу msgbox (234*100)/530 пишет ошибку. Что это, глюк?
Правильно. Первым выполняется умножение. Оба операнда интерпретируются как Integer. Результат в Integer не лезет. Переполнение.
Вот варианты (не все, есссно), которые не дают переполнения:
Код: plaintext
1.
msgbox ( 234 # *  100 )/ 530  
msgbox ( 234 . * 100 )/ 530
...
Рейтинг: 0 / 0
08.04.2011, 22:13
| Ответить | Цитировать | Написать  
Overflow '6' ничего не понимаю
    #37207595
Фотография Shocker.Pro
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Shocker.Pro
Участник
AkinaПравильно. Первым выполняется умножение. Оба операнда интерпретируются как Integer. Результат в Integer не лезет.
Кто здесь? (с)
ну-ка-ну-ка
и с каких это пор 23400 не лезет в Integer?
...
Рейтинг: 0 / 0
08.04.2011, 23:09
| Ответить | Цитировать | Написать  
Overflow '6' ничего не понимаю
    #37207869
DUDALS
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
DUDALS
Участник
Shocker.Pro,

самое интересное что мой результат String :-) скорее всего дядя Билл опять намутил :-)
...
Рейтинг: 0 / 0
09.04.2011, 12:24
| Ответить | Цитировать | Написать  
Overflow '6' ничего не понимаю
    #37207904
Фотография VSVLAD
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
VSVLAD
Участник
DUDALS, в MsgBox - стринг, а при вычислении скобки Integer
...
Рейтинг: 0 / 0
09.04.2011, 12:53
| Ответить | Цитировать | Написать  
Overflow '6' ничего не понимаю
    #37208053
Фотография Shocker.Pro
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Shocker.Pro
Участник
DUDALSсамое интересное что мой результат String :-) скорее всего дядя Билл опять намутил :-)
используй явные преобразования типов и Option Explicit и у тебя не будет дурацких вопросов.
...
Рейтинг: 0 / 0
09.04.2011, 16:06
| Ответить | Цитировать | Написать  
Overflow '6' ничего не понимаю
    #37208351
Фотография Akina
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Akina
Участник
Shocker.Proи с каких это пор 23400 не лезет в Integer?
Он привёл не тот код, на котором получает переполнение, а нашлёпал от фонаря. Я пояснил суть на данном материале безотносительно к значениям.
...
Рейтинг: 0 / 0
09.04.2011, 22:58
| Ответить | Цитировать | Написать  
11 сообщений из 11, страница 1 из 1
Форумы / Visual Basic [игнор отключен] [закрыт для гостей] / Overflow '6' ничего не понимаю
Найденые пользователи ...
Разблокировать пользователей ...
Читали тему (0):
Читали форум (0):
Пользователи онлайн (0):
Польз. соглашение
NoSQL.ru       Новости, Чат       Фотоальбом: Участники, Встречи
Закрыть
start [/forum/topic.php?fid=60&fpage=104&tid=2158813]:
 0ms
get settings:
 8ms
get forum list:
 17ms
check forum access:
 3ms
check topic access:
 3ms
track hit:
 34ms
get topic data:
 11ms
get forum data:
 2ms
get page messages:
 63ms
get tp. blocked users:
 3ms
others: 347ms
total:  491ms
созд. / загр.: 491ms
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]