Гость
Войти | Профиль | Очистить
Целевая тема:
Создать новую тему:
Автор:
Действия ...
Форумы / Visual Basic [игнор отключен] [закрыт для гостей] / Странно работает умножение / 8 сообщений из 8, страница 1 из 1
26.04.2011, 10:10
    #37233088
Runnur
Runnur
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Странно работает умножение
Всем привет!
Не пойму что происходит. Пишу на VB в AutoCAD. И такая штука, умножаю, например 200 на 200, помещаю результат в переменую с типом Long, а мне сообщает ошибку - Run-time error '6' Overflow, причем если умножаю 200000 на 200, то все нормально, без ошибки. Может кто-нибудь подсказать что это?
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
26.04.2011, 10:11
    #37233091
Shocker.Pro
Shocker.Pro
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Странно работает умножение
Если не вдаваться в подробности:

Код: plaintext
s = CLng(x) * CLng(y)
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
26.04.2011, 10:26
    #37233120
Runnur
Runnur
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Странно работает умножение
то есть явно делать преобразование в число?
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
26.04.2011, 10:32
    #37233139
Shocker.Pro
Shocker.Pro
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Странно работает умножение
Runnurто есть явно делать преобразование в число?
Явное преобразование в Long
Ты ж не приводишь код, остается только гадать.
По умолчанию 200 - это Integer.
Integer * Integer = Integer - переполнение
Либо надо явно объявлять тип переменной или константы, либо в выражении выполнить преобразование хотя бы одного операнда в Long
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
26.04.2011, 10:33
    #37233142
Shocker.Pro
Shocker.Pro
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Странно работает умножение
а 200000 - это Long по умолчанию
Long * Integer = Long - переполнения нет
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
26.04.2011, 11:18
    #37233246
Runnur
Runnur
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Странно работает умножение
Код, хотя бы вот такой

Код: plaintext
1.
2.
Dim i As Long
i =  200  *  200 
MsgBox (i)

но вообщем, понял, надо явно указывать тип.
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
26.04.2011, 11:59
    #37233376
Runnur
Runnur
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Странно работает умножение
Благодарю!
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
26.04.2011, 12:11
    #37233407
Shocker.Pro
Shocker.Pro
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Странно работает умножение
RunnurКод, хотя бы вот такой

Код: plaintext
1.
2.
Dim i As Long
i =  200  *  200 
MsgBox (i)

но вообщем, понял, надо явно указывать тип.

Ну это же не рабочий код, а пример. В рабочем коде будут использоваться переменные, надо просто явно объявлять их тип. А данный конкретный пример можно записать так:
Код: plaintext
1.
2.
Dim i As Long
i =  200 & *  200 &
MsgBox (i)
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
Форумы / Visual Basic [игнор отключен] [закрыт для гостей] / Странно работает умножение / 8 сообщений из 8, страница 1 из 1
Найденые пользователи ...
Разблокировать пользователей ...
Читали тему (0):
Читали форум (0):
Пользователи онлайн (0):
Польз. соглашение
созд. / загр.: 148ms
Закрыть
start [/forum/topic.php?fid=60&mobile=1&tid=2158764]:
 0ms
get settings:
 11ms
get forum list:
 14ms
check forum access:
 4ms
check topic access:
 4ms
track hit:
 36ms
get topic data:
 14ms
get forum data:
 3ms
get page messages:
 49ms
get tp. blocked users:
 2ms
others: 11ms
total:  148ms
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]