Странно работает умножение / Visual Basic

ReSQL.ru

Мобильная версия Контакт Правила FAQ Помощь

Гость

Войти | Регистрация | Профиль | Очистить

Новые сообщения | Избранное

Форумы | Пользователи | Статистика | Мод. лог | Поиск

Цитировать

Написать

Автор*:

Ввести пароль для входа

Тема*:

Сообщение

Данное сообщение тематическое

Сообщение содержит картинки или видео 18+

Автор:

ВНИМАНИЕ! На данном подфоруме действуют строгие правила. Удостоверьтесь, что ваше сообщение соответствует им!

Форум или тема закрыты для гостей. Необходима авторизация!

Загрузить последнюю сохраненную версию

Вложение:

Вставить как галерею

Максимальный размер вложений: 4,0 МБ, аудио/видео: 8,0 МБ. Картинки большего размера ужимаются, если возможно.

Введите код, изображенный на картинке. Если код нечитаемый, кликните картинку, чтобы загрузить другой вариант.

Отправляя сообщение, я выражаю свое согласие с правилами форума и принимаю пользовательское соглашение.

Доб. в избранное | Игнор. тему | Прикреп. тему | Пометить прочит. / непрочит. | Фильтр

Форумы / Visual Basic [игнор отключен] [закрыт для гостей] / Странно работает умножение

8 сообщений из 8, страница 1 из 1

Странно работает умножение

#37233088

Runnur

Участник

Сообщения: 49

Рейтинг: 0 / 0

Всем привет!
Не пойму что происходит. Пишу на VB в AutoCAD. И такая штука, умножаю, например 200 на 200, помещаю результат в переменую с типом Long, а мне сообщает ошибку - Run-time error '6' Overflow, причем если умножаю 200000 на 200, то все нормально, без ошибки. Может кто-нибудь подсказать что это?

...

Рейтинг:

0 / 0

26.04.2011, 10:10

| Ответить | Цитировать | Написать

Странно работает умножение

#37233091

Shocker.Pro

Участник

Откуда: ->|<- :адуктО

Сообщения: 23 134

Рейтинг: 0 / 0

Если не вдаваться в подробности:

Код: plaintext

s = CLng(x) * CLng(y)

...

Рейтинг:

0 / 0

26.04.2011, 10:11

| Ответить | Цитировать | Написать

Странно работает умножение

#37233120

Runnur

Участник

Сообщения: 49

Рейтинг: 0 / 0

то есть явно делать преобразование в число?

...

Рейтинг:

0 / 0

26.04.2011, 10:26

| Ответить | Цитировать | Написать

Странно работает умножение

#37233139

Shocker.Pro

Участник

Откуда: ->|<- :адуктО

Сообщения: 23 134

Рейтинг: 0 / 0

Runnurто есть явно делать преобразование в число?
Явное преобразование в Long
Ты ж не приводишь код, остается только гадать.
По умолчанию 200 - это Integer.
Integer * Integer = Integer - переполнение
Либо надо явно объявлять тип переменной или константы, либо в выражении выполнить преобразование хотя бы одного операнда в Long

...

Рейтинг:

0 / 0

26.04.2011, 10:32

| Ответить | Цитировать | Написать

Странно работает умножение

#37233142

Shocker.Pro

Участник

Откуда: ->|<- :адуктО

Сообщения: 23 134

Рейтинг: 0 / 0

а 200000 - это Long по умолчанию
Long * Integer = Long - переполнения нет

...

Рейтинг:

0 / 0

26.04.2011, 10:33

| Ответить | Цитировать | Написать

Странно работает умножение

#37233246

Runnur

Участник

Сообщения: 49

Рейтинг: 0 / 0

Код, хотя бы вот такой

Код: plaintext

1.
2.

Dim i As Long
i =  200  *  200 
MsgBox (i)

но вообщем, понял, надо явно указывать тип.

...

Рейтинг:

0 / 0

26.04.2011, 11:18

| Ответить | Цитировать | Написать

Странно работает умножение

#37233376

Runnur

Участник

Сообщения: 49

Рейтинг: 0 / 0

Благодарю!

...

Рейтинг:

0 / 0

26.04.2011, 11:59

| Ответить | Цитировать | Написать

Странно работает умножение

#37233407

Shocker.Pro

Участник

Откуда: ->|<- :адуктО

Сообщения: 23 134

Рейтинг: 0 / 0

RunnurКод, хотя бы вот такой

Код: plaintext

1.
2.

Dim i As Long
i =  200  *  200 
MsgBox (i)

но вообщем, понял, надо явно указывать тип.

Ну это же не рабочий код, а пример. В рабочем коде будут использоваться переменные, надо просто явно объявлять их тип. А данный конкретный пример можно записать так:

Код: plaintext

1.
2.

Dim i As Long
i =  200 & *  200 &
MsgBox (i)

...

Рейтинг:

0 / 0

26.04.2011, 12:11

| Ответить | Цитировать | Написать

8 сообщений из 8, страница 1 из 1

Форумы / Visual Basic [игнор отключен] [закрыт для гостей] / Странно работает умножение

Читали тему (0):

Читали форум (0):

Пользователи онлайн (0):

start [/forum/topic.php?fid=60&fpage=103&tid=2158764]:	0ms
get settings:	8ms
get forum list:	13ms
check forum access:	3ms
check topic access:	3ms
track hit:	153ms
get topic data:	11ms
get forum data:	3ms
get page messages:	46ms
get tp. blocked users:	1ms
others:	13ms

total:	254ms