Гость
Целевая тема:
Создать новую тему:
Автор:
Форумы / Microsoft Office [игнор отключен] [закрыт для гостей] / округление чисел / приведение типов / 5 сообщений из 5, страница 1 из 1
20.02.2012, 15:03
    #37670480
qwe1048576
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
округление чисел / приведение типов
кусок макроса

s180.Cells(x, y) = s180.Cells(x, y) + CSng(sh.Cells(k, 89))

Число в ячейке sh.Cells(k, 89) - строка вида хххх.хх, формат ячейки s180.Cells(x, y) - числовой, 2 знака после точки
в ячейке sh.Cells(k, 89) поочередно идут числа: 2531.00 460.00 990.09

После третьего прохода формулы получаем в качестве результата 3981.09002685546 вместо 3981.09
...
Рейтинг: 0 / 0
20.02.2012, 15:04
    #37670483
Akina
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
округление чисел / приведение типов
Оберните всё в Round()
...
Рейтинг: 0 / 0
20.02.2012, 15:06
    #37670484
qwe1048576
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
округление чисел / приведение типов
и точно, загнался совсем, спасибо
...
Рейтинг: 0 / 0
20.02.2012, 15:12
    #37670494
qwe1048576
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
округление чисел / приведение типов
поспешил с ответом, проблема та же, получается то же самое число...
...
Рейтинг: 0 / 0
20.02.2012, 15:20
    #37670523
Akina
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
округление чисел / приведение типов
Поставить 1) формат - 2 цифры после точки 2) точность - как на экране.
И читать про хранение десятичных в двоичном.
...
Рейтинг: 0 / 0
Форумы / Microsoft Office [игнор отключен] [закрыт для гостей] / округление чисел / приведение типов / 5 сообщений из 5, страница 1 из 1
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]