Гость
Целевая тема:
Создать новую тему:
Автор:
Форумы / Visual Basic [игнор отключен] [закрыт для гостей] / Округление... / 7 сообщений из 7, страница 1 из 1
23.01.2004, 13:09
    #32386084
AloneWarlock
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Округление...
Мне интересно чем глобально отличается Round() от FormatNumeric()? Кроме того что
Round((1.125,2) =1.12
FormatNumeric(1.125,2)=1.13
Я не понял где глюк, и чего бояться
...
Рейтинг: 0 / 0
23.01.2004, 13:13
    #32386096
AloneWarlock
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Округление...
Sorry, not FormatNumeric but FormatNumber
...
Рейтинг: 0 / 0
23.01.2004, 13:57
    #32386176
novss
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Округление...
Насколько я знаю Round - это реальное округление, т.е. Round((1.125,2) =1.12
это по сути обрезание лишних знаков,
1.125 - Round((1.125,2) = 0.005

Тогда как FormatNumber, это всего лишь визуальное сокрытие лишних десятичных знаков?
1.125 - FormatNumber(1.125,2) = 0

Вот. Хотя странно, чего это Round округлил число с 5-ой на конце в меньшую сторону, по-моему должен в большую, до 1,13

Best Regards
...
Рейтинг: 0 / 0
23.01.2004, 14:16
    #32386212
Hibernate
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Округление...
это уже много раз обсуждалось - просто Microsoft реализовала алгоритм округления цыфры 5 немножко не такой (после четных 5 отбрасываем, нечетные округляем в большую сторону) , какому нас учили в школе (5 всегда округляем в большую сторону). Какой из них правильнее - вопрос спорный.
Другой вопрос, что в разных продуктах, и по-моему, в разных версиях одного продукта функция округления работает по-разным алгоритмам - тут я могу ошибаться - просто где-то на форумах это слышал)
...
Рейтинг: 0 / 0
23.01.2004, 14:30
    #32386244
AloneWarlock
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Округление...
Т.е. видимо лучше делать так - s = Round(FormatNumber(1.125, 2), 2)
...
Рейтинг: 0 / 0
23.01.2004, 15:09
    #32386324
novss
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Округление...
Смотря чего вы хотите добится. Конкретизируйте вопрос.


Best Regards
...
Рейтинг: 0 / 0
23.01.2004, 16:19
    #32386469
Витал
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Округление...
Советую посмотреть здесь
...
Рейтинг: 0 / 0
Форумы / Visual Basic [игнор отключен] [закрыт для гостей] / Округление... / 7 сообщений из 7, страница 1 из 1
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]