Гость
Войти | Профиль | Очистить
Целевая тема:
Создать новую тему:
Автор:
Действия ...
Форумы / Visual Basic [игнор отключен] [закрыт для гостей] / Округление... / 3 сообщений из 3, страница 1 из 1
27.09.2005, 12:48:12
    #33290534
Дурак
Дурак
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Округление...
Всем hi!

Или, как говорится, лыжи не едут, или я ...


Код

Код: plaintext
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
Private Sub Form_Load()

Debug.Print Round( 1 . 85 ,  1 )
Debug.Print Round( 1 . 75 ,  1 )
Debug.Print Round( 1 . 65 ,  1 )
Debug.Print Round( 1 . 55 ,  1 )
Debug.Print Round( 1 . 45 ,  1 )
Debug.Print Round( 1 . 35 ,  1 )
Debug.Print Round( 1 . 25 ,  1 )

End Sub

Ожидаемый мной результат:

Код: plaintext
1.
2.
3.
4.
5.
6.
7.
 1.9
 1.8 
 1.7 
 1.6 
 1.5 
 1.4 
 1.3

Полученный результат:
Код: plaintext
1.
2.
3.
4.
5.
6.
7.
 1.8 
 1.8 
 1.6 
 1.6 
 1.4 
 1.4 
 1.2

Вот, сижу и думаю...

P.S. В Vb.NET такая же фигня.
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
27.09.2005, 13:34:54
    #33290733
Letter_D
Letter_D
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Округление...
Round, так же как и CInt (огругление до целого) используют округление до ближайшего четного.
Была такая фигня разработана на конгрессе математиков в середине прошлого века, назвали ее типа "гармоническое (или как-то похоже) округление", и сделали для избежания накопления ошибок в бОльшую сторону, когда все встречающиеся числа округляются по цифре "5".

Для математического округления можно использовать Format:
Format(1.85, "0.0") = 1.9
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
27.09.2005, 14:11:03
    #33290863
Дурак
Дурак
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Округление...
Фигасе.

В MSDN ничего про это не нашел :-(.

А почему тогда скуль округляет по-человечески?

Собсно, из-за этого у меня и возникли проблемы...

За совет по поводу Format - благодарю.
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
Форумы / Visual Basic [игнор отключен] [закрыт для гостей] / Округление... / 3 сообщений из 3, страница 1 из 1
Найденые пользователи ...
Разблокировать пользователей ...
Читали тему (0):
Читали форум (0):
Пользователи онлайн (0):
Польз. соглашение  
Полит. конфиден.  
созд. / загр.: 332ms
Закрыть
start [/forum/topic.php?fid=60&tablet=1&tid=2167121]:
 0ms
get settings:
 10ms
get forum list:
 18ms
check forum access:
 3ms
check topic access:
 3ms
track hit:
 30ms
get topic data:
 13ms
get forum data:
 3ms
get page messages:
 50ms
get tp. blocked users:
 2ms
others: 200ms
total:  332ms
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]