ReSQL.ru
     
powered by simpleCommunicator - 2.0.51     © 2025 Programmizd 02
Мобильная версия    Контакт    Правила    FAQ    Помощь
Доб. в избранное | Игнор. тему | Прикреп. тему | Пометить прочит. / непрочит. | Фильтр
Форумы / Visual Basic [игнор отключен] [закрыт для гостей] / Деление чисел тип данных single
5 сообщений из 5, страница 1 из 1
Деление чисел тип данных single
    #38918217
КД
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
КД
Гость
Пните, если уже было.
Код: vbnet
1.
2.
3.
4.
5.
6.
7.
8.
Dim sngA As Single
Dim sngB As Single
Dim sngC As Single
     sngA = 0.3
     sngB = 0.05
     sngC = sngA/sngB 
В результате sngC = 5,99999.
Какие преобразования сделать, чтобы было sngC = 6?
...
Рейтинг: 0 / 0
26.03.2015, 22:48
| Ответить | Цитировать | Написать  
Деление чисел тип данных single
    #38918224
Фотография Shocker.Pro
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Shocker.Pro
Участник
Числа с плавающей точкой (single, double) не являются точными по своей сути. Операции над ними производятся с определенной точностью.

Вы можете округлить число, можете преобразовать его в целое (Long, Integer), можете отформатировать при выводе на экран.
...
Рейтинг: 0 / 0
26.03.2015, 23:00
| Ответить | Цитировать | Написать  
Деление чисел тип данных single
    #38918238
Казанский
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Казанский
Гость
КДВ результате sngC = 5,99999Это в какой среде? Попробовал в VB6 и VBA - результат 6.
Однако это не отменяет сказанного Shocker.Pro .
...
Рейтинг: 0 / 0
26.03.2015, 23:20
| Ответить | Цитировать | Написать  
Деление чисел тип данных single
    #38918249
КД
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
КД
Гость
Спасибо! Буду пробовать.
...
Рейтинг: 0 / 0
26.03.2015, 23:37
| Ответить | Цитировать | Написать  
Деление чисел тип данных single
    #38920484
ъ
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
ъ
Гость
КД,

До 4х знаков после запятой тип Currency можно использовать, он - точный
...
Рейтинг: 0 / 0
29.03.2015, 19:05
| Ответить | Цитировать | Написать  
5 сообщений из 5, страница 1 из 1
Форумы / Visual Basic [игнор отключен] [закрыт для гостей] / Деление чисел тип данных single
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Найденые пользователи ...
Разблокировать пользователей ...
Читали тему (0):
Читали форум (0):
Пользователи онлайн (0):
Польз. соглашение
NoSQL.ru       Новости, Чат       Фотоальбом: Участники, Встречи
Закрыть
start [/forum/moderation_log.php?user_name=%D0%92%D0%91%D0%90+%D0%81%D0%BA%D1%81%D0%B5%D0%BB%D1%8C]:
 0ms
get settings:
 10ms
get forum list:
 14ms
get settings:
 10ms
get forum list:
 15ms
check forum access:
 4ms
check topic access:
 4ms
track hit:
 45ms
get topic data:
 11ms
get first new msg:
 7ms
get forum data:
 3ms
get page messages:
 41ms
get tp. blocked users:
 1ms
others: 439ms
total:  604ms
созд. / загр.: 604ms
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]