Гость
Целевая тема:
Создать новую тему:
Автор:
Форумы / C++ [игнор отключен] [закрыт для гостей] / double в dll / 5 сообщений из 5, страница 1 из 1
14.06.2015, 17:28
    #38983493
c1p
c1p
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
double в dll
В библиотеке dll на с++ одна из экспортируемых функций принимает аргумент типа double. Функцию вызываю из управляемого кода на c#. В c# передаю значение double, допустим "65.43". Везде в отладчике на стороне c# вижу именно это значение. Но в dll при вызове из неё функции, во входящем параметре вижу уже значение "65.43000000000007". Что делать ?
...
Рейтинг: 0 / 0
14.06.2015, 17:29
    #38983495
Dimitry Sibiryakov
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
double в dll
c1pЧто делать ?
Смириться и понять, что double - неточные числа.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
14.06.2015, 21:55
    #38983569
c1p
c1p
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
double в dll
Dimitry Sibiryakovc1pЧто делать ?
Смириться и понять, что double - неточные числа.


да ну, не может быть такого.
Что, в с++ тогда вообще нельзя работать с дробями ? Допустим, пользователь вводит обычное число 12.34 а на деле может быть всё, что угодно ? А как тогда считаются курсы валют, цена товара, комиссия или проценты по кредитам и т.д. и т.п.
...
Рейтинг: 0 / 0
14.06.2015, 22:05
    #38983572
Dimitry Sibiryakov
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
double в dll
c1pкак тогда считаются
Округляясь по мере необходимости.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
14.06.2015, 22:20
    #38983578
Изопропил
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
double в dll
c1pЧто, в с++ тогда вообще нельзя работать с дробями ? Допустим, пользователь вводит обычное число 12.34 а на деле может быть всё, что угодно ? А как тогда считаются курсы валют, цена товара, комиссия или проценты по кредитам и т.д. и т.п.
здесь что с++ что c# что фортран - всё едино

а для подсчёта денег используют арифметику с фиксированной точкой
...
Рейтинг: 0 / 0
Форумы / C++ [игнор отключен] [закрыт для гостей] / double в dll / 5 сообщений из 5, страница 1 из 1
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]