Гость
Целевая тема:
Создать новую тему:
Автор:
Форумы / WinForms, .Net Framework [игнор отключен] [закрыт для гостей] / C# - Half-precision floating point in C# / 3 сообщений из 3, страница 1 из 1
28.08.2014, 08:13
    #38731134
des1roer
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
C# - Half-precision floating point in C#
кто пользовался этой библиотекой ?
...
Рейтинг: 0 / 0
28.08.2014, 10:58
    #38731294
des1roer
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
C# - Half-precision floating point in C#
в общем задача свелась в следующему - как сложить несколько шестнадцатеричных чисел (1f + 3e + a7)
...
Рейтинг: 0 / 0
28.08.2014, 16:01
    #38731843
DS53
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
C# - Half-precision floating point in C#
des1roerв общем задача свелась в следующему - как сложить несколько шестнадцатеричных чисел (1f + 3e + a7)

быстрое решение:

string hexValue = "1f";
int decValue = int.Parse(hexValue, System.Globalization.NumberStyles.HexNumber);
это если у тебя 16-ричное число в виде строки. Но теряешь производительность на парсе.

у тебя 16-ричные числа в каком виде хранятся?
...
Рейтинг: 0 / 0
Форумы / WinForms, .Net Framework [игнор отключен] [закрыт для гостей] / C# - Half-precision floating point in C# / 3 сообщений из 3, страница 1 из 1
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]