|
преобразование из hex в ieee 754 half precision
|
|||
---|---|---|---|
#18+
есть данные в хексе вида D0 58 3E необходимо перевести это ieee 754 half precision есть такой конвертер но он одинарной точности (32 бита, а мне именно 16 бит надо) ... |
|||
:
Нравится:
Не нравится:
|
|||
27.08.2014, 08:49 |
|
преобразование из hex в ieee 754 half precision
|
|||
---|---|---|---|
#18+
des1roerD0 58 3E Это 3 байта получается и значит это не half precision число. ... |
|||
:
Нравится:
Не нравится:
|
|||
27.08.2014, 09:27 |
|
преобразование из hex в ieee 754 half precision
|
|||
---|---|---|---|
#18+
последний байт 00 ... |
|||
:
Нравится:
Не нравится:
|
|||
27.08.2014, 09:45 |
|
преобразование из hex в ieee 754 half precision
|
|||
---|---|---|---|
#18+
Half-precision floating-point format тут все есть ... |
|||
:
Нравится:
Не нравится:
|
|||
27.08.2014, 11:34 |
|
преобразование из hex в ieee 754 half precision
|
|||
---|---|---|---|
#18+
я не математик а программист ... |
|||
:
Нравится:
Не нравится:
|
|||
27.08.2014, 11:35 |
|
преобразование из hex в ieee 754 half precision
|
|||
---|---|---|---|
#18+
des1roerя не математик а программистЯ тебя уже спрашивал нахрена тебе число с плавающей точкой, твой предыдущий пост, не совсем понятен, что ты вообще хочешь делать и нужен весь текст работы с СОМ портом и откуда выдержки из документации (к какому прибору). ... |
|||
:
Нравится:
Не нравится:
|
|||
27.08.2014, 11:38 |
|
преобразование из hex в ieee 754 half precision
|
|||
---|---|---|---|
#18+
des1roerя не математик а программист ну ясно. Про английский тоже - "я не филолог, а программист"? ... |
|||
:
Нравится:
Не нравится:
|
|||
27.08.2014, 11:41 |
|
преобразование из hex в ieee 754 half precision
|
|||
---|---|---|---|
#18+
des1roer, если тебе нужно преобразовать число в формате IEEE 754 в IEEE 754 half precision, то тебе придется делать это самостоятельно т.к. в .NET нет двухбайтового типа с плавающей точкой. Не забывай что это будет преобразование с потерей точности. Открываешь википедию (ссылку Pallaris привел), изучаешь формат и пишешь преобразование. Отмазки "я не математик" оставь детям. ... |
|||
:
Нравится:
Не нравится:
|
|||
27.08.2014, 11:44 |
|
преобразование из hex в ieee 754 half precision
|
|||
---|---|---|---|
#18+
фак а вот конвертер который я показал, он не умеет такое преобразование делать? потому что в доке к железяке такое написано Формат значений Hmax, Qmax, Umax, Vmax, H, Q, U, V - «укороченный» вариант формата стандарта IEEE-754 (двухбайтная мантисса). то бишь если исходя из вики, халф пресижин - это 5 бит целой части, и 10 мантиссы. а в конвертере 8 бит целой части и все остальное мантиса ... |
|||
:
Нравится:
Не нравится:
|
|||
27.08.2014, 13:14 |
|
преобразование из hex в ieee 754 half precision
|
|||
---|---|---|---|
#18+
Пролистай вики до конца, там ссылки на примеры (в т.ч. с#) ... |
|||
:
Нравится:
Не нравится:
|
|||
27.08.2014, 13:34 |
|
преобразование из hex в ieee 754 half precision
|
|||
---|---|---|---|
#18+
там толи библиотека, толи модуль. в общем дольше разбираться ... |
|||
:
Нравится:
Не нравится:
|
|||
27.08.2014, 14:38 |
|
преобразование из hex в ieee 754 half precision
|
|||
---|---|---|---|
#18+
кто пользовался этой библиотекой ? ... |
|||
:
Нравится:
Не нравится:
|
|||
28.08.2014, 08:09 |
|
преобразование из hex в ieee 754 half precision
|
|||
---|---|---|---|
#18+
в общем задача свелась в следующему - как сложить несколько шестнадцатеричных чисел (1f + 3e + a7) ... |
|||
:
Нравится:
Не нравится:
|
|||
28.08.2014, 10:57 |
|
преобразование из hex в ieee 754 half precision
|
|||
---|---|---|---|
#18+
des1roerв общем задача свелась в следующему - как сложить несколько шестнадцатеричных чисел (1f + 3e + a7) а при чём здесь плавающая точка? ... |
|||
:
Нравится:
Не нравится:
|
|||
28.08.2014, 11:04 |
|
преобразование из hex в ieee 754 half precision
|
|||
---|---|---|---|
#18+
Изопропилdes1roerв общем задача свелась в следующему - как сложить несколько шестнадцатеричных чисел (1f + 3e + a7) а при чём здесь плавающая точка?У ТС пытались выяснить суть задачи, но.. А числа сложи на кулькуляторе виндоВс. ... |
|||
:
Нравится:
Не нравится:
|
|||
28.08.2014, 11:09 |
|
преобразование из hex в ieee 754 half precision
|
|||
---|---|---|---|
#18+
Изопропила при чём здесь плавающая точка? Кармаку такая оптимизация работы с плавающей точкой и не снилась ... |
|||
:
Нравится:
Не нравится:
|
|||
28.08.2014, 11:10 |
|
преобразование из hex в ieee 754 half precision
|
|||
---|---|---|---|
#18+
в общем все глухо с этими форматами. не действительно, как сложить два хекс числа на шарпе? ... |
|||
:
Нравится:
Не нравится:
|
|||
28.08.2014, 11:21 |
|
преобразование из hex в ieee 754 half precision
|
|||
---|---|---|---|
#18+
des1roerв общем все глухо с этими форматами. не действительно, как сложить два хекс числа на шарпе?может конвертировать? не. У всех числовых типов есть Parse, см MSDN ... |
|||
:
Нравится:
Не нравится:
|
|||
28.08.2014, 11:23 |
|
преобразование из hex в ieee 754 half precision
|
|||
---|---|---|---|
#18+
fortibransaможет конвертировать? Он и так массив байт получает А складывать надо так Код: c# 1.
... |
|||
:
Нравится:
Не нравится:
|
|||
28.08.2014, 11:26 |
|
преобразование из hex в ieee 754 half precision
|
|||
---|---|---|---|
#18+
Да он уже запутал. ну да сложи однако байты-то. ... |
|||
:
Нравится:
Не нравится:
|
|||
28.08.2014, 11:28 |
|
преобразование из hex в ieee 754 half precision
|
|||
---|---|---|---|
#18+
fortibransaсложи топикстартер - программист, а не математик ... |
|||
:
Нравится:
Не нравится:
|
|||
28.08.2014, 13:04 |
|
преобразование из hex в ieee 754 half precision
|
|||
---|---|---|---|
#18+
des1roer, в спеке к прибору что сказано? Что передаёт протокол не с точки зрения формата, а с точки зрения смысловой нагрузки? В итоге что должно получиться на выходе после преобразования значений? Учтите, что при сложении шестнадцатеричных переменных без преобразования у вас может получиться результат отличный от того, что Вы ожидаете. Возьмите правила преобразования, листочек, карандашик и напишите порядок преобразования значений из одной системы счисления в другую стремясь получить желаемый результат, тогда, возможно, у Вас появится алгоритм преобразования и Вы сможете его реализовать в программе. Да, математика здесь понадобится, потому что без неё в нашем деле (нелёгком программистском) никуда. PS. Вы же, надеюсь, не быдлокодер ...а пока просто постигаете некоторые аспекты практического применения математики в программировании ... |
|||
:
Нравится:
Не нравится:
|
|||
28.08.2014, 14:07 |
|
преобразование из hex в ieee 754 half precision
|
|||
---|---|---|---|
#18+
Alex Kuznetsovdes1roer, в спеке к прибору что сказано? Что передаёт протокол не с точки зрения формата, а с точки зрения смысловой нагрузки? В итоге что должно получиться на выходе после преобразования значений? Учтите, что при сложении шестнадцатеричных переменных без преобразования у вас может получиться результат отличный от того, что Вы ожидаете. Возьмите правила преобразования, листочек, карандашик и напишите порядок преобразования значений из одной системы счисления в другую стремясь получить желаемый результат, тогда, возможно, у Вас появится алгоритм преобразования и Вы сможете его реализовать в программе. Да, математика здесь понадобится, потому что без неё в нашем деле (нелёгком программистском) никуда. PS. Вы же, надеюсь, не быдлокодер ...а пока просто постигаете некоторые аспекты практического применения математики в программированииМы понять не можем что он хочет, а ТС молчит как партизан и странные вопросы задает. ... |
|||
:
Нравится:
Не нравится:
|
|||
28.08.2014, 14:15 |
|
преобразование из hex в ieee 754 half precision
|
|||
---|---|---|---|
#18+
быстрое решение я там предложил. я только не понял в каком формате числа? если в строках, то решение я привел. http://www.sql.ru/forum/actualutils.aspx?action=gotomsg&tid=1112982&msg=16507983 давайте детали) ... |
|||
:
Нравится:
Не нравится:
|
|||
28.08.2014, 16:14 |
|
преобразование из hex в ieee 754 half precision
|
|||
---|---|---|---|
#18+
des1roerв общем задача свелась в следующему - как сложить несколько шестнадцатеричных чисел (1f + 3e + a7) Ежели использовать ту библиотеку http://sourceforge.net/p/csharp-half То можно и так: Код: c# 1. 2. 3. 4. 5. 6. 7. 8.
... |
|||
:
Нравится:
Не нравится:
|
|||
28.08.2014, 19:43 |
|
|
start [/forum/topic.php?fid=20&msg=38731507&tid=1402511]: |
0ms |
get settings: |
9ms |
get forum list: |
14ms |
check forum access: |
3ms |
check topic access: |
3ms |
track hit: |
35ms |
get topic data: |
12ms |
get forum data: |
3ms |
get page messages: |
62ms |
get tp. blocked users: |
2ms |
others: | 342ms |
total: | 485ms |
0 / 0 |