MrVoidДа все эти хаки я знаю. Можно и хранимую процедуру написать, чтобы всё красиво было. Но это всё ради капризов экселя. :(
Спасибо всем! Поведение Экселя осталось невыясненным. тьху! Что ж ты никак не поймешь-то?!
Не при чём тут Эксель!
Там, в таблице,
реально хранится 0,219999998807907, хотя сохраняли 0,22!
А происходит так, потому что
в експ.форме, в двоичной системе счисления, десятичное 0.22 представляется бесконечной дробью!
Поиграйся
http://math.semestr.ru/inf/ieee754.php
Представление двоичного числа с плавающей точкой в экспоненциальном нормализованном виде.
Для этого переведем число в двоичное представление.
Для перевода дробной части числа последовательно умножаем дробную часть на основание 2. В результате каждый раз записываем целую часть произведения.
0.22*2 = 0.44
(целая часть 0)
0.44*2 = 0.88
(целая часть 0)
0.88*2 = 1.76
(целая часть 1)
0.76*2 = 1.52
(целая часть 1)
0.52*2 = 1.04
(целая часть 1)
0.04*2 = 0.08
(целая часть 0)
0.08*2 = 0.16
(целая часть 0)
0.16*2 = 0.32
(целая часть 0)
0.32*2 = 0.64
(целая часть 0)
0.64*2 = 1.28
(целая часть 1)
0.28*2 = 0.56
(целая часть 0)
0.56*2 = 1.12
(целая часть 1)
0.12*2 = 0.24
(целая часть 0)
0.24*2 = 0.48
(целая часть 0)
0.48*2 = 0.96
(целая часть 0)
0.96*2 = 1.92
(целая часть 1)
0.92*2 = 1.84
(целая часть 1)
0.84*2 = 1.68
(целая часть 1)
0.68*2 = 1.36
(целая часть 1)
0.36*2 = 0.72
(целая часть 0)
0.72*2 = 1.44
(целая часть 1)
0.44*2 = 0.88
(целая часть 0)
0.88*2 = 1.76
(целая часть 1)
Получаем число в 2-ой системе счисления: 00111000010100011110101
0.22 = 00111000010100011110101 2
Сдвинем число на 3 разрядов вправо. В результате мы получили основные составляющие экспоненциального нормализованного двоичного числа:
Мантисса M=1.11000010100011110101000
Экспонента exp2=-3
Преобразование двоичного нормализованного числа в 32 битный формат IEEE 754.
Первый бит отводится для обозначения знака числа. Поскольку число положительное, то первый бит равен 0
Следующие 8 бит (с 2-го по 9-й) отведены под экспоненту.
Для определения знака экспоненты, чтобы не вводить ещё один бит знака, добавляют смещение к экспоненте в половину байта +127. Таким образом, наша экспонента: -3 + 127 = 124
Переведем экспоненту в двоичное представление.
124 = 11111002
Оставшиеся 23 бита отводят для мантиссы. У нормализованной двоичной мантиссы первый бит всегда равен 1, так как число лежит в диапазоне 1 ≤ M < 2. Для экономии, единицу не записывают, а записывают только остаток от мантиссы: 11000010100011110101000
Для перевода необходимо умножить разряд числа на соответствующую ему степень разряда.
11000010100011110101000 = 222*1 + 221*1 + 220*0 + 219*0 + 218*0 + 217*0 + 216*1 + 215*0 + 214*1 + 213*0 + 212*0 + 211*0 + 210*1 + 29*1 + 28*1 + 27*1 + 26*0 + 25*1 + 24*0 + 23*1 + 22*0 + 21*0 + 20*0 = 4194304 + 2097152 + 0 + 0 + 0 + 0 + 65536 + 0 + 16384 + 0 + 0 + 0 + 1024 + 512 + 256 + 128 + 0 + 32 + 0 + 8 + 0 + 0 + 0 = 6375336
В десятичном коде мантисса выражается числом 6375336
В результате число 0.22 представленное в IEEE 754 c одинарной точностью равно 0111110011000010100011110101000.
Переведем в шестнадцатеричное представление.
Разделим исходный код на группы по 4 разряда.
01111100110000101000111101010002 = 0011 1110 0110 0001 0100 0111 1010 1000 2
Получаем число:
0011 1110 0110 0001 0100 0111 1010 1000 2 = 3E6147A816
Проверим правильность перевода.
Чтобы записать число в стандарте IEEE 754 или восстановить его, необходимо знать три параметра:
S - бит знака (31-й бит).
E - смещенная экспонента (30-23 биты).
M - остаток от мантиссы (22-0 биты).
Формула для получения десятичного числа из числа IEEE754 одинарной точности:
F = (-1)S2(E-127)(1+M/223)
F = (-1)02(124-127)(1+6375336/223) = 0.125*1.75999927 = 0.21999990
Итого:
если нужно точное представление дес.дробей, нужно использовать
или decimal - в котором хранится двоичное представление последовательности десятичных цифр
или money - в котором хранится умноженное на 10000 исх.десятичное число, как двоичное целое число
