Гость
Целевая тема:
Создать новую тему:
Автор:
Форумы / Microsoft SQL Server [игнор отключен] [закрыт для гостей] / float поля: точность? / 3 сообщений из 3, страница 1 из 1
05.09.2001, 14:48
    #32013535
thyrstydog
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
float поля: точность?
рисую в query analizer'е (sql 2000/7.0 - без разницы):
<begin script>
CREATE TABLE [dbo].[Table1] (
[data] [float] NULL
) ON [PRIMARY]
go
insert into table1 values (0.77)
select * from table1
go
<end script>

получаю: 0.77000000000000002
кто-нить может объяснить, почему?
и это, типа, нормально?

пытался в инете найти что-нить по этому поводу - нашел только увлекательные вопросы на похожую тему по адресу
http://www.win2000mag.net/Forums/Application/Thread.cfm?CFApp=57&Thread_ID=58867#Message156471

Артем.
...
Рейтинг: 0 / 0
05.09.2001, 15:17
    #32013543
Glory
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
float поля: точность?
При максимальной размере мантиссы в 53 бита, точность данных типа float составляет 15 знаков после запятой. У вас я вижу разница в 17-ом знаке.

Так что относитесь к тому, что QA показывает вам больше знаков, чем может храниться в таблице, как к особенности QA(или ошибке, если вам так хочется) или используйте преобразование типов, например в decimal.
...
Рейтинг: 0 / 0
06.09.2001, 06:53
    #32013577
thyrstydog
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
float поля: точность?
спасибо Glory, вы совершенно правы, я тормознул.

Артем.
...
Рейтинг: 0 / 0
Форумы / Microsoft SQL Server [игнор отключен] [закрыт для гостей] / float поля: точность? / 3 сообщений из 3, страница 1 из 1
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]