powered by simpleCommunicator - 2.0.59     © 2026 Programmizd 02
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Форумы / Microsoft SQL Server [игнор отключен] [закрыт для гостей] / float поля: точность?
3 сообщений из 3, страница 1 из 1
float поля: точность?
    #32013535
thyrstydog
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
рисую в query analizer'е (sql 2000/7.0 - без разницы):
<begin script>
CREATE TABLE [dbo].[Table1] (
[data] [float] NULL
) ON [PRIMARY]
go
insert into table1 values (0.77)
select * from table1
go
<end script>

получаю: 0.77000000000000002
кто-нить может объяснить, почему?
и это, типа, нормально?

пытался в инете найти что-нить по этому поводу - нашел только увлекательные вопросы на похожую тему по адресу
http://www.win2000mag.net/Forums/Application/Thread.cfm?CFApp=57&Thread_ID=58867#Message156471

Артем.
...
Рейтинг: 0 / 0
float поля: точность?
    #32013543
Glory
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
При максимальной размере мантиссы в 53 бита, точность данных типа float составляет 15 знаков после запятой. У вас я вижу разница в 17-ом знаке.

Так что относитесь к тому, что QA показывает вам больше знаков, чем может храниться в таблице, как к особенности QA(или ошибке, если вам так хочется) или используйте преобразование типов, например в decimal.
...
Рейтинг: 0 / 0
float поля: точность?
    #32013577
thyrstydog
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
спасибо Glory, вы совершенно правы, я тормознул.

Артем.
...
Рейтинг: 0 / 0
3 сообщений из 3, страница 1 из 1
Форумы / Microsoft SQL Server [игнор отключен] [закрыт для гостей] / float поля: точность?
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]