Этот баннер — требование Роскомнадзора для исполнения 152 ФЗ.
«На сайте осуществляется обработка файлов cookie, необходимых для работы сайта, а также для анализа использования сайта и улучшения предоставляемых сервисов с использованием метрической программы Яндекс.Метрика. Продолжая использовать сайт, вы даёте согласие с использованием данных технологий».
Политика конфиденциальности
|
|
|
float поля: точность?
|
|||
|---|---|---|---|
|
#18+
рисую в query analizer'е (sql 2000/7.0 - без разницы): <begin script> CREATE TABLE [dbo].[Table1] ( [data] [float] NULL ) ON [PRIMARY] go insert into table1 values (0.77) select * from table1 go <end script> получаю: 0.77000000000000002 кто-нить может объяснить, почему? и это, типа, нормально? пытался в инете найти что-нить по этому поводу - нашел только увлекательные вопросы на похожую тему по адресу http://www.win2000mag.net/Forums/Application/Thread.cfm?CFApp=57&Thread_ID=58867#Message156471 Артем. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 05.09.2001, 14:48 |
|
||
|
float поля: точность?
|
|||
|---|---|---|---|
|
#18+
При максимальной размере мантиссы в 53 бита, точность данных типа float составляет 15 знаков после запятой. У вас я вижу разница в 17-ом знаке. Так что относитесь к тому, что QA показывает вам больше знаков, чем может храниться в таблице, как к особенности QA(или ошибке, если вам так хочется) или используйте преобразование типов, например в decimal. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 05.09.2001, 15:17 |
|
||
|
|

start [/forum/topic.php?fid=46&msg=32013577&tid=1825633]: |
0ms |
get settings: |
9ms |
get forum list: |
13ms |
check forum access: |
2ms |
check topic access: |
2ms |
track hit: |
35ms |
get topic data: |
8ms |
get forum data: |
2ms |
get page messages: |
42ms |
get tp. blocked users: |
1ms |
| others: | 219ms |
| total: | 333ms |

| 0 / 0 |
