ReSQL.ru
     
powered by simpleCommunicator - 2.0.61     © 2026 Programmizd 02
Мобильная версия    Контакт    Правила    FAQ    Помощь
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Доб. в избранное | Игнор. тему | Прикреп. тему | Пометить прочит. / непрочит. | Фильтр
Форумы / Microsoft SQL Server [игнор отключен] [закрыт для гостей] / QA и EM - кто-то нездоров
14 сообщений из 14, страница 1 из 1
QA и EM - кто-то нездоров
    #32039119
camka
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
camka
Участник
объясните пожолуйста почему QA показывает
2.9999999999999999E-2
а EМ
0.03
одно и то же значение. тип флоат.
кто правильней. какое число на самом деле хранится в базе. Кто округляет. Насчет попадания числя в таблицу ничего сказать не могу.
...
Рейтинг: 0 / 0
26.07.2002, 15:14:07
| Ответить | Цитировать | Написать  
QA и EM - кто-то нездоров
    #32039145
Фотография Белов Владимир
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Белов Владимир
Участник
а региональные настройки пробовали менять ?
...
Рейтинг: 0 / 0
26.07.2002, 15:49:41
| Ответить | Цитировать | Написать  
QA и EM - кто-то нездоров
    #32039146
Фотография MiCe
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
MiCe
Участник
EM округляет.... а табличку поподет не окруленное...
...
Рейтинг: 0 / 0
26.07.2002, 15:50:19
| Ответить | Цитировать | Написать  
QA и EM - кто-то нездоров
    #32039149
camka
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
camka
Участник
то есть , хочеш сказать что в базе на самом деле записано 2.9999999999999999E-2 ?

еще кто нить может объяснить отчего при
select table.kal типа флоат иногда вылазют нормальные значения а иногда ужасные и все в QA

предположу что это изза того что при каком-то апдейте произошло вычисление типа
update table set column=column-column2 где column2 уже заранее бажная. но как она такой стала - вот вопрос
...
Рейтинг: 0 / 0
26.07.2002, 15:57:48
| Ответить | Цитировать | Написать  
QA и EM - кто-то нездоров
    #32039153
Фотография MiCe
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
MiCe
Участник
обычно таки числа получаются по другому...
1.0 /3.0... тип того...
я ухожу от этого так:
либо округлением, либо numeric(x,y)....
...
Рейтинг: 0 / 0
26.07.2002, 16:11:57
| Ответить | Цитировать | Написать  
QA и EM - кто-то нездоров
    #32039157
camka
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
camka
Участник
то есть явно вставляя число в таблицу можно не боятся что оно преобразится? или я чего то недопонимаю. все глючные значения появляются только в результате вычислений производимых с полем внутри каког либо запроса ? Так?
...
Рейтинг: 0 / 0
26.07.2002, 16:22:15
| Ответить | Цитировать | Написать  
QA и EM - кто-то нездоров
    #32039162
Фотография MiCe
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
MiCe
Участник
угу.... вообщето float предназначен для приближенных вычислений...
как думаеш что будет здесь: 1.333E32 * 2.01E-32 ?
...
Рейтинг: 0 / 0
26.07.2002, 16:33:25
| Ответить | Цитировать | Написать  
QA и EM - кто-то нездоров
    #32039170
camka
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
camka
Участник
интересно а откуда тогда берутся цифры после 15 знака? Разве во флоате имеется еще место и для них?
...
Рейтинг: 0 / 0
26.07.2002, 16:49:16
| Ответить | Цитировать | Написать  
QA и EM - кто-то нездоров
    #32039171
Фотография MiCe
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
MiCe
Участник
а теперь замени на + (или -)....
...
Рейтинг: 0 / 0
26.07.2002, 16:49:36
| Ответить | Цитировать | Написать  
QA и EM - кто-то нездоров
    #32039174
Фотография MiCe
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
MiCe
Участник
почитай в книгах по программированию про типы данных
(есть мантиса и порядок)...
...
Рейтинг: 0 / 0
26.07.2002, 16:52:07
| Ответить | Цитировать | Написать  
QA и EM - кто-то нездоров
    #32039176
camka
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
camka
Участник
а может ли кто нить это объяснить как последнему ДАУНУ на битовом уровне.

спасибо
...
Рейтинг: 0 / 0
26.07.2002, 16:54:19
| Ответить | Цитировать | Написать  
QA и EM - кто-то нездоров
    #32039178
Фотография MiCe
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
MiCe
Участник
число состоит из двух частей
в первой части приведенное число(типа 0.значащие цифры) тоесть цивры после точки(перед точкой всегда 0)

и вторая часть это порядок т.е в вслучае с двоичной системой 2 в степени порядок
...
Рейтинг: 0 / 0
26.07.2002, 17:00:11
| Ответить | Цитировать | Написать  
QA и EM - кто-то нездоров
    #32040983
Masik
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Masik
Гость
Если подключение к базе через БДЕ то если опция "enable BCD" стоит false то такие проблемы будут и при вводе числа
...
Рейтинг: 0 / 0
05.08.2002, 18:05:58
| Ответить | Цитировать | Написать  
QA и EM - кто-то нездоров
    #32041195
camka
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
camka
Участник
на самом деле проблема вот в чем. некоторые конечные десятичные дроби являются безконечными в их бинарном представлении. так 0.4 , 0.1 , 0.2 и тд. выглядят уродливо так как округляются тока первые 15 цифр. а всё что дальше - достаточно правдоподобно. так как в базе хранится не само число 0.4 а его двоичный эквивалент, который на самом деле округлён и слегка недотягивает до 0.4 с одной или другой стороны.
...
Рейтинг: 0 / 0
06.08.2002, 13:08:46
| Ответить | Цитировать | Написать  
14 сообщений из 14, страница 1 из 1
Форумы / Microsoft SQL Server [игнор отключен] [закрыт для гостей] / QA и EM - кто-то нездоров
Найденые пользователи ...
Разблокировать пользователей ...
Читали тему (0):
Читали форум (0):
Пользователи онлайн (0):
Польз. соглашение   Полит. конфиден.  
NoSQL.ru       Кролег: Проекты, Новости, Чат       РЕД ФОРУМ       Фотоальбом: Участники, Встречи
Закрыть
start [/forum/topic.php?fid=46&msg=32039162&tid=1821342]:
 0ms
get settings:
 6ms
get forum list:
 10ms
check forum access:
 2ms
check topic access:
 2ms
track hit:
 42ms
get topic data:
 7ms
get forum data:
 2ms
get page messages:
 32ms
get tp. blocked users:
 1ms
others: 203ms
total:  307ms
созд. / загр.: 307ms
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]