|
Сравнение данных
|
|||
---|---|---|---|
#18+
Здравствуйте! Есть исходные данные. Таблица, у которой для каждой меры и с уровнем детализации есть соответствующее значение. Код: sql 1. 2. 3. 4. 5. 6. 7. 8. 9. 10. 11. 12. 13. 14. 15. 16. 17. 18. 19.
Переводим в другую разрядность Код: sql 1. 2. 3. 4. 5. 6. 7. 8. 9. 10. 11. 12.
Код: sql 1. 2. 3. 4. 5. 6. 7. 8. 9. 10. 11. 12. 13. 14. 15. 16. 17. 18. 19. 20. 21. 22. 23.
Первая мера Значение первой меры Вторая мера Значение второй меры Результат сверкиМера1 0.201 Мера2 0.201 Не равно А при @TempVar = 5 - такой результат: Первая мера Значение первой меры Вторая мера Значение второй меры Результат сверкиМера1 0.20174 Мера2 0.20174 Равно Сверка между Мера3 и Мера4 Код: sql 1. 2. 3. 4. 5. 6. 7. 8. 9. 10. 11. 12. 13. 14. 15. 16. 17. 18. 19. 20. 21. 22. 23.
Первая мера Значение первой меры Вторая мера Значение второй меры Результат сверкиМера3 286.3 Мера4 286.3 Не равно А при @TempVar = 2 - такой результат: Первая мера Значение первой меры Вторая мера Значение второй меры Результат сверкиМера3 286.37 Мера4 286.37 Равно Таким образом, в некоторых случаях, где Значение первой меры и Значение второй меры совпадает, в поле Результат сверки возвращает значение "Не равно". Скажите, как правильно написать, чтобы при одинаковых отображающих значении двух сравниваемых мер при заданном @TempVar в поле Результат сверки возвращалось "Равно"? ... |
|||
:
Нравится:
Не нравится:
|
|||
13.01.2022, 15:54 |
|
Сравнение данных
|
|||
---|---|---|---|
#18+
ferzmikk, сравнивай с какой-то "дельтой" не Код: sql 1.
а Код: sql 1.
@delta можно как-то через @TempVar формировать ... ... |
|||
:
Нравится:
Не нравится:
|
|||
13.01.2022, 16:45 |
|
Сравнение данных
|
|||
---|---|---|---|
#18+
ferzmikk Таким образом, в некоторых случаях, где Значение первой меры и Значение второй меры совпадает, в поле Результат сверки возвращает значение "Не равно". ... |
|||
:
Нравится:
Не нравится:
|
|||
13.01.2022, 16:50 |
|
Сравнение данных
|
|||
---|---|---|---|
#18+
ferzmikk, у вас тип данных real, переходите на decimal. ... |
|||
:
Нравится:
Не нравится:
|
|||
13.01.2022, 17:07 |
|
Сравнение данных
|
|||
---|---|---|---|
#18+
ferzmikk, формат с плавающей точкой не хранит точные значения. ... |
|||
:
Нравится:
Не нравится:
|
|||
14.01.2022, 00:24 |
|
Сравнение данных
|
|||
---|---|---|---|
#18+
ferzmikk, в стародавние времена, когда динозавры бродили по планете, преподавали целый курс по машинным методам вычислений, в которых отдельным разделом шло описание процессорного представления float, его особенностей и методов борьбы с ними Код: sql 1. 2. 3.
Посмотрите на досуге результаты вычислений этого скрипта и попытайтесь разобраться с причинами. А еще грандиозные проблемы для понимания создаёт современная Management Studio, которая форматирует результат вычислений с float с его округлением. В том же Query Analyzer первая строка показывает немного иной результат, чем в SSMS и может натолкнуть на мысль, что с float что-то не так и это надо учитывать в математике. В SSMS же кажется, что всё ОК, но на самом деле всё очень даже плохо. ... |
|||
:
Нравится:
Не нравится:
|
|||
14.01.2022, 06:05 |
|
Сравнение данных
|
|||
---|---|---|---|
#18+
Владислав Колосов ferzmikk, формат с плавающей точкой не хранит точные значения. Ну что за бред? Хранит оно "точные" значения. Что "неточного" ты могешь хранить в 8 байтах? ... |
|||
:
Нравится:
Не нравится:
|
|||
14.01.2022, 07:27 |
|
Сравнение данных
|
|||
---|---|---|---|
#18+
aleks222, например, десятичное 0.3 в формате с плавающей точкой может быть представлено только бесконечным двоичным рядом, фактически, ограниченного точностью хранения. Код: sql 1. 2.
... |
|||
:
Нравится:
Не нравится:
|
|||
14.01.2022, 13:42 |
|
Сравнение данных
|
|||
---|---|---|---|
#18+
Владислав Колосов aleks222, например, десятичное 0.3 в формате с плавающей точкой может быть представлено только бесконечным двоичным рядом, фактически, ограниченного точностью хранения. Код: sql 1. 2.
"Неточность" то хде? Это ты пытаешься впихнуть невпихуемое и валишь с больной головы на здоровую. 0.5 записывается в real всегда ОДИНАКОВО. Хочешь сравнить @real с 0.5 - пиши: @real = cast(0.5 as real). Любитель точности. Код: sql 1.
Рассуждаючи как ты, дык, и int - "неточное". ... |
|||
:
Нравится:
Не нравится:
|
|||
14.01.2022, 14:18 |
|
Сравнение данных
|
|||
---|---|---|---|
#18+
Код: sql 1.
... |
|||
:
Нравится:
Не нравится:
|
|||
14.01.2022, 20:08 |
|
Сравнение данных
|
|||
---|---|---|---|
#18+
andy st Код: sql 1.
Тебя же не смущает? Код: sql 1.
... |
|||
:
Нравится:
Не нравится:
|
|||
15.01.2022, 06:20 |
|
Сравнение данных
|
|||
---|---|---|---|
#18+
aleks222, очевидно, что последнее доказательство - это мошенничество, основанное на нарушении правил. Существует доказательство 2х2=5 тоже в таком стиле. ... |
|||
:
Нравится:
Не нравится:
|
|||
15.01.2022, 15:33 |
|
Сравнение данных
|
|||
---|---|---|---|
#18+
Владислав Колосов aleks222, очевидно, что последнее доказательство - это мошенничество, основанное на нарушении правил. Существует доказательство 2х2=5 тоже в таком стиле. С этого места помеееедленнееееее, я записываю. ЗЫ. Разучите уже как устроен FLOAT, а не тупо повторяйте мифы. ... |
|||
:
Нравится:
Не нравится:
|
|||
15.01.2022, 16:50 |
|
|
start [/forum/topic.php?fid=46&msg=40126468&tid=1683923]: |
0ms |
get settings: |
11ms |
get forum list: |
14ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
34ms |
get topic data: |
13ms |
get forum data: |
3ms |
get page messages: |
55ms |
get tp. blocked users: |
2ms |
others: | 237ms |
total: | 377ms |
0 / 0 |