ReSQL.ru
     
powered by simpleCommunicator - 2.0.60     © 2026 Programmizd 02
Мобильная версия    Контакт    Правила    FAQ    Помощь
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Доб. в избранное | Игнор. тему | Прикреп. тему | Пометить прочит. / непрочит. | Фильтр
Форумы / Microsoft SQL Server [игнор отключен] [закрыт для гостей] / Тип данных float сравнивая 2 числа визуально одинаковых не срабатывает знак равенства
8 сообщений из 8, страница 1 из 1
Тип данных float сравнивая 2 числа визуально одинаковых не срабатывает знак равенства
    #39723673
kolyady
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
kolyady
Участник
собственно говоря вопрос в теме
имеем 2 механизма которые возвращают 2 визуально одинаковых значения но знак равенства не срабатывает на них.

имеем результат в флоате
12715,845
и сравниваем с другим результатом в том же флоате
12715,845

визуально одинаковы , как можно отобразить реальные значения, чтобы понять в чем разница?
...
Рейтинг: 0 / 0
26.10.2018, 16:54
| Ответить | Цитировать | Написать  
Тип данных float сравнивая 2 числа визуально одинаковых не срабатывает знак равенства
    #39723678
kolyady
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
kolyady
Участник
и округляет на таких позициях по разному
...
Рейтинг: 0 / 0
26.10.2018, 16:58
| Ответить | Цитировать | Написать  
Тип данных float сравнивая 2 числа визуально одинаковых не срабатывает знак равенства
    #39723680
Lepsik
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Lepsik
Участник
kolyadyвизуально одинаковы , как можно отобразить реальные значения, чтобы понять в чем разница?

declare @f float = 3.14
select CAST(@f as varbinary(8))
...
Рейтинг: 0 / 0
26.10.2018, 16:59
| Ответить | Цитировать | Написать  
Тип данных float сравнивая 2 числа визуально одинаковых не срабатывает знак равенства
    #39723687
Гавриленко Сергей Алексеевич
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гавриленко Сергей Алексеевич
Участник
Выбирайте любой метод сравнения, множество их
...
Рейтинг: 0 / 0
26.10.2018, 17:04
| Ответить | Цитировать | Написать  
Тип данных float сравнивая 2 числа визуально одинаковых не срабатывает знак равенства
    #39723698
kolyady
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
kolyady
Участник
Гавриленко Сергей Алексеевич,

я ms sql юзаю зачем мне пост по С++
...
Рейтинг: 0 / 0
26.10.2018, 17:19
| Ответить | Цитировать | Написать  
Тип данных float сравнивая 2 числа визуально одинаковых не срабатывает знак равенства
    #39723699
Гавриленко Сергей Алексеевич
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гавриленко Сергей Алексеевич
Участник
kolyadyГавриленко Сергей Алексеевич,

я ms sql юзаю зачем мне пост по С++Там пост про float и про то, как можно сравнивать float-значения.
...
Рейтинг: 0 / 0
26.10.2018, 17:20
| Ответить | Цитировать | Написать  
Тип данных float сравнивая 2 числа визуально одинаковых не срабатывает знак равенства
    #39723700
kolyady
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
kolyady
Участник
Гавриленко Сергей Алексеевич,

и все варианты сравнения тож на с++. Которые я в студии никак не напишу.
...
Рейтинг: 0 / 0
26.10.2018, 17:23
| Ответить | Цитировать | Написать  
Тип данных float сравнивая 2 числа визуально одинаковых не срабатывает знак равенства
    #39723709
Гавриленко Сергей Алексеевич
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гавриленко Сергей Алексеевич
Участник
kolyadyГавриленко Сергей Алексеевич,

и все варианты сравнения тож на с++. Которые я в студии никак не напишу.Тогда в управдомы, если вы не в состоянии написать abs(@f1 - @f2) < @FLT_EPSILON.

Как вычислять @FLT_EPSILON, если нет такой константы, ищется за 30 секунд .

Код для лентяев на MSSQL:

Код: sql
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
declare
    @FLT_EPSILON        float   = 1

    , @1f               float   = 1
    , @2f               float   = 2

while ( @1f + @FLT_EPSILON / @2f ) > @1f
    set @FLT_EPSILON /= @2f

select @FLT_EPSILON



Применимость данного способа и остальные варианты изучайте уже самостоятельно.
...
Рейтинг: 0 / 0
26.10.2018, 17:35
| Ответить | Цитировать | Написать  
8 сообщений из 8, страница 1 из 1
Форумы / Microsoft SQL Server [игнор отключен] [закрыт для гостей] / Тип данных float сравнивая 2 числа визуально одинаковых не срабатывает знак равенства
Найденые пользователи ...
Разблокировать пользователей ...
Читали тему (0):
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]