ReSQL.ru
     
powered by simpleCommunicator - 2.0.51     © 2025 Programmizd 02
Мобильная версия    Контакт    Правила    FAQ    Помощь
Доб. в избранное | Игнор. тему | Прикреп. тему | Пометить прочит. / непрочит. | Фильтр
Форумы / Firebird, InterBase [игнор отключен] [закрыт для гостей] / Вопрос по типу данных float
25 сообщений из 27, страница 1 из 2
  1  все
Вопрос по типу данных float
    #39539422
KreatorXXI
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
KreatorXXI
Участник
FB3. Угораздило сделать поле float. Пользователи уже навводили значений. Причём тупо вводят, поле не расчётное. Мне непонятно, почему в базе может храниться "2.6", а может и "2.70000001823". Есть какая-нибудь система? Или всё случайным образом происходит?
...
Рейтинг: 0 / 0
20.10.2017, 11:25
| Ответить | Цитировать | Написать  
Вопрос по типу данных float
    #39539429
rdb_dev
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
rdb_dev
Участник
KreatorXXIМне непонятно, почему в базе может храниться "2.6", а может и "2.70000001823". Есть какая-нибудь система? Или всё случайным образом происходит?Есть! Тынц
...
Рейтинг: 0 / 0
20.10.2017, 11:36
| Ответить | Цитировать | Написать  
Вопрос по типу данных float
    #39539438
Ivan_Pisarevsky
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Ivan_Pisarevsky
Участник
KreatorXXIУгораздило сделать поле float.сменить.
KreatorXXIПользователи уже навводили значений.проапдейтить на требуемый тип.
KreatorXXIПричём тупо вводят, поле не расчётное.скорее всего подойдет нумерик(х,у)
...
Рейтинг: 0 / 0
20.10.2017, 11:49
| Ответить | Цитировать | Написать  
Вопрос по типу данных float
    #39539460
rdb_dev
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
rdb_dev
Участник
Ivan_Pisarevskyскорее всего подойдет нумерик(х,у)Почему не DOUBLE PRECISION ?
...
Рейтинг: 0 / 0
20.10.2017, 12:19
| Ответить | Цитировать | Написать  
Вопрос по типу данных float
    #39539474
чччД
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
чччД
Участник
rdb_devIvan_Pisarevskyскорее всего подойдет нумерик(х,у)Почему не DOUBLE PRECISION ?
Потому что "проблема" не уйдет, изменится лишь количество хранимых знаков.

ps: при преобразовании 2.6 в double precesion, а потом снова в 10 сс получится ~2.600000000000000088817841970012523233890533447265625...
...
Рейтинг: 0 / 0
20.10.2017, 12:37
| Ответить | Цитировать | Написать  
Вопрос по типу данных float
    #39539518
Ivan_Pisarevsky
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Ivan_Pisarevsky
Участник
rdb_devПочему не DOUBLE PRECISIONт.к.KreatorXXIполе не расчётное.и все равно
Ivan_Pisarevskyскорее всегоа не обязательно. Тк. задача не озвучена.
...
Рейтинг: 0 / 0
20.10.2017, 13:24
| Ответить | Цитировать | Написать  
Вопрос по типу данных float
    #39539560
KreatorXXI
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
KreatorXXI
Участник
Ivan_Pisarevsky,
numeric - да. Но есть одна засада. Собственно почему и float выбираем (что называется - "обжегшись на молоке дуем на воду"). Заказчик заказал точность - три знака после запятой. Прошёл месяц, хочет четыре знака. Через три месяца появился параметр, которому нужна точность с пятью знаками после запятой. С float поменяли формат ввода на клиенте и всё. С numeric'ом нужна правильная конвертация БД.
...
Рейтинг: 0 / 0
20.10.2017, 14:20
| Ответить | Цитировать | Написать  
Вопрос по типу данных float
    #39539570
Гаджимурадов Рустам
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гаджимурадов Рустам
Участник
Да заложи сразу восемь, в чём проблема-то?
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
20.10.2017, 14:37
| Ответить | Цитировать | Написать  
Вопрос по типу данных float
    #39539573
Мимопроходящий
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Мимопроходящий
Участник
20.10.2017 14:37, Гаджимурадов Рустам пишет:
> Да заложи сразу восемь, в чём проблема-то?

так на вас никаких битов не напасёшься!
а если биты во вселенной закончатся?!
вселенная, она к сингулярности стремится.
в идеале, одного бита должно быть достаточно для ВСЕГО СЦУЩЕГО.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
20.10.2017, 14:41
| Ответить | Цитировать | Написать  
Вопрос по типу данных float
    #39539575
Гаджимурадов Рустам
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гаджимурадов Рустам
Участник
Не, 146 это не ко мне. :-)
Пятница кончилась вчера.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
20.10.2017, 14:42
| Ответить | Цитировать | Написать  
Вопрос по типу данных float
    #39539576
Гаджимурадов Рустам
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гаджимурадов Рустам
Участник
KreatorXXI> С numeric'ом нужна правильная конвертация БД.

Кстати, что там сложного, если речь идёт о расширении (увеличении точности) ?
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
20.10.2017, 14:43
| Ответить | Цитировать | Написать  
Вопрос по типу данных float
    #39539577
Мимопроходящий
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Мимопроходящий
Участник
20.10.2017 14:42, Гаджимурадов Рустам пишет:
> Пятница кончилась вчера.


Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
20.10.2017, 14:44
| Ответить | Цитировать | Написать  
Вопрос по типу данных float
    #39539595
Tactical Nuclear Penguin
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Tactical Nuclear Penguin
Участник
а мужыки-то не знают!!!
...
Рейтинг: 0 / 0
20.10.2017, 15:01
| Ответить | Цитировать | Написать  
Вопрос по типу данных float
    #39539612
KreatorXXI
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
KreatorXXI
Участник
Гаджимурадов РустамKreatorXXI> С numeric'ом нужна правильная конвертация БД.

Кстати, что там сложного, если речь идёт о расширении (увеличении точности) ?


Например, выскакивает вот такая ошибка:
Код: sql
1.
2.
3.
4.
This operation is not defined for system tables.
unsuccessful metadata update.
ALTER DOMAIN RDB$267 failed.
New scale specified for column RDB$267 must be at most 2.


Понижение точности без проблем. Вроде.
...
Рейтинг: 0 / 0
20.10.2017, 15:34
| Ответить | Цитировать | Написать  
Вопрос по типу данных float
    #39539645
Гаджимурадов Рустам
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гаджимурадов Рустам
Участник
KreatorXXI> Например, выскакивает вот такая ошибка:

С новым полем попробуй.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
20.10.2017, 16:16
| Ответить | Цитировать | Написать  
Вопрос по типу данных float
    #39539649
Dimitry Sibiryakov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Dimitry Sibiryakov
Участник
KreatorXXIПонижение точности без проблем.

Ты ничего не путаешь?
Код: sql
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
SQL> create table t (a numeric(10,2));
SQL> insert into t values (1.23);
SQL> commit;
SQL> alter table t alter a type numeric(12,4);
SQL> insert into t values (1.2345);
SQL> commit;
SQL> select * from t;

                     A
=====================
                1.2300
                1.2345


Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
20.10.2017, 16:21
| Ответить | Цитировать | Написать  
Вопрос по типу данных float
    #39539650
Гаджимурадов Рустам
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гаджимурадов Рустам
Участник
Может, он домен альтерит...
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
20.10.2017, 16:23
| Ответить | Цитировать | Написать  
Вопрос по типу данных float
    #39539662
KreatorXXI
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
KreatorXXI
Участник
Домен. Но дело не в этом. Нужно было ещё и длину добавлять. Если длину добавляешь, нет ошибки. Смотрю в Эксперте, что происходит с данными в numeric и не очень понятно. Отображает три знака после запятой всегда. Значения вроде правильные. Всё равно "страшно", не прибавит/убавит разрядов?
...
Рейтинг: 0 / 0
20.10.2017, 16:47
| Ответить | Цитировать | Написать  
Вопрос по типу данных float
    #39539667
Мимопроходящий
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Мимопроходящий
Участник
20.10.2017 16:47, KreatorXXI пишет:
> Смотрю в Эксперте

на заборе ещё посмотри.
там тоже разное бывает.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
20.10.2017, 16:52
| Ответить | Цитировать | Написать  
Вопрос по типу данных float
    #39539668
Ivan_Pisarevsky
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Ivan_Pisarevsky
Участник
KreatorXXIСмотрю в Эксперте, что происходит с данными в numeric и не очень понятно.происходит с данными или отображает не совсем так, как хочешь ты? А может и не происходит ничего?
...
Рейтинг: 0 / 0
20.10.2017, 16:52
| Ответить | Цитировать | Написать  
Вопрос по типу данных float
    #39539691
Гаджимурадов Рустам
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гаджимурадов Рустам
Участник
Че сразу на заборе. IIRC, cколько отображать можно настраивать где-то в опциях.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
20.10.2017, 17:36
| Ответить | Цитировать | Написать  
Вопрос по типу данных float
    #39539747
Фотография Старый плюшевый мишка
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Старый плюшевый мишка
Участник
KreatorXXIIvan_Pisarevsky,
numeric - да. Но есть одна засада. Собственно почему и float выбираем (что называется - "обжегшись на молоке дуем на воду"). Заказчик заказал точность - три знака после запятой. Прошёл месяц, хочет четыре знака. Через три месяца появился параметр, которому нужна точность с пятью знаками после запятой. С float поменяли формат ввода на клиенте и всё. С numeric'ом нужна правильная конвертация БД.

Душенька, Numeric 15.х - это на самом деле дабл. А название влияет на некоторые инструменты отображения и на закадровое приведение типов проомежуточных результатов в формулках хоть чутка сложнее 2+2. В запросах и PSQL. Доку время от времени почитывать ну совершенно не вредно.
...
Рейтинг: 0 / 0
20.10.2017, 20:00
| Ответить | Цитировать | Написать  
Вопрос по типу данных float
    #39539748
Фотография kdv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
kdv
Участник
Старый плюшевый мишкаДушенька, Numeric 15.х - это на самом деле дабл.
это в первом диалекте. В третьем - int64.
...
Рейтинг: 0 / 0
20.10.2017, 20:03
| Ответить | Цитировать | Написать  
Вопрос по типу данных float
    #39539757
Фотография Старый плюшевый мишка
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Старый плюшевый мишка
Участник
kdvСтарый плюшевый мишкаДушенька, Numeric 15.х - это на самом деле дабл.
это в первом диалекте. В третьем - int64.

Пардон муа, твоя правда. Привычка-с. Но сути не меняет. Есть базовые типы и есть... мнэээ... интерфейсуализации (нифига се залудил). Имея это в виду можно обойти стороной массу граблей.
...
Рейтинг: 0 / 0
20.10.2017, 20:52
| Ответить | Цитировать | Написать  
Вопрос по типу данных float
    #39539765
Dimitry Sibiryakov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Dimitry Sibiryakov
Участник
kdvВ третьем - int64.

А в четвёрке ещё сделали... нет, не int128, а какой-то decFloat. Хотя для первого железная
поддержка уже есть, а для второго только обещают.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
20.10.2017, 21:20
| Ответить | Цитировать | Написать  
25 сообщений из 27, страница 1 из 2
  1  все
Форумы / Firebird, InterBase [игнор отключен] [закрыт для гостей] / Вопрос по типу данных float
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Найденые пользователи ...
Разблокировать пользователей ...
Читали тему (0):
Читали форум (0):
Пользователи онлайн (0):
Польз. соглашение
NoSQL.ru       Новости, Чат       Фотоальбом: Участники, Встречи
Закрыть
start [/forum/topic.php?fid=40&msg=39539667&tid=1561372]:
 0ms
get settings:
 10ms
get forum list:
 12ms
check forum access:
 3ms
check topic access:
 3ms
track hit:
 50ms
get topic data:
 11ms
get forum data:
 3ms
get page messages:
 60ms
get tp. blocked users:
 1ms
others: 11ms
total:  164ms
созд. / загр.: 164ms
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]