ReSQL.ru
     
powered by simpleCommunicator - 2.0.51     © 2025 Programmizd 02
Мобильная версия    Контакт    Правила    FAQ    Помощь
Доб. в избранное | Игнор. тему | Прикреп. тему | Пометить прочит. / непрочит. | Фильтр
Форумы / Firebird, InterBase [игнор отключен] [закрыт для гостей] / Все-таки про точность мат-и-матических операций
25 сообщений из 97, страница 1 из 4
  1  все
Все-таки про точность мат-и-матических операций
    #39614893
bsa1959
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
bsa1959
Гость
Собственно примерчик
 

select 2*0.99 from rdb$database
1,98
select 2.*0.99 from rdb$database
1,98
select 2.0*0.99 from rdb$database
1,980
select 2.00*0.99 from rdb$database
1.9800
select 2.00*0.990 from rdb$database
1.98000


Как-это все неожиданно. Или я не прав? Или есть описалово к точности такого рода операциям.
FB 2.5.8/32 Windows 10
...
Рейтинг: 0 / 0
14.03.2018, 17:11
| Ответить | Цитировать | Написать  
Все-таки про точность мат-и-матических операций
    #39614897
Basil A. Sidorov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Basil A. Sidorov
Участник
"Точность" и " отображаемые значения" - нонсенс.
...
Рейтинг: 0 / 0
14.03.2018, 17:14
| Ответить | Цитировать | Написать  
Все-таки про точность мат-и-матических операций
    #39614900
Фотография o_v_a
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
o_v_a
Участник
Basil A. Sidorov,

Всё согласно правилам. Сколько десятичных разрядов у множимого и множителя в сумме, столько же разрядов и у произведения.
...
Рейтинг: 0 / 0
14.03.2018, 17:16
| Ответить | Цитировать | Написать  
Все-таки про точность мат-и-матических операций
    #39614901
Фотография Симонов Денис
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Симонов Денис
Участник
bsa1959,

да. Точность складывается. В чём неожиданность то?
...
Рейтинг: 0 / 0
14.03.2018, 17:17
| Ответить | Цитировать | Написать  
Все-таки про точность мат-и-матических операций
    #39614904
bsa1959
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
bsa1959
Гость
Basil A. Sidorov"Точность" и " отображаемые значения" - нонсенс.

Не понял....
...
Рейтинг: 0 / 0
14.03.2018, 17:20
| Ответить | Цитировать | Написать  
Все-таки про точность мат-и-матических операций
    #39614908
bsa1959
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
bsa1959
Гость
Симонов Денисbsa1959,
да. Точность складывается. В чём неожиданность то?

В том, что если слева это значение присваивается в процедуре переменной со своей точностью - тут глаз да глаз нужен. Иначе получишь полную.....
...
Рейтинг: 0 / 0
14.03.2018, 17:23
| Ответить | Цитировать | Написать  
Все-таки про точность мат-и-матических операций
    #39614911
bsa1959
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
bsa1959
Гость
o_v_aBasil A. Sidorov,
Всё согласно правилам. Сколько десятичных разрядов у множимого и множителя в сумме, столько же разрядов и у произведения.

1/3 и присвой ее DOUBLE PRECISION.....
...
Рейтинг: 0 / 0
14.03.2018, 17:24
| Ответить | Цитировать | Написать  
Все-таки про точность мат-и-матических операций
    #39614912
Фотография Симонов Денис
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Симонов Денис
Участник
bsa1959,

не нравится иди на 1 диалект, там будет так как ты хочешь
...
Рейтинг: 0 / 0
14.03.2018, 17:27
| Ответить | Цитировать | Написать  
Все-таки про точность мат-и-матических операций
    #39614913
bsa1959
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
bsa1959
Гость
Симонов Денисbsa1959,
не нравится иди на 1 диалект, там будет так как ты хочешь
В принципе - другого ничего и не ожидал... Грустно...
Хотя... В языках программирования мат.операции производятся с макс. точностью, а уже потом тыркаются в точность результата (переменной).
...
Рейтинг: 0 / 0
14.03.2018, 17:30
| Ответить | Цитировать | Написать  
Все-таки про точность мат-и-матических операций
    #39614915
bsa1959
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
bsa1959
Гость
o_v_aBasil A. Sidorov,
Всё согласно правилам. Сколько десятичных разрядов у множимого и множителя в сумме, столько же разрядов и у произведения.
Где почитать про эти правила?
...
Рейтинг: 0 / 0
14.03.2018, 17:31
| Ответить | Цитировать | Написать  
Все-таки про точность мат-и-матических операций
    #39614920
bsa1959
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
bsa1959
Гость
Симонов Денисbsa1959,
не нравится иди на 1 диалект, там будет так как ты хочешь
А может еще лучше на счеты перейти?
...
Рейтинг: 0 / 0
14.03.2018, 17:37
| Ответить | Цитировать | Написать  
Все-таки про точность мат-и-матических операций
    #39614924
bsa1959
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
bsa1959
Гость
Примерчик:
 
create or alter procedure TESTA
returns (
A double precision)
as
begin
a = 1/3;
suspend;
end^

0.000
...
Рейтинг: 0 / 0
14.03.2018, 17:41
| Ответить | Цитировать | Написать  
Все-таки про точность мат-и-матических операций
    #39614928
Фотография Симонов Денис
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Симонов Денис
Участник
bsa1959,

а может кому-то SQL стандарт на досуге лучше почитать? Чего ты сюда языки программирования общего назначения приплетаешь.
...
Рейтинг: 0 / 0
14.03.2018, 17:45
| Ответить | Цитировать | Написать  
Все-таки про точность мат-и-матических операций
    #39614929
bsa1959
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
bsa1959
Гость
Симонов Денисbsa1959,
а может кому-то SQL стандарт на досуге лучше почитать? Чего ты сюда языки программирования общего назначения приплетаешь.

A SQL - не язык общего назначения? Тогда нужно договориться о понятии - "язык общего назначения".
...
Рейтинг: 0 / 0
14.03.2018, 17:48
| Ответить | Цитировать | Написать  
Все-таки про точность мат-и-матических операций
    #39614934
Фотография Симонов Денис
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Симонов Денис
Участник
bsa1959,

нет конечно. SQL предназначен исключительно для манипулирования данными
...
Рейтинг: 0 / 0
14.03.2018, 17:55
| Ответить | Цитировать | Написать  
Все-таки про точность мат-и-матических операций
    #39614936
Dimitry Sibiryakov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Dimitry Sibiryakov
Участник
bsa1959В языках программирования мат.операции производятся с макс. точностью, а уже потом
тыркаются в точность результата (переменной).
Да ну?
Код: plaintext
1.
2.
3.
4.
5.
6.
7.
#include <stdio.h>
int main()
{
  int a = 1, b = 3;
  float c = a/b;
  printf("Result: %f\n", c);
}


Result: 0.000000
...
Рейтинг: 0 / 0
14.03.2018, 17:58
| Ответить | Цитировать | Написать  
Все-таки про точность мат-и-матических операций
    #39614937
hvlad
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
hvlad
Участник
bsa1959Где почитать про эти правила?Документацию - не пробовал ? А что пробовал ? Хоть что-то - пробовал ?
...
Рейтинг: 0 / 0
14.03.2018, 18:00
| Ответить | Цитировать | Написать  
Все-таки про точность мат-и-матических операций
    #39614942
bsa1959
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
bsa1959
Гость
Dimitry Sibiryakov,

 
create or alter procedure TESTA
returns (
A double precision)
as
begin
a = 1./3.;
suspend;
end^


Result: 0,000
...
Рейтинг: 0 / 0
14.03.2018, 18:12
| Ответить | Цитировать | Написать  
Все-таки про точность мат-и-матических операций
    #39614955
Dimitry Sibiryakov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Dimitry Sibiryakov
Участник
bsa1959Result: 0,000

И чо? Добавление точки к числу в SQL внезапно не делает его плавающим.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
14.03.2018, 18:31
| Ответить | Цитировать | Написать  
Все-таки про точность мат-и-матических операций
    #39614959
bsa1959
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
bsa1959
Гость
Dimitry Sibiryakov,

А в своем примере объяви любую переменную а или b float...

А лучше с = 1./b;
...
Рейтинг: 0 / 0
14.03.2018, 18:37
| Ответить | Цитировать | Написать  
Все-таки про точность мат-и-матических операций
    #39614960
bsa1959
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
bsa1959
Гость
Симонов Денисbsa1959,
нет конечно. SQL предназначен исключительно для манипулирования данными
А для чего предназначены "языки общего назначения"(C)?
...
Рейтинг: 0 / 0
14.03.2018, 18:38
| Ответить | Цитировать | Написать  
Все-таки про точность мат-и-матических операций
    #39614961
Dimitry Sibiryakov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Dimitry Sibiryakov
Участник
bsa1959А в своем примере объяви любую переменную а или b float...

Тогда мой пример будет отличаться от твоего. Это ты в своём примере объяви делитель double
и тогда увидишь разницу.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
14.03.2018, 18:41
| Ответить | Цитировать | Написать  
Все-таки про точность мат-и-матических операций
    #39614962
bsa1959
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
bsa1959
Гость
Dimitry SibiryakovИ чо? Добавление точки к числу в SQL внезапно не делает его плавающим.


Во всех языках делает, а в SQL не делает? И какой тип будет у этой константы? Целое?
...
Рейтинг: 0 / 0
14.03.2018, 18:41
| Ответить | Цитировать | Написать  
Все-таки про точность мат-и-матических операций
    #39614964
bsa1959
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
bsa1959
Гость
Dimitry SibiryakovТогда мой пример будет отличаться от твоего. Это ты в своём примере объяви делитель double
и тогда увидишь разницу.

Я так все и понял. По идее во всех мат.операциях я должен всем переменным и константам сделать cast(..... as double precision).....
...
Рейтинг: 0 / 0
14.03.2018, 18:44
| Ответить | Цитировать | Написать  
Все-таки про точность мат-и-матических операций
    #39614965
Dimitry Sibiryakov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Dimitry Sibiryakov
Участник
bsa1959Во всех языках делает, а в SQL не делает? И какой тип будет у этой константы? Целое?

Ух ты, тебе удалось угадать два раза подряд. Продолжай попытки и, может, тебе удастся-таки
избежать чтения документации. "Миллиард обезьян..."
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
14.03.2018, 18:44
| Ответить | Цитировать | Написать  
25 сообщений из 97, страница 1 из 4
  1  все
Форумы / Firebird, InterBase [игнор отключен] [закрыт для гостей] / Все-таки про точность мат-и-матических операций
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Найденые пользователи ...
Разблокировать пользователей ...
Читали тему (0):
Читали форум (0):
Пользователи онлайн (0):
Польз. соглашение
NoSQL.ru       Новости, Чат       Фотоальбом: Участники, Встречи
Закрыть
start [/forum/topic.php?fid=40&msg=39614913&tid=1561204]:
 0ms
get settings:
 10ms
get forum list:
 13ms
check forum access:
 4ms
check topic access:
 4ms
track hit:
 61ms
get topic data:
 10ms
get forum data:
 2ms
get page messages:
 60ms
get tp. blocked users:
 1ms
others: 321ms
total:  486ms
созд. / загр.: 486ms
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]