Гость
Войти | Профиль | Очистить
Действия ...
Форумы / Firebird, InterBase [игнор отключен] [закрыт для гостей] / Все-таки про точность мат-и-матических операций / 25 сообщений из 97, страница 1 из 4
  1  все
14.03.2018, 17:11
    #39614893
bsa1959
bsa1959
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Все-таки про точность мат-и-матических операций
Собственно примерчик
 

select 2*0.99 from rdb$database
1,98
select 2.*0.99 from rdb$database
1,98
select 2.0*0.99 from rdb$database
1,980
select 2.00*0.99 from rdb$database
1.9800
select 2.00*0.990 from rdb$database
1.98000


Как-это все неожиданно. Или я не прав? Или есть описалово к точности такого рода операциям.
FB 2.5.8/32 Windows 10
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
14.03.2018, 17:14
    #39614897
Basil A. Sidorov
Basil A. Sidorov
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Все-таки про точность мат-и-матических операций
"Точность" и " отображаемые значения" - нонсенс.
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
14.03.2018, 17:16
    #39614900
o_v_a
o_v_a
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Все-таки про точность мат-и-матических операций
Basil A. Sidorov,

Всё согласно правилам. Сколько десятичных разрядов у множимого и множителя в сумме, столько же разрядов и у произведения.
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
14.03.2018, 17:17
    #39614901
Симонов Денис
Симонов Денис
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Все-таки про точность мат-и-матических операций
bsa1959,

да. Точность складывается. В чём неожиданность то?
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
14.03.2018, 17:20
    #39614904
bsa1959
bsa1959
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Все-таки про точность мат-и-матических операций
Basil A. Sidorov"Точность" и " отображаемые значения" - нонсенс.

Не понял....
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
14.03.2018, 17:23
    #39614908
bsa1959
bsa1959
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Все-таки про точность мат-и-матических операций
Симонов Денисbsa1959,
да. Точность складывается. В чём неожиданность то?

В том, что если слева это значение присваивается в процедуре переменной со своей точностью - тут глаз да глаз нужен. Иначе получишь полную.....
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
14.03.2018, 17:24
    #39614911
bsa1959
bsa1959
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Все-таки про точность мат-и-матических операций
o_v_aBasil A. Sidorov,
Всё согласно правилам. Сколько десятичных разрядов у множимого и множителя в сумме, столько же разрядов и у произведения.

1/3 и присвой ее DOUBLE PRECISION.....
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
14.03.2018, 17:27
    #39614912
Симонов Денис
Симонов Денис
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Все-таки про точность мат-и-матических операций
bsa1959,

не нравится иди на 1 диалект, там будет так как ты хочешь
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
14.03.2018, 17:30
    #39614913
bsa1959
bsa1959
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Все-таки про точность мат-и-матических операций
Симонов Денисbsa1959,
не нравится иди на 1 диалект, там будет так как ты хочешь
В принципе - другого ничего и не ожидал... Грустно...
Хотя... В языках программирования мат.операции производятся с макс. точностью, а уже потом тыркаются в точность результата (переменной).
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
14.03.2018, 17:31
    #39614915
bsa1959
bsa1959
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Все-таки про точность мат-и-матических операций
o_v_aBasil A. Sidorov,
Всё согласно правилам. Сколько десятичных разрядов у множимого и множителя в сумме, столько же разрядов и у произведения.
Где почитать про эти правила?
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
14.03.2018, 17:37
    #39614920
bsa1959
bsa1959
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Все-таки про точность мат-и-матических операций
Симонов Денисbsa1959,
не нравится иди на 1 диалект, там будет так как ты хочешь
А может еще лучше на счеты перейти?
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
14.03.2018, 17:41
    #39614924
bsa1959
bsa1959
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Все-таки про точность мат-и-матических операций
Примерчик:
 
create or alter procedure TESTA
returns (
A double precision)
as
begin
a = 1/3;
suspend;
end^

0.000
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
14.03.2018, 17:45
    #39614928
Симонов Денис
Симонов Денис
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Все-таки про точность мат-и-матических операций
bsa1959,

а может кому-то SQL стандарт на досуге лучше почитать? Чего ты сюда языки программирования общего назначения приплетаешь.
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
14.03.2018, 17:48
    #39614929
bsa1959
bsa1959
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Все-таки про точность мат-и-матических операций
Симонов Денисbsa1959,
а может кому-то SQL стандарт на досуге лучше почитать? Чего ты сюда языки программирования общего назначения приплетаешь.

A SQL - не язык общего назначения? Тогда нужно договориться о понятии - "язык общего назначения".
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
14.03.2018, 17:55
    #39614934
Симонов Денис
Симонов Денис
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Все-таки про точность мат-и-матических операций
bsa1959,

нет конечно. SQL предназначен исключительно для манипулирования данными
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
14.03.2018, 17:58
    #39614936
Dimitry Sibiryakov
Dimitry Sibiryakov
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Все-таки про точность мат-и-матических операций
bsa1959В языках программирования мат.операции производятся с макс. точностью, а уже потом
тыркаются в точность результата (переменной).
Да ну?
Код: plaintext
1.
2.
3.
4.
5.
6.
7.
#include <stdio.h>
int main()
{
  int a = 1, b = 3;
  float c = a/b;
  printf("Result: %f\n", c);
}


Result: 0.000000
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
14.03.2018, 18:00
    #39614937
hvlad
hvlad
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Все-таки про точность мат-и-матических операций
bsa1959Где почитать про эти правила?Документацию - не пробовал ? А что пробовал ? Хоть что-то - пробовал ?
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
14.03.2018, 18:12
    #39614942
bsa1959
bsa1959
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Все-таки про точность мат-и-матических операций
Dimitry Sibiryakov,

 
create or alter procedure TESTA
returns (
A double precision)
as
begin
a = 1./3.;
suspend;
end^


Result: 0,000
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
14.03.2018, 18:31
    #39614955
Dimitry Sibiryakov
Dimitry Sibiryakov
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Все-таки про точность мат-и-матических операций
bsa1959Result: 0,000

И чо? Добавление точки к числу в SQL внезапно не делает его плавающим.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
14.03.2018, 18:37
    #39614959
bsa1959
bsa1959
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Все-таки про точность мат-и-матических операций
Dimitry Sibiryakov,

А в своем примере объяви любую переменную а или b float...

А лучше с = 1./b;
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
14.03.2018, 18:38
    #39614960
bsa1959
bsa1959
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Все-таки про точность мат-и-матических операций
Симонов Денисbsa1959,
нет конечно. SQL предназначен исключительно для манипулирования данными
А для чего предназначены "языки общего назначения"(C)?
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
14.03.2018, 18:41
    #39614961
Dimitry Sibiryakov
Dimitry Sibiryakov
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Все-таки про точность мат-и-матических операций
bsa1959А в своем примере объяви любую переменную а или b float...

Тогда мой пример будет отличаться от твоего. Это ты в своём примере объяви делитель double
и тогда увидишь разницу.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
14.03.2018, 18:41
    #39614962
bsa1959
bsa1959
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Все-таки про точность мат-и-матических операций
Dimitry SibiryakovИ чо? Добавление точки к числу в SQL внезапно не делает его плавающим.


Во всех языках делает, а в SQL не делает? И какой тип будет у этой константы? Целое?
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
14.03.2018, 18:44
    #39614964
bsa1959
bsa1959
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Все-таки про точность мат-и-матических операций
Dimitry SibiryakovТогда мой пример будет отличаться от твоего. Это ты в своём примере объяви делитель double
и тогда увидишь разницу.

Я так все и понял. По идее во всех мат.операциях я должен всем переменным и константам сделать cast(..... as double precision).....
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
14.03.2018, 18:44
    #39614965
Dimitry Sibiryakov
Dimitry Sibiryakov
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Все-таки про точность мат-и-матических операций
bsa1959Во всех языках делает, а в SQL не делает? И какой тип будет у этой константы? Целое?

Ух ты, тебе удалось угадать два раза подряд. Продолжай попытки и, может, тебе удастся-таки
избежать чтения документации. "Миллиард обезьян..."
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
  1  все
Форумы / Firebird, InterBase [игнор отключен] [закрыт для гостей] / Все-таки про точность мат-и-матических операций / 25 сообщений из 97, страница 1 из 4
Целевая тема:
Создать новую тему:
Автор:
Найденые пользователи ...
Разблокировать пользователей ...
Читали тему (0):
Читали форум (0):
Пользователи онлайн (0):
Польз. соглашение
созд. / загр.: 475ms
Закрыть
start [/forum/topic.php?fid=40&tablet=1&tid=1561204]:
 0ms
get settings:
 9ms
get forum list:
 12ms
check forum access:
 3ms
check topic access:
 3ms
track hit:
 38ms
get topic data:
 8ms
get forum data:
 2ms
get page messages:
 58ms
get tp. blocked users:
 1ms
others: 341ms
total:  475ms
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]