|
Стандарты деления чиел
|
|||
---|---|---|---|
#18+
Есть какие-то стандарты чисел в SQL и почему так в Firebird? Почему Код: sql 1.
это 2, а не 2.5 Но почему? Я так понял тут точность precision1/precision2 дает результат precision1+precision2 где точность INTEGER это 0, а DOUBLE PRECISION - бесконечность, а FLOAT? Но опять почему? С уважением, Naf ... |
|||
:
Нравится:
Не нравится:
|
|||
23.07.2016, 12:43 |
|
Стандарты деления чиел
|
|||
---|---|---|---|
#18+
NafЕсть какие-то стандарты чисел в SQL и почему так в Firebird? RTFM ANSI SQL Standard. Posted via ActualForum NNTP Server 1.5 ... |
|||
:
Нравится:
Не нравится:
|
|||
23.07.2016, 13:06 |
|
Стандарты деления чиел
|
|||
---|---|---|---|
#18+
Naf, Код: sql 1.
... |
|||
:
Нравится:
Не нравится:
|
|||
23.07.2016, 13:48 |
|
Стандарты деления чиел
|
|||
---|---|---|---|
#18+
Naf, Описание того, как это было сделано при появлении 3 диалекта в IB 6 InterBase 6.0 Exact Numerics - functional specification http://www.ibase.ru/ibp_60_exact_num_fs/ Упрощенное руководство по переходу с диалекта 1 на диалект 3 https://www.ibase.ru/migration/ Документация Целочисленные типы данных http://www.ibase.ru/files/firebird/langref25rus/index.html#langref25-types-integer Типы данных с плавающей точкой http://www.ibase.ru/files/firebird/langref25rus/index.html#langref25-types-float Типы данных с фиксированной точкой http://www.ibase.ru/files/firebird/langref25rus/index.html#langref25-types-fixed Округление при операциях с numeric в 3 диалекте (eng) http://stackoverflow.com/questions/26128353/why-does-firebird-truncate-decimal-places-when-dividing Округление вещественных чисел, вообще (читать при работе с double precision и float) Неочевидные особенности вещественных чисел http://www.delphikingdom.com/asp/viewitem.asp?catalogid=374 Загадки округления http://www.delphikingdom.com/asp/viewitem.asp?catalogID=1217 Проблемы округления и их решение http://www.ibase.ru/round/ p.s. double precision - в Дельфи эквивалент double, 8 байт. А вот float - single. 4 байта, низкая точность, использовать можно только когда такой точности хватает. То есть, не рекомендуется. ... |
|||
:
Нравится:
Не нравится:
|
|||
23.07.2016, 17:07 |
|
Стандарты деления чиел
|
|||
---|---|---|---|
#18+
NafЕсть какие-то стандарты чисел в SQL и почему так в Firebird? Почему Код: sql 1.
это 2, а не 2.5 Но почему? а что, в C/C++/C# по другому ? ... |
|||
:
Нравится:
Не нравится:
|
|||
23.07.2016, 17:36 |
|
Стандарты деления чиел
|
|||
---|---|---|---|
#18+
O'riochNafЕсть какие-то стандарты чисел в SQL и почему так в Firebird? Почему Код: sql 1.
это 2, а не 2.5 Но почему? а что, в C/C++/C# по другому ? в Delphi по-другому! ... |
|||
:
Нравится:
Не нравится:
|
|||
23.07.2016, 17:51 |
|
Стандарты деления чиел
|
|||
---|---|---|---|
#18+
угу, но Паскаль же тут - явное исключение среди прочих ... |
|||
:
Нравится:
Не нравится:
|
|||
23.07.2016, 19:13 |
|
Стандарты деления чиел
|
|||
---|---|---|---|
#18+
O'rioch, мне кажется, что скорее стандарт SQL в этом плане отличается от компилируемых ЯП. Причем, у разных SQL-серверов есть свои нюансы в этом плане. ... |
|||
:
Нравится:
Не нравится:
|
|||
23.07.2016, 19:48 |
|
Стандарты деления чиел
|
|||
---|---|---|---|
#18+
NafЕсть какие-то стандарты чисел ? окунитесь в глубину: http://www.sql.ru/forum/708324-a/kakoy-u-vas-rezultat-ychisleniya-vot-etogo-36-4-3 :) ... |
|||
:
Нравится:
Не нравится:
|
|||
24.07.2016, 19:05 |
|
|
start [/forum/topic.php?fid=40&fpage=57&tid=1562055]: |
0ms |
get settings: |
11ms |
get forum list: |
16ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
40ms |
get topic data: |
13ms |
get forum data: |
3ms |
get page messages: |
53ms |
get tp. blocked users: |
2ms |
others: | 277ms |
total: | 423ms |
0 / 0 |