|
|
|
вычисление формулы
|
|||
|---|---|---|---|
|
#18+
поставил Firebird 1.5 и увидел вот такой смешной глюк (или я торможу) например: table A c одним полем amount numeric(15,2) пишем insert into A (amount) values ( 530*(15/19)*0.25 ); заноситься 0 предположим глюки округления пишем insert into A (amount) values ( 530*(15.0/19.0)*0.25 ); заноситься 103.35 пишем insert into A (amount) values ( 530*((15 * 1.0)/19.0)*0.25 ); заноситься 92.75 а теперь правильный ответ 104.605 !!!!!!! чё делать не понятно ПОМОГИТЕ ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 04.06.2003, 14:03 |
|
||
|
вычисление формулы
|
|||
|---|---|---|---|
|
#18+
Числа типа 15.0 конвертятся к float -> нужно явное преобразование типов: Код: plaintext 1. 2. 3. 4. 5. А вобще-то с округлениями в ИБ чё-то нехорошее и вправду ... ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 04.06.2003, 14:44 |
|
||
|
вычисление формулы
|
|||
|---|---|---|---|
|
#18+
Дело в том что мне не select делать надо а insert. Необходимо внести в таблицу значение которое нельзя расчитать з аранее - запрос составляеться программно на основе введенной пользователем формулы. Причем точность нужна именно 2 знака после запятой. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 04.06.2003, 15:21 |
|
||
|
вычисление формулы
|
|||
|---|---|---|---|
|
#18+
Ну это же селект для примера. Так же и вставку надо делать. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 04.06.2003, 16:00 |
|
||
|
вычисление формулы
|
|||
|---|---|---|---|
|
#18+
Проблема в том, что от пользователя я всё получаю именно в виде строки содержащей выражение, причем какое именно я заранее не знаю потом я "приклеиваю" к нему insert into... вначале и выполняю запрос ну вот такая задача :( ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 04.06.2003, 19:43 |
|
||
|
|
start [/forum/topic.php?fid=40&msg=32176411&tid=1580419]: |
0ms |
get settings: |
6ms |
get forum list: |
11ms |
check forum access: |
2ms |
check topic access: |
2ms |
track hit: |
155ms |
get topic data: |
7ms |
get forum data: |
2ms |
get page messages: |
29ms |
get tp. blocked users: |
1ms |
| others: | 204ms |
| total: | 419ms |
| 0 / 0 |
