|
неправильное окргуление ASA9
|
|||
---|---|---|---|
#18+
Добрый день! есть 3 поля (f1,f2,f3) в таблице тип у них numeric(20,8) если написать select f1/f2 , то результат показывает правильно а при update f3=f1/f2 округляет до 6-ти знаков после запятой, а мне надо до 8-ми как сделать чтоб округляла до 8-ми знаков ... |
|||
:
Нравится:
Не нравится:
|
|||
09.09.2012, 15:33 |
|
неправильное окргуление ASA9
|
|||
---|---|---|---|
#18+
Через принудительное приведение? f3= convert(numeric(20,8), convert(numeric(20,8),f1) / convert(numeric(20,8),f2)) А еще можно так: f3 = ((f1*100) / (f2*100)) /100 ... |
|||
:
Нравится:
Не нравится:
|
|||
10.09.2012, 03:10 |
|
неправильное окргуление ASA9
|
|||
---|---|---|---|
#18+
White Owlf3 = ((f1*100) / (f2*100)) /100 чтоб на каждое умножение приходилось 2 деления?) ... |
|||
:
Нравится:
Не нравится:
|
|||
10.09.2012, 08:51 |
|
неправильное окргуление ASA9
|
|||
---|---|---|---|
#18+
White OwlЧерез принудительное приведение? f3= convert(numeric(20,8), convert(numeric(20,8),f1) / convert(numeric(20,8),f2)) А еще можно так: f3 = ((f1*100) / (f2*100)) /100 1. не помогает он даже на select обрезает select convert(numeric(20,8), convert(numeric(20,8),154.69764166) / convert(numeric(20,8),137754)),154.69764166/137754 2. тоже не сработал пробовали в опциях scala поменять на 8 не помогло ... |
|||
:
Нравится:
Не нравится:
|
|||
10.09.2012, 11:20 |
|
неправильное окргуление ASA9
|
|||
---|---|---|---|
#18+
markamarka, Код: sql 1. 2. 3. 4. 5. 6. 7. 8. 9. 10.
f1f2f3154.697641661377540.001123 ... |
|||
:
Нравится:
Не нравится:
|
|||
10.09.2012, 11:52 |
|
неправильное окргуление ASA9
|
|||
---|---|---|---|
#18+
oh,sorry! Код: sql 1. 2. 3.
f1f2f3154,697641661377540,00112299 ... |
|||
:
Нравится:
Не нравится:
|
|||
10.09.2012, 11:55 |
|
неправильное окргуление ASA9
|
|||
---|---|---|---|
#18+
А первый-то вариант, ИМХО, правильнее ... |
|||
:
Нравится:
Не нравится:
|
|||
10.09.2012, 11:56 |
|
неправильное окргуление ASA9
|
|||
---|---|---|---|
#18+
попробовала слово в слово у меня все равно в f3 записала 0,00112300 :( ... |
|||
:
Нравится:
Не нравится:
|
|||
10.09.2012, 12:23 |
|
неправильное окргуление ASA9
|
|||
---|---|---|---|
#18+
markamarka, а что, по вашему, там должно быть? 0,0011229992716000987 при округлении до 8 знаков дает ровно 0,00112300 ... |
|||
:
Нравится:
Не нравится:
|
|||
10.09.2012, 12:26 |
|
|
start [/forum/topic.php?fid=55&fpage=14&tid=2010072]: |
0ms |
get settings: |
9ms |
get forum list: |
12ms |
check forum access: |
3ms |
check topic access: |
3ms |
track hit: |
38ms |
get topic data: |
9ms |
get forum data: |
2ms |
get page messages: |
44ms |
get tp. blocked users: |
1ms |
others: | 229ms |
total: | 350ms |
0 / 0 |