ReSQL.ru
     
powered by simpleCommunicator - 2.0.56     © 2025 Programmizd 02
Мобильная версия    Контакт    Правила    FAQ    Помощь
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Доб. в избранное | Игнор. тему | Прикреп. тему | Пометить прочит. / непрочит. | Фильтр
Форумы / FoxPro, Visual FoxPro [игнор отключен] [закрыт для гостей] / fox
15 сообщений из 15, страница 1 из 1
fox
    #35484648
Colt76
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Colt76
Гость
Доброе время суток!
Кто нибудь сталкивался с таким:
Есть таблица dbase3 в ней поле indt NUMERIC 15, 2 однака такой запрос
SELECT SUM(indt), SUM(NTOM(indt)) FROM acc возвращает разные значения?
...
Рейтинг: 0 / 0
13.08.2008, 10:57
| Ответить | Цитировать | Написать  
fox
    #35484664
проходящий.
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
проходящий.
Гость
Colt76Доброе время суток!
Кто нибудь сталкивался с таким:
Есть таблица dbase3 в ней поле indt NUMERIC 15, 2 однака такой запрос
SELECT SUM(indt), SUM(NTOM(indt)) FROM acc возвращает разные значения?
Хочется при суммировании чисел разной точности получить одинаковый результат? На чем основано желание?
...
Рейтинг: 0 / 0
13.08.2008, 11:00
| Ответить | Цитировать | Написать  
fox
    #35484668
colt76
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
colt76
Гость
Да не, точность одинаковая оба sum по одному столбцу
...
Рейтинг: 0 / 0
13.08.2008, 11:02
| Ответить | Цитировать | Написать  
fox
    #35484697
Colt76
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Colt76
Гость
Дело в том, что я загрузил в эту таблицу данные из oracle, при проверке получилось что итоги разные в оркле и в dbf, такое впечатление что данные в таблице acc.dbf получились не с двумя знаками после запятой а больше или это fox както глючит, кстати vfp9.0
...
Рейтинг: 0 / 0
13.08.2008, 11:10
| Ответить | Цитировать | Написать  
fox
    #35484713
проходящий.
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
проходящий.
Гость
colt76Да не, точность одинаковая оба sum по одному столбцу
Я вижу, что они подному столбцу. Но вот суммируются в запросе в первом случае имеющееся значение с имеющейся для данного типа точностью, а во втором сконвертированное в совершенно другой тип с совершенно другой точнностью. Разница понятна?
...
Рейтинг: 0 / 0
13.08.2008, 11:17
| Ответить | Цитировать | Написать  
fox
    #35484725
Colt76
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Colt76
Гость
Ага разница вроде понятна, но стобец numeric с точностью 2 после запятой, после преобразования ntom разве меняет точность?
...
Рейтинг: 0 / 0
13.08.2008, 11:21
| Ответить | Цитировать | Написать  
fox
    #35484736
проходящий.
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
проходящий.
Гость
Colt76Ага разница вроде понятна, но стобец numeric с точностью 2 после запятой, после преобразования ntom разве меняет точность?
Ну и вопросики... :)
Столбец точность не меняет. У результата конвертации другая точность.
Да, тип money имеет точность отличную от numeric.
...
Рейтинг: 0 / 0
13.08.2008, 11:25
| Ответить | Цитировать | Написать  
fox
    #35484744
Colt76
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Colt76
Гость
Чот в натуре туплю.
Но меня блин смущает что итоги разные в оракле и в получившемся дбф причем разница на копейки, чо делать?
...
Рейтинг: 0 / 0
13.08.2008, 11:28
| Ответить | Цитировать | Написать  
fox
    #35484791
Dima T
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Dima T
Участник
Colt76Чот в натуре туплю.
Но меня блин смущает что итоги разные в оракле и в получившемся дбф причем разница на копейки, чо делать?
Итоги где разные? SUM(indt) != SUM(NTOM(indt)) или же SUM(indt) = SUM(NTOM(indt)) но не равно ораклу?

Если indt N(15,2) то всегда indt = NTOM(indt), т.к. тип Currency 4 знака после запятой и никаких потерь при конвертации нет. Выполни для проверки:
Код: plaintext
select * from acc where indt != NTOM(indt)
...
Рейтинг: 0 / 0
13.08.2008, 11:45
| Ответить | Цитировать | Написать  
fox
    #35484810
Colt76
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Colt76
Гость
SUM(indt) != oracle
SUM(NTOM(indt)) = oracle

скрипт выполнил получил в результате 9 строк
...
Рейтинг: 0 / 0
13.08.2008, 11:51
| Ответить | Цитировать | Написать  
fox
    #35484819
Dima T
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Dima T
Участник
Colt76SUM(indt) != oracle
SUM(NTOM(indt)) = oracle

скрипт выполнил получил в результате 9 строк

А показать не догадался? Результат select выложи если на нем SUM(indt) != SUM(NTOM(indt)) или исходную дбфку
...
Рейтинг: 0 / 0
13.08.2008, 11:55
| Ответить | Цитировать | Написать  
fox
    #35484830
Colt76
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Colt76
Гость
Резкльтат положил, а вся таблица слишком большая зараза.
...
Рейтинг: 0 / 0
13.08.2008, 11:58
| Ответить | Цитировать | Написать  
fox
    #35484917
Dima T
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Dima T
Участник
Colt76Резкльтат положил, а вся таблица слишком большая зараза.
По твоей таблице:
Код: plaintext
SELECT SUM(indt) as s1, SUM(NTOM(indt)) as s2 FROM acc1
s1=13630786325,55 и s2=13630786325,5500

А дальше лажа какая-то начинается:
Код: plaintext
1.
? s1=s2 && .F.
? s1-s2 &&  0 . 0000

Тут все 9 записей
Код: plaintext
select indt, NTOM(indt) from acc1 where indt != NTOM(indt)

Но не смотря на вышесказанное разной суммы не видно.
Поэтому надо твою исходную таблицу смотреть. Если большая, то оставь в ней только поле indt и запакуй. Только проверь что по ней SUM(indt) и SUM(NTOM(indt)) на копейки расходятся.

А какая из сумм точная не выяснил?
...
Рейтинг: 0 / 0
13.08.2008, 12:26
| Ответить | Цитировать | Написать  
fox
    #35484933
Dima T
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Dima T
Участник
Еще мысль: N 15, 2 - это 12 знаков целого и 2 поле запятой
Если SUM(indt) имеет 13 знаков целого, то младший разряд (единицы копеек) не влезут в N 15, 2 и округлятся. Ошибки никакой фокс при этом не даст.
...
Рейтинг: 0 / 0
13.08.2008, 12:29
| Ответить | Цитировать | Написать  
fox
    #35485190
Фотография ВладимирМ
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
ВладимирМ
Участник
Тип Currency - это целочисленный тип данных, который отображается как дробное число просто формально отделяя последние 4 знака запятой

Тип Numeric в оперативной памяти , вероятно, хранится как Real. Т.е. на самом деле, количество знаков в этом числе всегда 16. Просто при отображении показывается фиксированное количество знаков после запятой. С автоматическим округлением. Это значит, что последняя цифра не обязательно такая и есть, как отображается. Может там бесконечные 9 в "хвосте".

Простая проверка

Код: plaintext
1.
2.
? 268435456 . 4 =Ntom( 268435456 . 4 ) 
? 13630786325 . 55  = Ntom( 13630786325 . 55 )

показывает, что сравнивать напрямую Numeric и Currency - нельзя. Их предварительно следует преобразовать к одному типу данных. Причем преобразование в тип Numeric обязательно следует обрамлять округлением

Код: plaintext
1.
2.
3.
4.
5.
6.
nNum= 268435456 . 4 
yCur=$ 268435456 . 4 
?nNum=yCur
?nNum=MTON(yCur)
?NTOM(nNum)=yCur
?nNum=ROUND(MTON(yCur), 4 )

Символ "$" говорит о том, что далее идет число типа Currency. Его использование аналогично явному преобразованию через функцию NTOM(). Как видите, первые 2 сравнения вернут .F., в то время как последние 2 - .T.
...
Рейтинг: 0 / 0
13.08.2008, 13:38
| Ответить | Цитировать | Написать  
15 сообщений из 15, страница 1 из 1
Форумы / FoxPro, Visual FoxPro [игнор отключен] [закрыт для гостей] / fox
Найденые пользователи ...
Разблокировать пользователей ...
Читали тему (0):
Читали форум (0):
Пользователи онлайн (0):
Польз. соглашение
NoSQL.ru       Новости, Чат       Фотоальбом: Участники, Встречи
Закрыть
start [/forum/topic.php?fid=41&fpage=150&tid=1587395]:
 0ms
get settings:
 9ms
get forum list:
 13ms
check forum access:
 4ms
check topic access:
 4ms
track hit:
 37ms
get topic data:
 11ms
get forum data:
 2ms
get page messages:
 50ms
get tp. blocked users:
 2ms
others: 11ms
total:  143ms
созд. / загр.: 143ms
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]