Гость
Целевая тема:
Создать новую тему:
Автор:
Форумы / Microsoft SQL Server [игнор отключен] [закрыт для гостей] / специально для Glory. Большие глюки с арифметикой. / 5 сообщений из 5, страница 1 из 1
15.07.2002, 17:06:40
    #32036759
camka
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
специально для Glory. Большие глюки с арифметикой.
Дело вот в чем. Почитал я Тему "Большие глюки с арифметикой" и понял, что у меня та же проблема. Изза того что вычисления производились довольно долгое время без конверции в decimal в базе оказалось довольно много неверных значений. Kод же на VB довольно объёмен, а ошибку надо исправлять. Есть ли какой способ сделать это не переписывая каждый query где присутствует бажное поле?
...
Рейтинг: 0 / 0
15.07.2002, 18:51:52
    #32036787
Glory
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
специально для Glory. Большие глюки с арифметикой.
Поменяйте тип самого поля.
...
Рейтинг: 0 / 0
15.07.2002, 19:16:01
    #32036795
camka
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
специально для Glory. Большие глюки с арифметикой.
пробоволи. появляются новые ошибки. тут нада саму реализацию смотреть
...
Рейтинг: 0 / 0
15.07.2002, 19:19:08
    #32036798
Glory
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
специально для Glory. Большие глюки с арифметикой.
Что за ошибки ?
...
Рейтинг: 0 / 0
16.07.2002, 10:25:46
    #32036855
Glory
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
специально для Glory. Большие глюки с арифметикой.
Кстати, а вы уверены, что ошибки отображения заносились в таблицу
ведь если, например, QA показывает

12345.845000000001, то

все равно в таблицу больше, чем 15 цифр (для float) не занесется, т.е.

12345.8450000000(01)

Другое дело, что в таблицу может попасть

12345.8449999999
...
Рейтинг: 0 / 0
Форумы / Microsoft SQL Server [игнор отключен] [закрыт для гостей] / специально для Glory. Большие глюки с арифметикой. / 5 сообщений из 5, страница 1 из 1
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]