ReSQL.ru
     
powered by simpleCommunicator - 2.0.61     © 2026 Programmizd 02
Мобильная версия    Контакт    Правила    FAQ    Помощь
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Доб. в избранное | Игнор. тему | Прикреп. тему | Пометить прочит. / непрочит. | Фильтр
Форумы / Visual Basic [игнор отключен] [закрыт для гостей] / Работа с маленькими числами большой точности
11 сообщений из 11, страница 1 из 1
Работа с маленькими числами большой точности
    #32908047
Аlex(ander)
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Аlex(ander)
Гость
Привет всем.

Описание проблемы:
При расчете обратной матрицы получаются коэффициэнты, значения которых находятся в диапазоне [0.0001....0.00000000001]. Но проблема в том, что такие значения VBScript округляет до нуля, поэтому в итоге получаем ошибку (в частности получаем невозможность расчета обратной матрицы).

Вопрос: есть ли какие-нибудь средства, алгоритмы для работы с числами такой размерности?
...
Рейтинг: 0 / 0
09.02.2005, 13:15:08
| Ответить | Цитировать | Написать  
Работа с маленькими числами большой точности
    #32908213
Фотография Deminik
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Deminik
Участник
А Round нет функции ? Там можно задавать количество символов после запятой...

...
Рейтинг: 0 / 0
09.02.2005, 14:10:45
| Ответить | Цитировать | Написать  
Работа с маленькими числами большой точности
    #32908337
Аlex(ander)
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Аlex(ander)
Гость
Проблема в том, что я функцией Round в расчетах не пользуюсь. В расчетах VBScript сам округляет значение и впоследствии работает с "нулём".
...
Рейтинг: 0 / 0
09.02.2005, 14:52:15
| Ответить | Цитировать | Написать  
Работа с маленькими числами большой точности
    #32908373
Hibernate
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Hibernate
Участник
не пробовал, но на мой взгаляд, в данном случае надо изначально явно приводить к нужному типу с помощью функций приведения.
...
Рейтинг: 0 / 0
09.02.2005, 15:00:01
| Ответить | Цитировать | Написать  
Работа с маленькими числами большой точности
    #32908423
LKO
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
LKO
Гость
2Hibernate:

По моему в VBScript вобще нет такого понятия как тип данных...

2Аlex(ander):

Попробуйте ввести какой-нибудь коэффициент (например 1000000000), на который следует умножать все получившиеся коэффициенты...
...
Рейтинг: 0 / 0
09.02.2005, 15:16:16
| Ответить | Цитировать | Написать  
Работа с маленькими числами большой точности
    #32908433
Аlex(ander)
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Аlex(ander)
Гость
LKO2Аlex(ander):

Попробуйте ввести какой-нибудь коэффициент (например 1000000000), на который следует умножать все получившиеся коэффициенты...

Это, конечно, интересная идея. Но она осложняется тем, что умножив и сосчитав, то в конце всё равно придётся разделить на это значение и в итоге всё равно получим 0.

Ведь в различных математических пакетах считается всё правильно и при любой размерности. Знает ли кто какие там применяются алгоритмы и способы обработки таких маленьких значений?
...
Рейтинг: 0 / 0
09.02.2005, 15:20:19
| Ответить | Цитировать | Написать  
Работа с маленькими числами большой точности
    #32908557
Processor
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Processor
Участник
Аlex(ander) ...коэффициэнты находятся в диапазоне [0.0001....0.00000000001].
такие значения VBScript округляет до нуля
Вопрос: есть ли какие-нибудь средства, алгоритмы для работы с числами такой размерности?Вообще-то VBScript НЕ предназначен для математических вычислений
(так же, как, например, Internet Explorer, "проигрывающий" VB-скрипты).
С целью упрощения run-time library VBScript использует универсальный тип Variant для всех переменных
и приводит преобразования типов независимо от желания программиста.

Может, Вы ошиблись в именовании?
Многие пакеты программ (MATLAB, Maple, Mathcad, ELCUT) используют VB for Applications,
который позволяет явно указывать тип переменных.
Но в этом случае должны быть доступны и функции форматирования результатов вычислений...
...
Рейтинг: 0 / 0
09.02.2005, 15:59:06
| Ответить | Цитировать | Написать  
Работа с маленькими числами большой точности
    #32908581
Фотография _bob
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
_bob
Участник
моя плакать....
люди! какие типы и коэффициенты, у него число ЗНАЧАЩИХ цифр не влезет ни в один из типов

как сделать?
напиши класс, принимающий стринги и производящий арифметические действия над числами в виде строк по технологии сложения в столбик и все будет ОК, считаться будет медленно, зато точно
------------------
arbeit macht frei
...
Рейтинг: 0 / 0
09.02.2005, 16:07:43
| Ответить | Цитировать | Написать  
Работа с маленькими числами большой точности
    #32908595
Фотография _bob
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
_bob
Участник
на VBS обратную матрицу считаешь....чем продиктован выбор, чем RPG400 не подошёл или ПРОЛОГ, там это было бы ещё геморройнее :-)
------------------
arbeit macht frei
...
Рейтинг: 0 / 0
09.02.2005, 16:10:43
| Ответить | Цитировать | Написать  
Работа с маленькими числами большой точности
    #32908647
Аlex(ander)
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Аlex(ander)
Гость
_bobна VBS обратную матрицу считаешь....чем продиктован выбор, чем RPG400 не подошёл или ПРОЛОГ, там это было бы ещё геморройнее :-)
------------------
arbeit macht frei


А на каком языке (платформе) посоветуете работать с "крутой математикой"?

Или написание класса, умеющего работать со стрингами, это и есть единственное решение в данной ситуации?
...
Рейтинг: 0 / 0
09.02.2005, 16:30:44
| Ответить | Цитировать | Написать  
Работа с маленькими числами большой точности
    #32909047
Processor
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Processor
Участник
_bobмоя плакать....
люди! какие типы и коэффициенты, у него число ЗНАЧАЩИХ цифр не влезет ни в один из типовКак же, по Вашему, обращали матрицы до сих пор? _bobчем RPG400 не подошёл или ПРОЛОГ, там это было бы ещё геморройнее :-)А вот это - в точку!
Дело не в аппаратных возможностях процессоров, а в неправильно выбранном инструметарии. Аlex(ander)А на каком языке (платформе) посоветуете работать с "крутой математикой"?А что делают другие люди в этом случае?
...
Рейтинг: 0 / 0
09.02.2005, 20:09:06
| Ответить | Цитировать | Написать  
11 сообщений из 11, страница 1 из 1
Форумы / Visual Basic [игнор отключен] [закрыт для гостей] / Работа с маленькими числами большой точности
Найденые пользователи ...
Разблокировать пользователей ...
Читали тему (0):
Читали форум (0):
Пользователи онлайн (0):
Польз. соглашение   Полит. конфиден.  
NoSQL.ru       Кролег: Проекты, Новости, Чат       РЕД ФОРУМ       Фотоальбом: Участники, Встречи
Закрыть
start [/forum/topic.php?fid=60&fpage=339&tid=2168233]:
 0ms
get settings:
 7ms
get forum list:
 17ms
check forum access:
 4ms
check topic access:
 4ms
track hit:
 54ms
get topic data:
 14ms
get forum data:
 3ms
get page messages:
 58ms
get tp. blocked users:
 2ms
others: 242ms
total:  405ms
созд. / загр.: 405ms
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]