Гость
Целевая тема:
Создать новую тему:
Автор:
Форумы / Caché, Ensemble, DeepSee, MiniM, IRIS, GT.M [игнор отключен] [закрыт для гостей] / перезапись данных / 12 сообщений из 12, страница 1 из 1
28.12.2006, 08:44
    #34229452
Новый111
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
перезапись данных
День добрый!

Вопрос к опытным кашеводам. Как лучше всего реализовать следующую схему (или хотя бы отдельные пункты):
1. Создать базу фиксированного размера, без возможности расширения.
2. Контролировать размер (%) заполнения базы
3. По мере заполнения базы, удалять существующие данные (т.е. по сути огранизовать непрерывный процесс перезаписи)?

Данные простые (типа время/значение). Частота данных - ~50000 значений в секунду, поэтому перезапись должна быть эффективной. Работать должно 24/7/365 - т.е. варианты с периодической остановкой и очисткой базы не годятся.

И еще вопрос: кто-нибудь измерял насколько сallin интерфейс быстрее использования VisM? И является ли реализация через Callin интерфейс самым эффективным решением такой задачи?
...
Рейтинг: 0 / 0
28.12.2006, 09:04
    #34229479
MX -- ALEX
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
перезапись данных
Новый111День добрый!

Вопрос к опытным кашеводам. Как лучше всего реализовать следующую схему (или хотя бы отдельные пункты):
1. Создать базу фиксированного размера, без возможности расширения.
2. Контролировать размер (%) заполнения базы
3. По мере заполнения базы, удалять существующие данные (т.е. по сути огранизовать непрерывный процесс перезаписи)?

Данные простые (типа время/значение). Частота данных - ~50000 значений в секунду, поэтому перезапись должна быть эффективной. Работать должно 24/7/365 - т.е. варианты с периодической остановкой и очисткой базы не годятся.

И еще вопрос: кто-нибудь измерял насколько сallin интерфейс быстрее использования VisM? И является ли реализация через Callin интерфейс самым эффективным решением такой задачи?

у нас много лет работают в MSM и CACHE системы автоматической
непрерывной круглосуточной регистрации грузов на транспорте
вес записывается внизу глобала и сразу удаляется одна запись сверху -
первая - наименьшая по номеру
поэтому всегда в глобале 1000 строк
это не совсем то что у Вас - но схема работает надежно

пишет только если показание электронных весов отличаются от предыдущего
- так гораздо компактнее

VisM не используем - только MSM-activate - для совместимости MSM/CACHE
...
Рейтинг: 0 / 0
28.12.2006, 11:13
    #34229845
Новый111
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
перезапись данных
Спасибо за ответ!

А Cache пере-использует место удаленных записей? Просто в нескольких темах читал, что после удаления все равно нужно еще каким-то образом базу паковать.

Т.е. если я буду писать

s ^A($H)=1
k ^A($H - 1 месяц)

То база расширяться не будет?
...
Рейтинг: 0 / 0
28.12.2006, 11:24
    #34229902
Sergei Obrastsov
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
перезапись данных
Новый111Вопрос к опытным кашеводам. Как лучше всего реализовать следующую схему (или хотя бы отдельные пункты):
1. Создать базу фиксированного размера, без возможности расширения.
2. Контролировать размер (%) заполнения базы
3. По мере заполнения базы, удалять существующие данные (т.е. по сути огранизовать непрерывный процесс перезаписи)?

Данные простые (типа время/значение). Частота данных - ~50000 значений в секунду, поэтому перезапись должна быть эффективной. Работать должно 24/7/365 - т.е. варианты с периодической остановкой и очисткой базы не годятся.

Все это решается легко, не вижу проблемы. Но вот интересно, что же это за данные такие, если не секрет?

Новый111
И еще вопрос: кто-нибудь измерял насколько сallin интерфейс быстрее использования VisM? И является ли реализация через Callin интерфейс самым эффективным решением такой задачи?
Самым эффективным решением будет работа напрямую средствами COS, не надо навьючивать сюда ничего лишнего, Вы больше потеряете на обработку call'ов.
...
Рейтинг: 0 / 0
28.12.2006, 11:29
    #34229927
Sergei Obrastsov
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
перезапись данных
Новый111Спасибо за ответ!

А Cache пере-использует место удаленных записей? Просто в нескольких темах читал, что после удаления все равно нужно еще каким-то образом базу паковать.

Т.е. если я буду писать

s ^A($H)=1
k ^A($H - 1 месяц)

То база расширяться не будет?
Речь шла о доступности удаленных данных, точно так же как в обычных файловых системах.
Не рекомендовал бы использовать $H, там точность до секунды, а у Вас 50000 операций в секунду.
Не будет.
...
Рейтинг: 0 / 0
28.12.2006, 11:34
    #34229952
Новый111
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
перезапись данных
Sergei Obrastsov
Все это решается легко, не вижу проблемы. Но вот интересно, что же это за данные такие, если не секрет?

Данные с производственного оборудования (хим. промышленность).

Sergei Obrastsov
Самым эффективным решением будет работа напрямую средствами COS, не надо навьючивать сюда ничего лишнего, Вы больше потеряете на обработку call'ов.

Протоколы для сбора данных уже написаны, их несколько (за много лет скопилось) и переписывать их на COS нереально. Поэтому задача стоит в наиболее эфективной записи данных из приложения, написанного на С++.
...
Рейтинг: 0 / 0
28.12.2006, 11:36
    #34229956
Новый111
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
перезапись данных
Sergei Obrastsov
Речь шла о доступности удаленных данных, точно так же как в обычных файловых системах.
Не рекомендовал бы использовать $H, там точность до секунды, а у Вас 50000 операций в секунду.
Не будет.

$H приведен просто для примера. 50000 операций не на одном глобале - разбросаны по 200-300 глобалам.
...
Рейтинг: 0 / 0
28.12.2006, 12:07
    #34230059
Sergei Obrastsov
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
перезапись данных
Новый111 Sergei Obrastsov
Самым эффективным решением будет работа напрямую средствами COS, не надо навьючивать сюда ничего лишнего, Вы больше потеряете на обработку call'ов.
Протоколы для сбора данных уже написаны, их несколько (за много лет скопилось) и переписывать их на COS нереально. Поэтому задача стоит в наиболее эфективной записи данных из приложения, написанного на С++.
Да, это хуже. Тогда callin' конечно. Хотя я бы сливал в файл, а уже средствами Cache брал из него, чтобы не заморачиваться на связки.
...
Рейтинг: 0 / 0
28.12.2006, 12:11
    #34230073
Sergei Obrastsov
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
перезапись данных
Новый111 Sergei Obrastsov
Речь шла о доступности удаленных данных, точно так же как в обычных файловых системах.
Не рекомендовал бы использовать $H, там точность до секунды, а у Вас 50000 операций в секунду.
Не будет.
$H приведен просто для примера. 50000 операций не на одном глобале - разбросаны по 200-300 глобалам.А вот это неправильно, не надо глобали использовать как реляционные таблицы, неудобно это
и неэффективно. При подаче 50000 данных в секунду у Вас винт протрется на блоках каталога и указателей. :)
А ведь данные эти кому-то понадобятся, не зря же они пишутся. Так что над структурой данных следует серьезно задуматься.
...
Рейтинг: 0 / 0
28.12.2006, 19:07
    #34231405
VadimF
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
перезапись данных
Рекомендую обратиться с этими вопросами в офис InterSystems.
Консультанты много раз успешно решали подобные задачи.
Есть готовые примеры кода.

Вот, например, достаточно старинная статья, но все равно там много полезного, - Оптимизация загрузки данных в Caché .

Такие задачи, например, решаются и рядом наших американских партнеров, которые делают финансовые системы для Wall street.
Сейчас в Cache' разрабатывается ряд новых возможностей для решения таких задач.

Так что обращайтесь. Поможем!

Вадим
...
Рейтинг: 0 / 0
28.12.2006, 19:09
    #34231415
VadimF
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
перезапись данных
Новый111

А Cache пере-использует место удаленных записей? Просто в нескольких темах читал, что после удаления все равно нужно еще каким-то образом базу паковать.


Освободившееся после удаления место конечно же используется!

Вы читали о том, что файл БД автоматически увеличивается, по мере заполнения данными, но файл сам не уменьшается, когда данные удаляются.

Вадим
...
Рейтинг: 0 / 0
05.01.2007, 17:19
    #34238639
LittleCat
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
перезапись данных
Новый111
И еще вопрос: кто-нибудь измерял насколько сallin интерфейс быстрее использования VisM? И является ли реализация через Callin интерфейс самым эффективным решением такой задачи?
Измерять измеряли, но цифры точные уже потеряны... Callin интерфейс для записи в базу ИМХО является самым быстрым, у нас сетевой трафик на лету расшифровывается и именно через Callin пишется в базу, быстрее мы ничего не придумали...
...
Рейтинг: 0 / 0
Форумы / Caché, Ensemble, DeepSee, MiniM, IRIS, GT.M [игнор отключен] [закрыт для гостей] / перезапись данных / 12 сообщений из 12, страница 1 из 1
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]