|
|
|
Обмен данными между своими процессами
|
|||
|---|---|---|---|
|
#18+
чччДcptngrb, Код: pascal 1. 2. :) Это тоже Код: pascal 1. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 20.03.2018, 12:16 |
|
||
|
Обмен данными между своими процессами
|
|||
|---|---|---|---|
|
#18+
defecator, а винт не сломается? если в памяти не справляется, то через файлы справиться? я думал над этим. хотел разделить на несколько процессов и использовать FileMapping или что-то другое, создал вопрос на форуме, но все скатилось на что-то я не так делаю и пришли к выводу, что нужно делать по другому ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 20.03.2018, 12:17 |
|
||
|
Обмен данными между своими процессами
|
|||
|---|---|---|---|
|
#18+
defecator, это супер! ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 20.03.2018, 12:19 |
|
||
|
Обмен данными между своими процессами
|
|||
|---|---|---|---|
|
#18+
cptngrbdefecator, а винт не сломается? если в памяти не справляется, то через файлы справиться? я думал над этим. хотел разделить на несколько процессов и использовать FileMapping или что-то другое, создал вопрос на форуме, но все скатилось на что-то я не так делаю и пришли к выводу, что нужно делать по другому ещё раз, последний, повторю: разделяй быструю часть и медленную часть. СУБД - это медленная часть. Быстрая часть пусть со своей скоростью генерит данные и складирует их хотя бы на винт. Медленная часть со своей скоростью выгребает данные из файлов и заносит в базу. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 20.03.2018, 12:28 |
|
||
|
Обмен данными между своими процессами
|
|||
|---|---|---|---|
|
#18+
defecator, я понимаю, о чем ты. Я только хотел уточнить. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 20.03.2018, 12:34 |
|
||
|
Обмен данными между своими процессами
|
|||
|---|---|---|---|
|
#18+
Oracle быстр, если с ним правильно работать. За все четыре страницы так и непонятно, какая задача должна быть решена, как эти 100500 элементов связаны с базой данных и т.п. Зато куча хрустальных шаров ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 20.03.2018, 12:40 |
|
||
|
Обмен данными между своими процессами
|
|||
|---|---|---|---|
|
#18+
schiOracle быстр, если с ним правильно работать. За все четыре страницы так и непонятно, какая задача должна быть решена, как эти 100500 элементов связаны с базой данных и т.п. Зато куча хрустальных шаров какие хрустальные шары ? Чувак хочет запихать в базу стотыщ нефти мгновенно. Но у него не получается, и не получится, как ты с Ораклем ни работай ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 20.03.2018, 12:47 |
|
||
|
Обмен данными между своими процессами
|
|||
|---|---|---|---|
|
#18+
schi, через хранимую процедуру, которую я не могу менять, быстро писать 100500 записей ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 20.03.2018, 12:47 |
|
||
|
Обмен данными между своими процессами
|
|||
|---|---|---|---|
|
#18+
cptngrbdefecator, а винт не сломается? если в памяти не справляется, то через файлы справиться? я думал над этим. хотел разделить на несколько процессов и использовать FileMapping или что-то другое, создал вопрос на форуме, но все скатилось на что-то я не так делаю и пришли к выводу, что нужно делать по другому Повторюсь, посмотрел бы в сторону какого-нибудь сервиса типа rabbitmq, activemq, kafka для буферизации и доставки данных до обработчиков, в этом случае обработчиков можно будет плодить как на одной так и на нескольких машинах. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 20.03.2018, 12:49 |
|
||
|
Обмен данными между своими процессами
|
|||
|---|---|---|---|
|
#18+
Дегтярев Евгенийcptngrbdefecator, а винт не сломается? если в памяти не справляется, то через файлы справиться? я думал над этим. хотел разделить на несколько процессов и использовать FileMapping или что-то другое, создал вопрос на форуме, но все скатилось на что-то я не так делаю и пришли к выводу, что нужно делать по другому Повторюсь, посмотрел бы в сторону какого-нибудь сервиса типа rabbitmq, activemq, kafka для буферизации и доставки данных до обработчиков зачем нужна эта ересь, если сделать через файлы на диске гораздо быстрее и проще ? Быстрый сервис создаёт файл и кладёт туда пачку данных. Медленный сервис с какой-то периодичностью проверяет наличие новых файлов, открывает каждый и пишет данные в базу. Файл удаляется. Если хочется вообще быстро-быстро, то всё это можно хранить на электронном диске ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 20.03.2018, 12:52 |
|
||
|
Обмен данными между своими процессами
|
|||
|---|---|---|---|
|
#18+
defecatorзачем нужна эта ересь, если сделать через файлы на диске гораздо быстрее и проще ? Быстрый сервис создаёт файл и кладёт туда пачку данных. Медленный сервис с какой-то периодичностью проверяет наличие новых файлов, открывает каждый и пишет данные в базу. Файл удаляется. а вот не факт что быстрее и проще. зы что за электронный диск? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 20.03.2018, 12:59 |
|
||
|
Обмен данными между своими процессами
|
|||
|---|---|---|---|
|
#18+
Дегтярев Евгенийdefecatorзачем нужна эта ересь, если сделать через файлы на диске гораздо быстрее и проще ? Быстрый сервис создаёт файл и кладёт туда пачку данных. Медленный сервис с какой-то периодичностью проверяет наличие новых файлов, открывает каждый и пишет данные в базу. Файл удаляется. а вот не факт что быстрее и проще. зы что за электронный диск? RAM-диск ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 20.03.2018, 13:00 |
|
||
|
Обмен данными между своими процессами
|
|||
|---|---|---|---|
|
#18+
defecatorДегтярев Евгенийпропущено... Повторюсь, посмотрел бы в сторону какого-нибудь сервиса типа rabbitmq, activemq, kafka для буферизации и доставки данных до обработчиков зачем нужна эта ересь, если сделать через файлы на диске гораздо быстрее и проще ? Быстрый сервис создаёт файл и кладёт туда пачку данных. Медленный сервис с какой-то периодичностью проверяет наличие новых файлов, открывает каждый и пишет данные в базу. Файл удаляется. Если хочется вообще быстро-быстро, то всё это можно хранить на электронном диске Несколько непонятно, зачем нужна промежуточная прослойка в виду файлов, пусть даже на электронном диске ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 20.03.2018, 16:07 |
|
||
|
Обмен данными между своими процессами
|
|||
|---|---|---|---|
|
#18+
schidefecatorпропущено... зачем нужна эта ересь, если сделать через файлы на диске гораздо быстрее и проще ? Быстрый сервис создаёт файл и кладёт туда пачку данных. Медленный сервис с какой-то периодичностью проверяет наличие новых файлов, открывает каждый и пишет данные в базу. Файл удаляется. Если хочется вообще быстро-быстро, то всё это можно хранить на электронном диске Несколько непонятно, зачем нужна промежуточная прослойка в виду файлов, пусть даже на электронном диске а почему бы и нет ? Это один из вариантов решения ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 20.03.2018, 16:14 |
|
||
|
Обмен данными между своими процессами
|
|||
|---|---|---|---|
|
#18+
А если писать напрямую в память процесса??? К примеру мы запускаемся, программа ищет подходящие - наши приложения. А дальше пишет в них по адресу. А в наших приложениях есть мониторинг.. Так же как работают читы. Вауля. Самый быстрый способ ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 20.03.2018, 16:16 |
|
||
|
Обмен данными между своими процессами
|
|||
|---|---|---|---|
|
#18+
defecatorschiпропущено... Несколько непонятно, зачем нужна промежуточная прослойка в виду файлов, пусть даже на электронном диске а почему бы и нет ? Это один из вариантов решения Дело в том, что из сообщений ТС видно только, что он "сидит на канале 10Гб/с и разбирает пакетики". Если у него нужные данные с такой скоростью поступают, то любые прослойки, мне кажется, будут замедлять общую обработку. Но пятая точка мне подсказывает, что полезные данные вряд ли с такой скоростью поступают и их надо ВСЕ сохранять в базе. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 20.03.2018, 16:24 |
|
||
|
Обмен данными между своими процессами
|
|||
|---|---|---|---|
|
#18+
насчет того, что DOA плохое, а ODAC впереди планеты всей. ODAC client mode. Провел замеры на своей машине i7-6700 3,4 и 16ГБ ОЗУ . 5 потоков записи в БД в обоих случаях. средние значения: DOA - время присвоения переменных 1500 мс, время выполнения запроса 2400 мс, ОЗУ съели ~3 ГБ ODAC - время присвоения переменных 100 мс, время выполнения запроса 8000 мс, ОЗУ съели ~14 ГБ В DOA во время присвоения переменных происходит раскладывания в структуры oci.dll, а в ODAC не знаю(исходников нет), но такое чувство, что раскладывает при Execute. Тестил на компоненте TOraSQL ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 20.03.2018, 16:29 |
|
||
|
Обмен данными между своими процессами
|
|||
|---|---|---|---|
|
#18+
schi, не все, но даже полезные не успеваю укладывать, даже при полезном потоке ~2ГБ ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 20.03.2018, 16:30 |
|
||
|
Обмен данными между своими процессами
|
|||
|---|---|---|---|
|
#18+
[quot schi]defecator...то любые прослойки, мне кажется, будут замедлять общую обработку... до тех пока хватает одного процесса/сервера одного процесса уже не хватает ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 20.03.2018, 16:31 |
|
||
|
Обмен данными между своими процессами
|
|||
|---|---|---|---|
|
#18+
на локальной машине при полезном потоке ~600МБ проводились замеры. с DOA я справляюсь без проблем, при ODAC нет, вернее ОП заканчивается ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 20.03.2018, 16:33 |
|
||
|
Обмен данными между своими процессами
|
|||
|---|---|---|---|
|
#18+
поделись хоть что за данные в таком кол-ве? мне только мониторинг на ум приходит ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 20.03.2018, 16:39 |
|
||
|
Обмен данными между своими процессами
|
|||
|---|---|---|---|
|
#18+
Дегтярев Евгений, на локальной машине разбираю udp пакеты, которые pcap player'ом сам себе отправляю ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 20.03.2018, 16:43 |
|
||
|
Обмен данными между своими процессами
|
|||
|---|---|---|---|
|
#18+
[quot Дегтярев Евгений]schiпропущено... до тех пока хватает одного процесса/сервера одного процесса уже не хватает Сам Oracle как-то справляется с нагрузками, у него там диспетчеры всякие есть, и прочие процессы :) Но, повторюсь, давать советы, не зная задачи, не всегда легко и действенно. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 20.03.2018, 16:47 |
|
||
|
Обмен данными между своими процессами
|
|||
|---|---|---|---|
|
#18+
cptngrbДегтярев Евгений, на локальной машине разбираю udp пакеты, которые pcap player'ом сам себе отправляю ну меня как раз интересует характер данных внутри пакетов, если это не секрет фирмы )) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 20.03.2018, 17:01 |
|
||
|
|

start [/forum/topic.php?fid=58&msg=39617701&tid=2041123]: |
0ms |
get settings: |
10ms |
get forum list: |
19ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
201ms |
get topic data: |
13ms |
get forum data: |
3ms |
get page messages: |
90ms |
get tp. blocked users: |
1ms |
| others: | 288ms |
| total: | 633ms |

| 0 / 0 |
