|
|
|
Как хранить атрибуты?
|
|||
|---|---|---|---|
|
#18+
sphinx_mv Объем данных за месяц в одной из таблиц - 20 000 000 записей... Таких таблиц в системе пара десятков... Сказать, что запросы к ним (и с их участием) "летают" - не сказать ничего (данные обрабатываются в онлайн). Полегчало? а объем даныых за одно итерацию 20 мильенов? не пробовал? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 29.04.2012, 21:01 |
|
||
|
Как хранить атрибуты?
|
|||
|---|---|---|---|
|
#18+
какие задачи "оптимзации затрат предприятия"? назови не стесняйся ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 29.04.2012, 21:03 |
|
||
|
Как хранить атрибуты?
|
|||
|---|---|---|---|
|
#18+
sphinx_mvС Вами - не о чем... На элементарных проблемах ноги ломаете... послушай, исходников оптимизатора МССКЛ я не видел но, все то что написано в БОЛ по оптимизации, всякие долбаные Кайты советы блоггеров применены при большой интенсивности (запись удаление изменение) субд загибается в конце концов пришлось облегчить ей жизниь - использовать как хранилище ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 29.04.2012, 21:06 |
|
||
|
Как хранить атрибуты?
|
|||
|---|---|---|---|
|
#18+
sphinx_mvViPRossphinx_mv, ты хоть один раз пытался записать больше 100 000 записей? ну честно скажи Ну, если Вам так хочется меряться размерами, то у меня в системе простой список контрагентов будет раза в 3-4 больше... Наверное, следует указать сферу деятельности - телекоммуникации и связь. Объем данных за месяц в одной из таблиц - 20 000 000 записей... Таких таблиц в системе пара десятков... Сказать, что запросы к ним (и с их участием) "летают" - не сказать ничего (данные обрабатываются в онлайн). Полегчало? Не горячитесь:) Задачи, вероятно, не сопоставимы. В задаче Вашего "оппонента" много сущностей и намного более сложные вычисления... Пустой спор... ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 29.04.2012, 21:07 |
|
||
|
Как хранить атрибуты?
|
|||
|---|---|---|---|
|
#18+
ViPRossphinx_mv Объем данных за месяц в одной из таблиц - 20 000 000 записей... Таких таблиц в системе пара десятков... Сказать, что запросы к ним (и с их участием) "летают" - не сказать ничего (данные обрабатываются в онлайн). Полегчало? а объем даныых за одно итерацию 20 мильенов? не пробовал? Распальцовка... За "одну итерацию" у меня сколько "мильенов" записей точно не скажу, но в системе под пяток гигабайт "сырых" данных за каждые 5 минут обслуживается с импортом, группировками, тарификацией и прочей "шелухой"... ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 29.04.2012, 22:31 |
|
||
|
Как хранить атрибуты?
|
|||
|---|---|---|---|
|
#18+
sphinx_mv, ладно, смотри количество техпроцесов для одного изделия 100 000 некоторые процессы имеют альтернативы каждый процесс требует определенный набор процессоров (станок,чек,инструмент и т.д.) соответствующих наборов может быть много в зависимости от выбранного ТП генерируются процессы хранения и перемещения надо построить оптимальное расписание это ОДНО изделие посчитай количество записей сам ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 29.04.2012, 22:44 |
|
||
|
Как хранить атрибуты?
|
|||
|---|---|---|---|
|
#18+
5 гиг - говно ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 29.04.2012, 22:45 |
|
||
|
Как хранить атрибуты?
|
|||
|---|---|---|---|
|
#18+
ViPRossphinx_mvС Вами - не о чем... На элементарных проблемах ноги ломаете... послушай, исходников оптимизатора МССКЛ я не видел И что с того? Я тоже их не видел. И мне это жить совершенно не мешает. ViPRosно, все то что написано в БОЛ по оптимизации, всякие долбаные Кайты советы блоггеров применены Когда не-долбаные спецы мешают в одну кучу рекомендации для разных по архитектуре серверов баз данных - это сильно... Общие принципы, они, конечно, похожи... Но вот только дьявол кроется в деталях... ViPRosпри большой интенсивности (запись удаление изменение) субд загибается Ну, и сколько же транзакций в секунду ее "нагнуло"? Или это была таки одна на все "100500 мульенов" записей? Почему я не удивляюсь? ViPRosв конце концов пришлось облегчить ей жизниь - использовать как хранилище "Облегчили"... Не разобравшись с проблемой... И виновата в этом, естественно, СУБД... Ага... ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 29.04.2012, 22:55 |
|
||
|
Как хранить атрибуты?
|
|||
|---|---|---|---|
|
#18+
sphinx_mv, да пофиг там кайт хендерсон или еще какой му**ло а не удивляешься ты потому что не охватываешь масштаб дело не в количество транзакция, а в том что, на одной и той же железке я это делаю на 1000 раз быстрее чем в лоб через скл сервер ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 29.04.2012, 23:02 |
|
||
|
Как хранить атрибуты?
|
|||
|---|---|---|---|
|
#18+
при 8000 очередь дисковая 50 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 29.04.2012, 23:04 |
|
||
|
Как хранить атрибуты?
|
|||
|---|---|---|---|
|
#18+
ViPRossphinx_mv, ладно, смотри количество техпроцесов для одного изделия 100 000 некоторые процессы имеют альтернативы каждый процесс требует определенный набор процессоров (станок,чек,инструмент и т.д.) соответствующих наборов может быть много в зависимости от выбранного ТП генерируются процессы хранения и перемещения надо построить оптимальное расписание это ОДНО изделие Аж на ностальгию пробило!.. Правда, техпроцессов там было по-меньше... Да и объемы производства (в штуках) были не сильно впечатляющи... Но сама ЗАДАЧА и, соответственно, ее СЛОЖНОСТЬ мне вполне знакомы... ViPRosпосчитай количество записей сам Измерять сложность задачи количеством записей - не "по-пацански"... ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 29.04.2012, 23:38 |
|
||
|
Как хранить атрибуты?
|
|||
|---|---|---|---|
|
#18+
ViPRosда пофиг там кайт хендерсон или еще какой му**ло а не удивляешься ты потому что не охватываешь масштаб Нет у Вас никакого масштаба... И рядом с Кайтом и Хендерсоном Вас даже мимо не проходило!.. ViPRosдело не в количество транзакция, а в том что, на одной и той же железке я это делаю на 1000 раз быстрее чем в лоб через скл сервер Количество транзакций в секунду - один из основных показателей производительности серверов баз данных. В совокупности с остальными показателями сервера дает более/менее объективные представления о реальной производительности сервера. Про "одну и ту же железку" - такой бред даже комментировать не хочется... ViPRosпри 8000 очередь дисковая 50 Любой студент, глянув на показатель дисковой очереди и посмотрев на рекомендуемые максимальные значения для этого параметра, понял бы, что данная дисковая подсистема НЕ ГОДИТСЯ под сервер с такой нагрузкой... ViPRosна ноуте Вот, собственно, Вы и озвучили МАСШТАБ Ваших задач... Ноутбук под сервер БД - это надо где-то отметить... ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.04.2012, 00:05 |
|
||
|
Как хранить атрибуты?
|
|||
|---|---|---|---|
|
#18+
sphinx_mv, ты не пробиваем спи дальше ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.04.2012, 00:31 |
|
||
|
Как хранить атрибуты?
|
|||
|---|---|---|---|
|
#18+
блин это просто означает что данный СУБД говно, потому что решение в обход СУБД никакие диски так не нагружает на том же ноуте это тебе понятно? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.04.2012, 00:43 |
|
||
|
Как хранить атрибуты?
|
|||
|---|---|---|---|
|
#18+
ViPRosблин это просто означает что данный СУБД говно, потому что решение в обход СУБД никакие диски так не нагружает на том же ноуте это тебе понятно? У говняного специалиста и СУБД говно... ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.04.2012, 09:32 |
|
||
|
Как хранить атрибуты?
|
|||
|---|---|---|---|
|
#18+
ViPRosS.G., эти 50 лимонов перегенерируются(ну не все 50, тут как повезет, как сработает эвристика отсечения) n раз при решения задачи, что бы найти последний набор 50 лимонов 50 лимонов - годовой портфель среднего заводикагенерируются, эвристика. мда, мне почему-то так и казалось. СУБД, они как бы не очень подходят для комбинаторных задач, или если решать такие задачи с помощью СУБД, то там надо смотреть и настраивать очень внимательно. Генерируется куча данных, статистика естественно отстает, ее надо подкрутить. Или вообще брать специализированньй инструмент для этого. Так что дело не в индексах, а в их приготовлении, имхо. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.04.2012, 09:42 |
|
||
|
Как хранить атрибуты?
|
|||
|---|---|---|---|
|
#18+
> язвить не вредно, полымает настроение > имелось ввиду слабость оптимизатора СУБД А, я думал наоборот. Наоборот было бы прикольнее. Потому что на самом деле ближе к истине. Posted via ActualForum NNTP Server 1.5 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.04.2012, 10:12 |
|
||
|
Как хранить атрибуты?
|
|||
|---|---|---|---|
|
#18+
On 04/29/2012 09:13 PM, sphinx_mv wrote: .... > Соответственно, причину, что "индексы не помогают", нужно искать не в базе > данных, а где-то в другой части архитектуры приложения. Именно это я и хотел подчеркнуть. Конда индексы в принципе могут "помочь", они работают, и очень хорошо, и на любых объёмах данных. Причём чем больше объём, тем сильнее эффект использования индексов. Posted via ActualForum NNTP Server 1.5 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.04.2012, 10:16 |
|
||
|
Как хранить атрибуты?
|
|||
|---|---|---|---|
|
#18+
> а оптимизатор (ну MSSQL например) очень слабый Оптимизаторы пытаются решить очень сложную NP-полную задачу за сотни милисекунд, сложно их в чём-то обвинять. Posted via ActualForum NNTP Server 1.5 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.04.2012, 10:22 |
|
||
|
Как хранить атрибуты?
|
|||
|---|---|---|---|
|
#18+
ViPRossphinx_mvС Вами - не о чем... На элементарных проблемах ноги ломаете... послушай, исходников оптимизатора МССКЛ я не видел но, все то что написано в БОЛ по оптимизации, всякие долбаные Кайты советы блоггеров применены при большой интенсивности (запись удаление изменение) субд загибается в конце концов пришлось облегчить ей жизниь - использовать как хранилищеЭто вечный аргумент криворуких проектировщиков БД. Давайте перенесем побольше логики в мидл-таер и будет нам счастье... Плавали. Хотя задачи на графах конечно же - задача совсем не РСУБДшная. Это что же производство такое что "количество техпроцесов для одного изделия 100 000"??? Если не секрет, конечно. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.04.2012, 11:51 |
|
||
|
Как хранить атрибуты?
|
|||
|---|---|---|---|
|
#18+
MasterZivOn 04/29/2012 09:13 PM, sphinx_mv wrote: .... > Соответственно, причину, что "индексы не помогают", нужно искать не в базе > данных, а где-то в другой части архитектуры приложения. Именно это я и хотел подчеркнуть. Конда индексы в принципе могут "помочь", они работают, и очень хорошо, и на любых объёмах данных. Причём чем больше объём, тем сильнее эффект использования индексов. Самые "запущенные" случаи, связанные с медленной обработкой данных (в частности, для отчетов), мне встречались, когда открывались курсоры по таблицам, в цикле по которым с вложенными циклами по под-курсорами выполнялись расчеты результатов (извилины заплетало конкретно)... Естественно, все это с дикими тормозами, с никакими возможностями по оптимизации и всеми прочими "прелестями" - доходило, до того что "разработчики" путались в своем коде... После замены курсоров и циклов для расчетов на запросы с непосредственным получением результата время обработки катастрофически сокращалось на несколько десятичных порядков... При этом иногда даже оказывалось, что для таблиц с исходными данными уже давно были созданы все необходимые индексы - соответственно, тюнить их не было никакой необходимости. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.04.2012, 11:52 |
|
||
|
Как хранить атрибуты?
|
|||
|---|---|---|---|
|
#18+
> Хотя задачи на графах конечно же - задача совсем не РСУБДшная. Реализовать алгоритмы в СУБД -- да, не совсем РСУБД-шная задача. Хранить графы в РБД и выдавать данные по ним -- вполне РСУБДшная. Posted via ActualForum NNTP Server 1.5 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.04.2012, 12:30 |
|
||
|
Как хранить атрибуты?
|
|||
|---|---|---|---|
|
#18+
> Самые "запущенные" случаи, связанные с медленной обработкой данных (в частности, > для отчетов), мне встречались, когда открывались курсоры по таблицам, в цикле по > которым с вложенными циклами по под-курсорами выполнялись расчеты результатов > (извилины заплетало конкретно)... Естественно, все это с дикими тормозами, с Ну это ты приводишь случай клинического идиотизма. Это не интересно, потому что с этим всё понятно. Posted via ActualForum NNTP Server 1.5 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.04.2012, 12:32 |
|
||
|
|

start [/forum/topic.php?fid=32&msg=37777246&tid=1541708]: |
0ms |
get settings: |
12ms |
get forum list: |
16ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
168ms |
get topic data: |
9ms |
get forum data: |
3ms |
get page messages: |
71ms |
get tp. blocked users: |
2ms |
| others: | 234ms |
| total: | 523ms |

| 0 / 0 |
