|
|
|
Срочно нужна помощь с оптимизацией INNODB
|
|||
|---|---|---|---|
|
#18+
Arhat109Можно предположить, что ПХП-клиент с одного сервера обращается к БД на другой ... или нет? да, на самом деле сейчас происходит именно так, а это плохо? ) p.s.: сервера вроде как стоят рядом, в одном дата-центре ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 21.12.2014, 20:06:46 |
|
||
|
Срочно нужна помощь с оптимизацией INNODB
|
|||
|---|---|---|---|
|
#18+
kayuchkin, ответил письмом. :) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 21.12.2014, 20:07:09 |
|
||
|
Срочно нужна помощь с оптимизацией INNODB
|
|||
|---|---|---|---|
|
#18+
[quot kayuchkin] По поводу "брать каждый запрос и тюнить": Мы давно и достаточно долго оптимизировали структуру базы и запросы, проверяли что везде используются нужные индексы и т.д. [/quot kayuchkin] Почему-то многие считают, что внезапно в mysql ничего не происходит. Еще как происходит. Время идет - данные накапливаются. Планы запросов изменяются. Индексы перестают использоваться. Буферов перестает хватать. Это нужно делать постоянно. Ну хотя бы при заметных ухудшениях. По-прежнему не видим конфигурацию. Хотя например NUMA, которая включается или выключается в зависимости от размера и способа установки памяти по слотам (ну тут уж точно тут во freebsd облажались. кто тестировать-то будет на разнообразном железе ?), может привести к аномальному замедлению работы простых запросов. Все же CPU: 99.1% user больше намекает на необходимость оптимизации запросов. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 21.12.2014, 21:51:37 |
|
||
|
Срочно нужна помощь с оптимизацией INNODB
|
|||
|---|---|---|---|
|
#18+
kayuchkin, срочно расстреляйте вашего верстальщика!!! главная страница почти под 5 мегабайт, при том, что даже статика отдается еле-еле - за гранью. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 21.12.2014, 22:01:14 |
|
||
|
Срочно нужна помощь с оптимизацией INNODB
|
|||
|---|---|---|---|
|
#18+
kayuchkinНедавно перенесли базы на отдельный сервер (он у нас пустовал -- такой же конфигурации, в этом же дата-центре, только оперативной памяти вдвое больше). После этого начались проблемы с базой. Очевидно, что проблема где-то в неправильной настройке базы или сервера, а не в неоптимизированных запросах. во первых, вовсе и не очевидно. во вторых ты будешь когда разбирать первый запрос, ты и поймешь, что не так. конфигурации "было" и "стало" сравнивали, надеюсь? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.12.2014, 01:17:37 |
|
||
|
Срочно нужна помощь с оптимизацией INNODB
|
|||
|---|---|---|---|
|
#18+
интересно, мы содержимое mysql-slow.log увидим или нет? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.12.2014, 01:20:45 |
|
||
|
Срочно нужна помощь с оптимизацией INNODB
|
|||
|---|---|---|---|
|
#18+
kayuchkinArhat109Можно предположить, что ПХП-клиент с одного сервера обращается к БД на другой ... или нет? да, на самом деле сейчас происходит именно так, а это плохо? ) p.s.: сервера вроде как стоят рядом, в одном дата-центре нет, это наоборот хорошо. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.12.2014, 01:21:11 |
|
||
|
Срочно нужна помощь с оптимизацией INNODB
|
|||
|---|---|---|---|
|
#18+
кроме того, вы же данные т. н. Бэкапом переносили, наверное? Статистику по таблицам собирали после загрузки данных? индексы все создали? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.12.2014, 01:25:31 |
|
||
|
Срочно нужна помощь с оптимизацией INNODB
|
|||
|---|---|---|---|
|
#18+
MasterZivkayuchkinпропущено... да, на самом деле сейчас происходит именно так, а это плохо? ) p.s.: сервера вроде как стоят рядом, в одном дата-центре нет, это наоборот хорошо. но плохо что их вообще разделили. ну, по крайней мере, это есть привнесенное изменение в систему из-за которого она может работать медленее. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.12.2014, 02:11:18 |
|
||
|
Срочно нужна помощь с оптимизацией INNODB
|
|||
|---|---|---|---|
|
#18+
miksoft, Я его выкачивать не стал, не увидел в нем ничего такого, кроме регулярных запросов с большим временем выполнения, и они все идут с левым джойном к 3 и более таблицам. Главная - разная, вторая всегда users, третья и т.д. - тоже зависят от запроса ... ни в одном нет проверки на IS NULL, как явный признак необходимости left join, и часто стоит WHERE 1=1, из чего делаю вывод, что они собраны "чем-то" (cakePHP - есть такой?) и надо ли там именно левый джойн - не очевидно. Каждый такой тормозной запрос перелопачивает от миллиона записей. Часто результат к возврату - отсутствует. То есть результат выборки - пуст. Как понимаю, именно тут и создаются временные таблички. masterZiv, Вы на сайт ходили? Зачем рекомендовать человеку заведомо неграмотное решение? В каких конкретно случаях разнесение клиента и сервера БД дает прирост производительности? Как часто такое у означенных сайтов? С каких пор передача по локальной петле в рамках одного железа стала хуже передачи по сети, пусть даже гигабитной между двумя компами? Там надо всё возвращать на один комп и заниматься оптимизацией запросов, устраняя левые соединения везде где они не востребованы по задаче клиента. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.12.2014, 07:12:47 |
|
||
|
Срочно нужна помощь с оптимизацией INNODB
|
|||
|---|---|---|---|
|
#18+
Arhat109miksoft, Я его выкачивать не стал, не увидел в нем ничего такого, кроме регулярных запросов с большим временем выполнения, и они все идут с левым джойном к 3 и более таблицам. Главная - разная, вторая всегда users, третья и т.д. - тоже зависят от запроса ... ни в одном нет проверки на IS NULL, как явный признак необходимости left join, и часто стоит WHERE 1=1, из чего делаю вывод, что они собраны "чем-то" (cakePHP - есть такой?) и надо ли там именно левый джойн - не очевидно. Каждый такой тормозной запрос перелопачивает от миллиона записей. Часто результат к возврату - отсутствует. То есть результат выборки - пуст. Как понимаю, именно тут и создаются временные таблички.Что-то не догоняю, а зачем такого рода запросам дисковые временные таблицы? Там нет ORDER BY, GROUP BY, подзапросов, VIEW, агрегатных функций и т.п. ? Что с планом? Не надо ли добавить индексов? Не применить ли покрывающие индексы (благо, что памяти для их кэширования достаточно)? Хорошо бы еще порог попадания в slow-log снизить до секунды. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.12.2014, 09:59:30 |
|
||
|
Срочно нужна помощь с оптимизацией INNODB
|
|||
|---|---|---|---|
|
#18+
miksoft, :) Эт, я забыл черкануть сюда. Конечно же есть любимый групбай... :) В саму базу через клиента я не полез ибо нет смысла. Пока нет. То же самое и с сокращением времени slow log. Там надо сначала собрать всё на один комп, возможно дорастив ему оперативы (комп с сайтом - только 4 гектара), или обосновать и сделать полноценную реплику, потом прочистить запросы от левых джойнов и ненужных групбаев, потом надавать дизайнеру и верстальщику по шеям и разгрузить вес страниц (как Вы верно заметили, а я - упустил) ... итолько потом смотреть чего ишо можно улучшить. :) Автору большую часть этого я отписал, свою консультацию провел ... а уж чего он решит, пусть сам. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.12.2014, 12:56:23 |
|
||
|
Срочно нужна помощь с оптимизацией INNODB
|
|||
|---|---|---|---|
|
#18+
Arhat109miksoft, Я его выкачивать не стал, не увидел в нем ничего такого, кроме регулярных запросов с большим временем выполнения, и они все идут с левым джойном к 3 и более таблицам. Главная - разная, вторая всегда users, третья и т.д. - тоже зависят от запроса ... ни в одном нет проверки на IS NULL, как явный признак необходимости left join, и часто стоит WHERE 1=1, из чего делаю вывод, что они собраны "чем-то" (cakePHP - есть такой?) и надо ли там именно левый джойн - не очевидно. Каждый такой тормозной запрос перелопачивает от миллиона записей. Часто результат к возврату - отсутствует. То есть результат выборки - пуст. Мужчина, так вот и надо брать ПО ОДНОМУ эти вот запросы, и решать проблемы их производительности. Бери сначала самый долгий. Не, не так. Частый (нужно знать приложение), но долгий. Т.е. если самый долгий -- редкий, его не бери. Бери следующий по длительности, и так далее, пока не найдёшь часто выполняемый. Его оптимизируй (надо понять, в чём проблема и её исправить). И очень вероятно, что "ремонт" одного запроса потянет за собой исправление многих запросов. ПОСЛЕ исправления -- очищаешь slow query log, ждёшь, когда он снова наполнится -- и снова повторяешь операцию (для следующего запроса). ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.12.2014, 13:20:29 |
|
||
|
Срочно нужна помощь с оптимизацией INNODB
|
|||
|---|---|---|---|
|
#18+
Arhat109Вы на сайт ходили? . Мне твой сайт ни к чему. GUI морда ни о чём не говорит. Arhat109Зачем рекомендовать человеку заведомо неграмотное решение? В каких конкретно случаях разнесение клиента и сервера БД дает прирост производительности? Всегда. Это повышает вычислительные мощности системы. Примерно в 2 раза, если одинаковые серваки. Это не даст прирост только если у вас очень слабая загрузка, тогда производительность останется такой же. Arhat109Как часто такое у означенных сайтов? С каких пор передача по локальной петле в рамках одного железа стала хуже передачи по сети, пусть даже гигабитной между двумя компами? А что, у вас между компами не гигабитная сетка на волокне ? Arhat109Там надо всё возвращать на один комп и заниматься оптимизацией запросов, устраняя левые соединения везде где они не востребованы по задаче клиента. Не, ну, мужчина, как хочешь. Я тебе даю полезные советы, бесплатно, а там уж твоё дело, делать, как будет лучше, или себе же хуже. Вообще, в принципе, когда БД и что-то ещё на одной машине -- производительность достаточно сложно отслеживать. Даже в этом огромный плюс. Когда MySQL(или кто ещё) считает запрос, а тут поступает запрос в appach и он под себя берёт всё CPU вытесняя MySQL нафиг из проца, то тут что можно мониторить ? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.12.2014, 13:26:02 |
|
||
|
Срочно нужна помощь с оптимизацией INNODB
|
|||
|---|---|---|---|
|
#18+
Arhat109или обосновать и сделать полноценную реплику, Реплика-то как производительности поможет ? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.12.2014, 13:29:12 |
|
||
|
Срочно нужна помощь с оптимизацией INNODB
|
|||
|---|---|---|---|
|
#18+
MasterZiv, вот это: Всегда. Это повышает вычислительные мощности системы. Примерно в 2 раза, если одинаковые серваки. обоснуйте тупому, желательно с цифирьками. А также вы умолчали про соотношение скоростей передачи данных по внутренней петле в одном компе и гигабитной сетью, пусть даже в случае ровно двух компов, без чего либо ещё в этой сети. Интересно Ваше мнение как специалиста. :) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.12.2014, 13:37:23 |
|
||
|
Срочно нужна помощь с оптимизацией INNODB
|
|||
|---|---|---|---|
|
#18+
автор Примерно в 2 раза, если одинаковые серваки. а пацаны и не знают. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.12.2014, 14:31:51 |
|
||
|
Срочно нужна помощь с оптимизацией INNODB
|
|||
|---|---|---|---|
|
#18+
Arhat109MasterZiv, вот это: Всегда. Это повышает вычислительные мощности системы. Примерно в 2 раза, если одинаковые серваки. обоснуйте тупому, желательно с цифирьками. Чего тебе обосновывать-то ? У тебя один сервер. В нём скажем 16 гиг памяти и 8 процов. Ты ставишь второй такой же -- суммарно получается 32 гиг памяти и 16 процов. Скорость передачи данных между WEB-сервером и СУБД не должна быть такой уж критичной, потому что от WEB-сервера в СУБД поступают запросы, их объём в видеданных маленький, а обратно из СУБД в WEB-сервер идут только результаты этих запросов, которые также небольшие по объему, если конечно приложение нормально спроектировано. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.12.2014, 16:04:24 |
|
||
|
Срочно нужна помощь с оптимизацией INNODB
|
|||
|---|---|---|---|
|
#18+
MasterZiv, Да... а пацаны-то и не знают. Пасибки. То есть, ежели я поставлю 100 веб-морд и 100 SQL серваков, то мой сайт будет шустрее ровно ... в 200 раз? Круть. (побежал за железом) Вы так и НЕ ответили: во сколько РАЗ скорость гигабитной подсети промеж двух компов шустрее внутренней петли одного компа... Почто так "игнорите"? :) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.12.2014, 16:35:54 |
|
||
|
Срочно нужна помощь с оптимизацией INNODB
|
|||
|---|---|---|---|
|
#18+
Да... а пацаны-то и не знают. Пасибки. То есть, ежели я поставлю 100 веб-морд и 100 SQL серваков, то мой сайт будет шустрее ровно ... в 200 раз? Круть. (побежал за железом) при правильной архитектуре - да, почти в 200 раз. по сравнению с одним таким компом и при бесконечно растущей нагрузке, естественно. Вы так и НЕ ответили: во сколько РАЗ скорость гигабитной подсети промеж двух компов шустрее внутренней петли одного компа... я тебе ответил, что скорость сети тебе особенно не важна. потому что там трафик не такой и большой. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.12.2014, 21:00:47 |
|
||
|
Срочно нужна помощь с оптимизацией INNODB
|
|||
|---|---|---|---|
|
#18+
MasterZiv, Нет, так и НЕ ответили, а только виляете. Ибо хорошо знаете, что скорость гигабитной сети никак не в состоянии превысить порог в 42 мегабайта в сек. (1000Мбит / 12бит / 2 - окно Ethernet), что даже ниже скорости средненького винчестера под виндой (60-80), а скорость внутренней петли измеряется сотнями метров, если не гектарами в ту же самую секунду. То есть это самое медленное звено во всей последовательной(!) цепи обработки HTML-запроса (PHP_клиент - сеть - мускуль - ФС - мускуль - сеть - PHP_клиент). А теперь следим за пальцами: был один сервер и он ... справлялся. Стало 2 и начались проблемы, что и явилось причиной появления автора тут... вы же пишете что его решение есть "хорошо". Есть, и хорошо, но не для задач клиента. Поэтому и спрашивал, в каких случаях это решение есть хорошо. Ни одного примера от Вас - не последовало, тока теория высосанная из пальца. А жаль. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 22.12.2014, 21:35:21 |
|
||
|
Срочно нужна помощь с оптимизацией INNODB
|
|||
|---|---|---|---|
|
#18+
авторпри правильной архитектуре - да, почти в 200 раз. а расскажите ка про эти секретные приборы? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 23.12.2014, 01:28:50 |
|
||
|
Срочно нужна помощь с оптимизацией INNODB
|
|||
|---|---|---|---|
|
#18+
авторНет, так и НЕ ответили, а только виляете. Ибо хорошо знаете, что скорость гигабитной сети никак не в состоянии превысить порог в 42 мегабайта в сек. (1000Мбит / 12бит / 2 - окно Ethernet), что даже ниже скорости средненького винчестера под виндой (60-80), а скорость внутренней петли измеряется сотнями метров, если не гектарами в ту же самую секунду. То есть это самое медленное звено во всей последовательной(!) цепи обработки HTML-запроса (PHP_клиент - сеть - мускуль - ФС - мускуль - сеть - PHP_клиент). Мужчина, ещё уже наверное 5-ый раз -- нет там между сервером приложений (WEB) и СУБД какого-то огромного траффика. Не должно его просто быть в такой архитектуре. Он там мизерный. авторА теперь следим за пальцами: был один сервер и он ... справлялся. Стало 2 и начались проблемы, что и явилось причиной появления автора тут... вы же пишете что его решение есть "хорошо". Есть, и хорошо, но не для задач клиента. Для клиента было бы хорошо, если бы он хоть один запрос опубликовал. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 23.12.2014, 10:33:22 |
|
||
|
Срочно нужна помощь с оптимизацией INNODB
|
|||
|---|---|---|---|
|
#18+
ScareCrowавторпри правильной архитектуре - да, почти в 200 раз. а расскажите ка про эти секретные приборы? Чё расказать та ? Sharding, shared nothing cluster поищи, и почитай. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 23.12.2014, 10:34:21 |
|
||
|
Срочно нужна помощь с оптимизацией INNODB
|
|||
|---|---|---|---|
|
#18+
MasterZiv, Ок, вьюноша. А какой траффик будем считать "огромным"? Эта цепочка - строго последовательна. Скажем типовые значения времен: таких цепочек на запрос в среднем около десятка: а) PHP-клиент(1) - 3мсек б) запрос по сети в Мускуль - 0,2мсек в) Мускуль (парсинг запроса и подготовка) - 10мсек г) Мускуль (выполнение запроса, типовое значение) если из кеша 10мсек. д) возврат по сети 100 записей по 4кб каждая (часто ибо текстом) = 0,4Мб / 42Мб (гигабитка) = 10 мсек Итого на цепочку = 3+0,2+10+10+10 = 33,2 мсек. При этом доля времени сетевого интерфейса ... 10.2/33.2 = 30,7% ... да и правда, не огромное время , так мелочь. Вот этой трети в данном случае и НЕ ХВАТИЛО. Не советуйте того, в чем не разбираетесь. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 23.12.2014, 11:49:29 |
|
||
|
|

start [/forum/topic.php?fid=47&msg=38839159&tid=1833754]: |
0ms |
get settings: |
10ms |
get forum list: |
12ms |
check forum access: |
2ms |
check topic access: |
2ms |
track hit: |
31ms |
get topic data: |
8ms |
get forum data: |
2ms |
get page messages: |
42ms |
get tp. blocked users: |
1ms |
| others: | 238ms |
| total: | 348ms |

| 0 / 0 |
