powered by simpleCommunicator - 2.0.61     © 2026 Programmizd 02
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Форумы / MySQL [игнор отключен] [закрыт для гостей] / Срочно нужна помощь с оптимизацией INNODB
25 сообщений из 71, страница 2 из 3
Срочно нужна помощь с оптимизацией INNODB
    #38839159
kayuchkin
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Arhat109Можно предположить, что ПХП-клиент с одного сервера обращается к БД на другой ... или нет?


да, на самом деле сейчас происходит именно так, а это плохо? )

p.s.: сервера вроде как стоят рядом, в одном дата-центре
...
Рейтинг: 0 / 0
Срочно нужна помощь с оптимизацией INNODB
    #38839160
Arhat109
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
kayuchkin,

ответил письмом. :)
...
Рейтинг: 0 / 0
Срочно нужна помощь с оптимизацией INNODB
    #38839189
netwind
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
[quot kayuchkin]
По поводу "брать каждый запрос и тюнить":
Мы давно и достаточно долго оптимизировали структуру базы и запросы, проверяли что везде используются нужные индексы и т.д.
[/quot kayuchkin]
Почему-то многие считают, что внезапно в mysql ничего не происходит. Еще как происходит.
Время идет - данные накапливаются. Планы запросов изменяются. Индексы перестают использоваться. Буферов перестает хватать.
Это нужно делать постоянно. Ну хотя бы при заметных ухудшениях.

По-прежнему не видим конфигурацию. Хотя например NUMA, которая включается или выключается в зависимости от размера и способа установки памяти по слотам (ну тут уж точно тут во freebsd облажались. кто тестировать-то будет на разнообразном железе ?), может привести к аномальному замедлению работы простых запросов.
Все же CPU: 99.1% user больше намекает на необходимость оптимизации запросов.
...
Рейтинг: 0 / 0
Срочно нужна помощь с оптимизацией INNODB
    #38839190
miksoft
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
kayuchkin,

срочно расстреляйте вашего верстальщика!!!
главная страница почти под 5 мегабайт, при том, что даже статика отдается еле-еле - за гранью.
...
Рейтинг: 0 / 0
Срочно нужна помощь с оптимизацией INNODB
    #38839227
Фотография MasterZiv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
kayuchkinНедавно перенесли базы на отдельный сервер (он у нас пустовал -- такой же конфигурации, в этом же дата-центре, только оперативной памяти вдвое больше). После этого начались проблемы с базой. Очевидно, что проблема где-то в неправильной настройке базы или сервера, а не в неоптимизированных запросах.

во первых, вовсе и не очевидно.
во вторых ты будешь когда разбирать первый запрос, ты и поймешь, что не так.

конфигурации "было" и "стало" сравнивали, надеюсь?
...
Рейтинг: 0 / 0
Срочно нужна помощь с оптимизацией INNODB
    #38839228
miksoft
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
интересно, мы содержимое mysql-slow.log увидим или нет?
...
Рейтинг: 0 / 0
Срочно нужна помощь с оптимизацией INNODB
    #38839229
Фотография MasterZiv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
kayuchkinArhat109Можно предположить, что ПХП-клиент с одного сервера обращается к БД на другой ... или нет?


да, на самом деле сейчас происходит именно так, а это плохо? )

p.s.: сервера вроде как стоят рядом, в одном дата-центре

нет, это наоборот хорошо.
...
Рейтинг: 0 / 0
Срочно нужна помощь с оптимизацией INNODB
    #38839230
Фотография MasterZiv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
кроме того, вы же данные т. н. Бэкапом переносили, наверное? Статистику по таблицам собирали после загрузки данных?
индексы все создали?
...
Рейтинг: 0 / 0
Срочно нужна помощь с оптимизацией INNODB
    #38839241
netwind
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
MasterZivkayuchkinпропущено...


да, на самом деле сейчас происходит именно так, а это плохо? )

p.s.: сервера вроде как стоят рядом, в одном дата-центре

нет, это наоборот хорошо.
но плохо что их вообще разделили. ну, по крайней мере, это есть привнесенное изменение в систему из-за которого она может работать медленее.
...
Рейтинг: 0 / 0
Срочно нужна помощь с оптимизацией INNODB
    #38839279
Arhat109
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
miksoft,

Я его выкачивать не стал, не увидел в нем ничего такого, кроме регулярных запросов с большим временем выполнения, и они все идут с левым джойном к 3 и более таблицам. Главная - разная, вторая всегда users, третья и т.д. - тоже зависят от запроса ... ни в одном нет проверки на IS NULL, как явный признак необходимости left join, и часто стоит WHERE 1=1, из чего делаю вывод, что они собраны "чем-то" (cakePHP - есть такой?) и надо ли там именно левый джойн - не очевидно.

Каждый такой тормозной запрос перелопачивает от миллиона записей. Часто результат к возврату - отсутствует. То есть результат выборки - пуст.

Как понимаю, именно тут и создаются временные таблички.

masterZiv,

Вы на сайт ходили? Зачем рекомендовать человеку заведомо неграмотное решение? В каких конкретно случаях разнесение клиента и сервера БД дает прирост производительности? Как часто такое у означенных сайтов?

С каких пор передача по локальной петле в рамках одного железа стала хуже передачи по сети, пусть даже гигабитной между двумя компами?

Там надо всё возвращать на один комп и заниматься оптимизацией запросов, устраняя левые соединения везде где они не востребованы по задаче клиента.
...
Рейтинг: 0 / 0
Срочно нужна помощь с оптимизацией INNODB
    #38839338
miksoft
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Arhat109miksoft,

Я его выкачивать не стал, не увидел в нем ничего такого, кроме регулярных запросов с большим временем выполнения, и они все идут с левым джойном к 3 и более таблицам. Главная - разная, вторая всегда users, третья и т.д. - тоже зависят от запроса ... ни в одном нет проверки на IS NULL, как явный признак необходимости left join, и часто стоит WHERE 1=1, из чего делаю вывод, что они собраны "чем-то" (cakePHP - есть такой?) и надо ли там именно левый джойн - не очевидно.

Каждый такой тормозной запрос перелопачивает от миллиона записей. Часто результат к возврату - отсутствует. То есть результат выборки - пуст.

Как понимаю, именно тут и создаются временные таблички.Что-то не догоняю, а зачем такого рода запросам дисковые временные таблицы? Там нет ORDER BY, GROUP BY, подзапросов, VIEW, агрегатных функций и т.п. ?
Что с планом? Не надо ли добавить индексов? Не применить ли покрывающие индексы (благо, что памяти для их кэширования достаточно)?
Хорошо бы еще порог попадания в slow-log снизить до секунды.
...
Рейтинг: 0 / 0
Срочно нужна помощь с оптимизацией INNODB
    #38839569
Arhat109
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
miksoft,

:) Эт, я забыл черкануть сюда. Конечно же есть любимый групбай... :)

В саму базу через клиента я не полез ибо нет смысла. Пока нет. То же самое и с сокращением времени slow log. Там надо сначала собрать всё на один комп, возможно дорастив ему оперативы (комп с сайтом - только 4 гектара), или обосновать и сделать полноценную реплику, потом прочистить запросы от левых джойнов и ненужных групбаев, потом надавать дизайнеру и верстальщику по шеям и разгрузить вес страниц (как Вы верно заметили, а я - упустил)

... итолько потом смотреть чего ишо можно улучшить. :)

Автору большую часть этого я отписал, свою консультацию провел ... а уж чего он решит, пусть сам.
...
Рейтинг: 0 / 0
Срочно нужна помощь с оптимизацией INNODB
    #38839595
Фотография MasterZiv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Arhat109miksoft,

Я его выкачивать не стал, не увидел в нем ничего такого, кроме регулярных запросов с большим временем выполнения, и они все идут с левым джойном к 3 и более таблицам. Главная - разная, вторая всегда users, третья и т.д. - тоже зависят от запроса ... ни в одном нет проверки на IS NULL, как явный признак необходимости left join, и часто стоит WHERE 1=1, из чего делаю вывод, что они собраны "чем-то" (cakePHP - есть такой?) и надо ли там именно левый джойн - не очевидно.

Каждый такой тормозной запрос перелопачивает от миллиона записей. Часто результат к возврату - отсутствует. То есть результат выборки - пуст.

Мужчина, так вот и надо брать ПО ОДНОМУ эти вот запросы, и решать проблемы их производительности.
Бери сначала самый долгий. Не, не так. Частый (нужно знать приложение), но долгий. Т.е. если самый долгий -- редкий, его не бери.
Бери следующий по длительности, и так далее, пока не найдёшь часто выполняемый.
Его оптимизируй (надо понять, в чём проблема и её исправить).

И очень вероятно, что "ремонт" одного запроса потянет за собой исправление многих запросов.

ПОСЛЕ исправления -- очищаешь slow query log, ждёшь, когда он снова наполнится -- и снова повторяешь операцию (для следующего запроса).
...
Рейтинг: 0 / 0
Срочно нужна помощь с оптимизацией INNODB
    #38839608
Фотография MasterZiv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Arhat109Вы на сайт ходили?
.

Мне твой сайт ни к чему. GUI морда ни о чём не говорит.

Arhat109Зачем рекомендовать человеку заведомо неграмотное решение? В каких конкретно случаях разнесение клиента и сервера БД дает прирост производительности?


Всегда. Это повышает вычислительные мощности системы. Примерно в 2 раза, если одинаковые серваки.
Это не даст прирост только если у вас очень слабая загрузка, тогда производительность останется такой же.


Arhat109Как часто такое у означенных сайтов?

С каких пор передача по локальной петле в рамках одного железа стала хуже передачи по сети, пусть даже гигабитной между двумя компами?


А что, у вас между компами не гигабитная сетка на волокне ?

Arhat109Там надо всё возвращать на один комп и заниматься оптимизацией запросов, устраняя левые соединения везде где они не востребованы по задаче клиента.

Не, ну, мужчина, как хочешь. Я тебе даю полезные советы, бесплатно, а там уж твоё дело, делать, как будет лучше, или себе же хуже.

Вообще, в принципе, когда БД и что-то ещё на одной машине -- производительность достаточно сложно отслеживать.
Даже в этом огромный плюс. Когда MySQL(или кто ещё) считает запрос, а тут поступает запрос в appach и он под себя берёт всё CPU вытесняя MySQL нафиг из проца, то тут что можно мониторить ?
...
Рейтинг: 0 / 0
Срочно нужна помощь с оптимизацией INNODB
    #38839621
Фотография MasterZiv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Arhat109или обосновать и сделать полноценную реплику,

Реплика-то как производительности поможет ?
...
Рейтинг: 0 / 0
Срочно нужна помощь с оптимизацией INNODB
    #38839640
Arhat109
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
MasterZiv,

вот это: Всегда. Это повышает вычислительные мощности системы. Примерно в 2 раза, если одинаковые серваки.

обоснуйте тупому, желательно с цифирьками.

А также вы умолчали про соотношение скоростей передачи данных по внутренней петле в одном компе и гигабитной сетью, пусть даже в случае ровно двух компов, без чего либо ещё в этой сети.

Интересно Ваше мнение как специалиста. :)
...
Рейтинг: 0 / 0
Срочно нужна помощь с оптимизацией INNODB
    #38839731
Фотография ScareCrow
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
автор Примерно в 2 раза, если одинаковые серваки.


а пацаны и не знают.
...
Рейтинг: 0 / 0
Срочно нужна помощь с оптимизацией INNODB
    #38839816
Фотография MasterZiv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Arhat109MasterZiv,

вот это: Всегда. Это повышает вычислительные мощности системы. Примерно в 2 раза, если одинаковые серваки.

обоснуйте тупому, желательно с цифирьками.


Чего тебе обосновывать-то ?

У тебя один сервер. В нём скажем 16 гиг памяти и 8 процов.
Ты ставишь второй такой же -- суммарно получается 32 гиг памяти и 16 процов.

Скорость передачи данных между WEB-сервером и СУБД не должна быть такой уж критичной,
потому что от WEB-сервера в СУБД поступают запросы, их объём в видеданных маленький,
а обратно из СУБД в WEB-сервер идут только результаты этих запросов, которые также небольшие
по объему, если конечно приложение нормально спроектировано.
...
Рейтинг: 0 / 0
Срочно нужна помощь с оптимизацией INNODB
    #38839857
Arhat109
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
MasterZiv,

Да... а пацаны-то и не знают. Пасибки. То есть, ежели я поставлю 100 веб-морд и 100 SQL серваков, то мой сайт будет шустрее ровно ... в 200 раз? Круть. (побежал за железом)

Вы так и НЕ ответили: во сколько РАЗ скорость гигабитной подсети промеж двух компов шустрее внутренней петли одного компа...

Почто так "игнорите"? :)
...
Рейтинг: 0 / 0
Срочно нужна помощь с оптимизацией INNODB
    #38840054
Фотография MasterZiv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Да... а пацаны-то и не знают. Пасибки. То есть, ежели я поставлю 100 веб-морд и 100 SQL серваков, то мой сайт будет шустрее ровно ... в 200 раз? Круть. (побежал за железом)


при правильной архитектуре - да, почти в 200 раз.
по сравнению с одним таким компом и при бесконечно растущей нагрузке, естественно.

Вы так и НЕ ответили: во сколько РАЗ скорость гигабитной подсети промеж двух компов шустрее внутренней петли одного компа...

я тебе ответил, что скорость сети тебе особенно не важна. потому что там трафик не такой и большой.
...
Рейтинг: 0 / 0
Срочно нужна помощь с оптимизацией INNODB
    #38840064
Arhat109
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
MasterZiv,

Нет, так и НЕ ответили, а только виляете.

Ибо хорошо знаете, что скорость гигабитной сети никак не в состоянии превысить порог в 42 мегабайта в сек. (1000Мбит / 12бит / 2 - окно Ethernet), что даже ниже скорости средненького винчестера под виндой (60-80), а скорость внутренней петли измеряется сотнями метров, если не гектарами в ту же самую секунду. То есть это

самое медленное звено во всей последовательной(!) цепи обработки HTML-запроса (PHP_клиент - сеть - мускуль - ФС - мускуль - сеть - PHP_клиент).

А теперь следим за пальцами: был один сервер и он ... справлялся. Стало 2 и начались проблемы, что и явилось причиной появления автора тут... вы же пишете что его решение есть "хорошо".

Есть, и хорошо, но не для задач клиента.

Поэтому и спрашивал, в каких случаях это решение есть хорошо. Ни одного примера от Вас - не последовало, тока теория высосанная из пальца. А жаль.
...
Рейтинг: 0 / 0
Срочно нужна помощь с оптимизацией INNODB
    #38840151
Фотография ScareCrow
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
авторпри правильной архитектуре - да, почти в 200 раз.
а расскажите ка про эти секретные приборы?
...
Рейтинг: 0 / 0
Срочно нужна помощь с оптимизацией INNODB
    #38840269
Фотография MasterZiv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
авторНет, так и НЕ ответили, а только виляете.

Ибо хорошо знаете, что скорость гигабитной сети никак не в состоянии превысить порог в 42 мегабайта в сек. (1000Мбит / 12бит / 2 - окно Ethernet), что даже ниже скорости средненького винчестера под виндой (60-80), а скорость внутренней петли измеряется сотнями метров, если не гектарами в ту же самую секунду. То есть это

самое медленное звено во всей последовательной(!) цепи обработки HTML-запроса (PHP_клиент - сеть - мускуль - ФС - мускуль - сеть - PHP_клиент).


Мужчина, ещё уже наверное 5-ый раз -- нет там между сервером приложений (WEB) и СУБД какого-то огромного траффика.
Не должно его просто быть в такой архитектуре. Он там мизерный.

авторА теперь следим за пальцами: был один сервер и он ... справлялся. Стало 2 и начались проблемы, что и явилось причиной появления автора тут... вы же пишете что его решение есть "хорошо".

Есть, и хорошо, но не для задач клиента.


Для клиента было бы хорошо, если бы он хоть один запрос опубликовал.
...
Рейтинг: 0 / 0
Срочно нужна помощь с оптимизацией INNODB
    #38840272
Фотография MasterZiv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
ScareCrowавторпри правильной архитектуре - да, почти в 200 раз.
а расскажите ка про эти секретные приборы?

Чё расказать та ?

Sharding, shared nothing cluster поищи, и почитай.
...
Рейтинг: 0 / 0
Срочно нужна помощь с оптимизацией INNODB
    #38840404
Arhat109
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
MasterZiv,

Ок, вьюноша. А какой траффик будем считать "огромным"?

Эта цепочка - строго последовательна. Скажем типовые значения времен:

таких цепочек на запрос в среднем около десятка:
а) PHP-клиент(1) - 3мсек
б) запрос по сети в Мускуль - 0,2мсек
в) Мускуль (парсинг запроса и подготовка) - 10мсек
г) Мускуль (выполнение запроса, типовое значение) если из кеша 10мсек.
д) возврат по сети 100 записей по 4кб каждая (часто ибо текстом) = 0,4Мб / 42Мб (гигабитка) = 10 мсек

Итого на цепочку = 3+0,2+10+10+10 = 33,2 мсек.

При этом доля времени сетевого интерфейса ... 10.2/33.2 = 30,7% ... да и правда, не огромное время

, так мелочь.

Вот этой трети в данном случае и НЕ ХВАТИЛО.

Не советуйте того, в чем не разбираетесь.
...
Рейтинг: 0 / 0
25 сообщений из 71, страница 2 из 3
Форумы / MySQL [игнор отключен] [закрыт для гостей] / Срочно нужна помощь с оптимизацией INNODB
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]