Этот баннер — требование Роскомнадзора для исполнения 152 ФЗ.
«На сайте осуществляется обработка файлов cookie, необходимых для работы сайта, а также для анализа использования сайта и улучшения предоставляемых сервисов с использованием метрической программы Яндекс.Метрика. Продолжая использовать сайт, вы даёте согласие с использованием данных технологий».
Политика конфиденциальности
|
|
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
Есть сервер с 200 блогами WP, на сами блоги в сутки добавляется от 100 до 1000 новых статей, посетителей не так много 20-30к хитов в сутки, общий размер баз данных 30 ГБ. Проверяя смарт статус своих ССД обнаружил, что за месяц на диск записано 60 тб, начал разбираться, оказывается mysql пишет 20-30 мегабайт в секунду на диск (iotop -d 10 -u mysql). От чего такая огромная активность? mytop показывает 81 запрос в секунду. Ну нет среди этих 81 запроса 20-30 МБ данных, я включал логи и смотрел, что за запросы, UPDATE да SELECT. Подскажите куда копать. Как временная мера - разрешил пользователям только SELECT, нагрузка на запись упала почти до 0. Конфиг сервера: mysqld] user = mysql pid-file = /var/run/mysqld/mysqld.pid socket = /var/run/mysqld/mysqld.sock port = 3306 basedir = /usr datadir = /home/www/DEDIK/mysql tmpdir = /tmp lc-messages-dir = /usr/share/mysql bind-address = 0.0.0.0 key_buffer = 6G max_allowed_packet = 16M thread_stack = 192K thread_cache_size = 16 myisam-recover = BACKUP table_cache = 4096 table_open_cache = 4096 query_cache_limit = 100M query_cache_size = 6G innodb_flush_log_at_trx_commit = 2 innodb_buffer_pool_size = 16G innodb_log_buffer_size = 64M log_error = /var/log/mysql/error.log expire_logs_days = 10 max_binlog_size = 100M ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 28.01.2017, 00:21 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
webruk, Мужик, кто ж за тебя с этим WP будет разбираться, что он там пишет? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 28.01.2017, 06:03 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
MasterZiv, Проблема в том, что вордпресс столько не пишет. Это sql сервер что-то там переписывает бес конца. Вот хотелось бы понять что и как это отключить. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 28.01.2017, 07:22 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
webruk, например, пишет спам-кментарии. На сайтах они не видны, фильтруются чем-то типа Akismet, но в базу и на дискк - пишутся. Попробуйте посмотреть в админках, если есть доступ, понапрягайте пользователей. Разберитесь, в какую таблицу валятся спам-коментарии и последите за их размерами. А вообще, у Вас слегка странные настройки mysql. Особенно, бросается в глаза это: query_cache_size = 6G Клиентские базы в InnoDB? Памяти на сервере хварает, не свапит? Если что, давайте посмотрим вместе - 200 сайтов на WP- вроде, не так уж и много, что бы вызывать проблемы с MySQL. --- Виктор ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 28.01.2017, 10:53 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
webruk, Таблицы на каком движке используются? InnoDB или MyISAM? Сколько памяти установлено? Вообще, исходя из того как вольно раздаются гигабайты памяти, есть подозрение, что происходил активный своп. webrukНу нет среди этих 81 запроса 20-30 МБ данныхОткуда такая уверенность? Вы учли все накладные расходы? Например, апдейт одного поля с 4-х байтовым целым в одной записи может вызвать десятки килобайт записи. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 28.01.2017, 11:21 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
VGrey, Базы в InnoDB, я много чего пробовал перед тем, как написать, видимо не убрал лишнее из конфига. По поводу спама в блоги были мысли, но я их исключил, открыл логи веб сервера и распарсил, спама не был, а поток в БД был. Значит точно не оно. Памяти на сервере 64 Гб. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 28.01.2017, 18:35 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
miksoft, Я только про накладные расходы и думаю, ну или SQL сервер с моими настройками переписывает какой-то большой файл постоянно, но так же не должно быть. База растет за сутки на 1-2 ГБ, а mysql сервер пишет на диск 2 ТБ. в 1000 раз накладные расходы? Может как-то можно их уменьшить, под кеш ОЗУ отдать? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 28.01.2017, 18:38 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
webruk, Больше всего UDPATE запросов в таблицы _options, есть способ их выложить в кеш и скидывать на диск, допустим, раз в минуту? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 28.01.2017, 19:15 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
Дал права на все запросы, включил general_log, получил -rw-rw---- 1 mysql mysql 182M янв 28 20:53 sd2.log Из этого объема UPDATE 180 МБ. root@sd2:/home/www/DEDIK/mysql# cat sd2.log | grep UPDATE > 11111 root@sd2:/home/www/DEDIK/mysql# ls -lah 11111 -rw-r--r-- 1 root root 180M янв 28 22:17 11111 Получается в любом случае это все будет записано на диск? Никак не сделать, чтобы сервер проводил все свои манипуляции с определенными таблицами в ОЗУ и изредка скидывал результат на SSD? Остается только перенести БД на RAID из HDD? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 28.01.2017, 21:01 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
webrukБаза растет за сутки на 1-2 ГБ, а mysql сервер пишет на диск 2 ТБ.Одно к другому никакого отношения не имеет. Более того, даже SELECT-ы могут вызвать массивную запись, если временные файлы генерятся. webrukБазы в InnoDBТогда key_buffer уменьшайте до десятков мегабайт. query_cache_size тоже уменьшайте до вменяемых значений, например, 256 МБ. innodb_buffer_pool_size можно немного увеличить, нужно чтобы в него помещалась вся активная часть базы (которая используется хотя бы для чтения). Проверьте, что в системе не возникает своп. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 28.01.2017, 21:09 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
Еще можно попробовать innodb_flush_log_at_trx_commit переключить на 0. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 28.01.2017, 21:12 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
webrukБольше всего UDPATE запросов в таблицы _options, есть способ их выложить в кеш и скидывать на диск, допустим, раз в минуту?А что это за таблица? Не знаю как в WP, а если бы это была своя разработка, то можно было бы сменить движок таблицы на MEMORY и периодически делать ее копию в таблице на диске. Или вообще не делать, если ее содержимое имеет смысл только короткое время. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 28.01.2017, 21:15 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
miksoft, wp_options таблицы, у каждого блога она своя, на MEMORY сменить можно на лету? Интересно бы было попробовать. innodb_flush_log_at_trx_commit = 0 пробовал, вообще не заметил разницы между 0 и 2. Свопа нет, сейчас свободно 32 гб ОЗУ. innodb_buffer_pool_size пробовал разный, проблему с потоком на запись это не уменьшает, но, думаю, будет актуально на HDD, на которые придется вернуться снова. С таким потоком ссд придется менять раз в 3 месяца, а стоят они по 20к. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 28.01.2017, 21:28 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
webrukна MEMORY сменить можно на лету?Можно. Но она будет заблокирована даже на чтение на время операции с этой таблицей. Группу таблиц скопом изменить нельзя, придется делать скрипт для поштучного изменения. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 28.01.2017, 21:39 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
Была подобная проблема, вылечили добавлением памяти ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 28.01.2017, 21:45 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
HettБыла подобная проблема, вылечили добавлением памятиВ данном случае не похоже на то. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 28.01.2017, 21:46 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
Было 64 ОЗУ на сервере физически, добавили еще 128 и размер буфера пула в два раза увеличили (до 96 вроде) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 28.01.2017, 21:47 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
miksoftHettБыла подобная проблема, вылечили добавлением памятиВ данном случае не похоже на то. Мы долго голову ломали, похоже он постоянно выгружает лишнее из памяти ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 28.01.2017, 21:48 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
HettМы долго голову ломали, похоже он постоянно выгружает лишнее из памятиЧто значит "выгружает", если свопа нет? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 28.01.2017, 21:49 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
Я уже готов переехать на RAID, можно как-нибудь оставить одну БД на ССД диске, а остальное разместить на массиве из HDD? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 28.01.2017, 23:17 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
miksoftHettМы долго голову ломали, похоже он постоянно выгружает лишнее из памятиЧто значит "выгружает", если свопа нет? Не знаю что он там именно делает, но просто увеличение памяти снизило запись с 30-40 МБ/с до 2-5 МБ/с. Я тогда долго запросы анализировал, не было ничего такого, что могло бы реально столько данных изменять. Вот моя тогдашняя тема http://www.sql.ru/forum/1232540/bolshaya-nagruzka-na-disk ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 29.01.2017, 21:18 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
Надеюсь у тебя file_per_table включено. Можно посмотреть при помощи утилиты sysdig скорость io по файлам. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 29.01.2017, 21:21 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
webrukMasterZiv, Проблема в том, что вордпресс столько не пишет. Это sql сервер что-то там переписывает бес конца. Вот хотелось бы понять что и как это отключить. ага, ему делать нечего... binary log, query log, slow query log , надеюсь, выключены ? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.01.2017, 07:32 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
авторага, ему делать нечего. Видимо нечего. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.01.2017, 08:22 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
Код: plaintext 1. Код: plaintext 1. 2. 3. 4. 5. 6. 7. И что он туда написывает так активно? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.01.2017, 09:11 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
HettБыла подобная проблема, вылечили добавлением памяти была подобная проблема - вылечилось тем что даже не стали связываться с СЕО-балалайкой. Люди столько постов не напишут, а парсеры и преумножители бессмысленного контента должны старадать. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.01.2017, 10:11 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
HettИ что он туда написывает так активно? На картинке явно не только запись, но и чтение. И, скорее всего, логическое, а не физическое. Так что она не аргумент. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.01.2017, 10:20 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
miksoftHettИ что он туда написывает так активно? На картинке явно не только запись, но и чтение. И, скорее всего, логическое, а не физическое. Так что она не аргумент. Там чтения почти нет Вот iotop ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.01.2017, 10:27 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
Запись варьируется от 3 до 15 (чаще ближе к нижней отметке) Раньше, до добавления памяти, было от 30-40 и выше. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.01.2017, 10:32 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
Еще такой момент, что если сервис перезапустить, то первое время нагрузка на диск заметно ниже. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.01.2017, 10:33 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
Попробовал запустить на RAID, результат огорчил, после ССД вообще не вариант, страниц открываются по несколько секунд, дисковые очереди возрастают до 20, да, можно добавить еще дисков, но не думаю, что это решит проблему. Вот смотрю на такой диск http://www.nix.ru/autocatalog/ssd_intel/SSD-400-Gb-SATA-6Gb-s-Intel-DC-S3710-Series-SSDSC2BA400G401-25-MLC_202396.html У кого-нибудь есть опыт эксплуатации? Заявлено 8 ПБ на запись. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.01.2017, 12:39 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
Включи, для начала, запись запросов в лог и проанализируй его. Что говорит? Код: plaintext ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.01.2017, 12:40 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
HettВот iotop И в нём первой строчкой - mongo. С чего ты начал винить MySQL - непонятно. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.01.2017, 14:51 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
Dimitry SibiryakovHettВот iotop И в нём первой строчкой - mongo. С чего ты начал винить MySQL - непонятно. Там сортировка по времени, а не по объему. Если внимательно посмотреть, то можно понять почему. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.01.2017, 14:54 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
Обвел кружочками куда надо смотреть. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.01.2017, 14:55 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
webruk, ну какие еще "страницы"? В подфоруме mysql оперируют sql. То есть, вы должны наконец разобраться что запросы генерирует приложение. Я думаю, у вас парсер слишком активно и глупо записывает в базу. Упоминание таблицы wp_options подсказывает, что тут просто какая-то php-городушка на скорую руку и в ней не потрудились даже создать отдельные таблицы для сущностей, которыми этот парсер оперирует. Но может и совсем не так все. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.01.2017, 14:56 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
netwind, Ну вообще да, быть может там ОРМ которая обновляет весь объект. И в каком-то плагине криво реализовали пересохранение всего объекта, при, например, апдейте счетчика просмотра. Но все это будет видно в логе запросов, а автор класть на него хотел, он думает какие диски вставить, чтобы работало. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.01.2017, 14:58 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
Hett, предлагаю ограничить продажу SSD, чтобы разрешение выдавала Специальная Комиссия Академии Спецсвязи ФСБ. А то получается, глубокая архитектурная проблема была не замечена и позволила нормально эксплуатировать аж 200 сайтов в течении продолжительного времени. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.01.2017, 15:02 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
netwindHett, предлагаю ограничить продажу SSD, чтобы разрешение выдавала Специальная Комиссия Академии Спецсвязи ФСБ. А то получается, глубокая архитектурная проблема была не замечена и позволила нормально эксплуатировать аж 200 сайтов в течении продолжительного времени. Зачем? Я это к тому, что надо искать причину проблемы, а не диск, который будет это все вывозить. Хотя, конечно, кому как нравится ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.01.2017, 15:09 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
Да и количество сайтов это не показатель нагрузки. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.01.2017, 15:10 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
Я сделал экспорт\импорт всех баз с новым конфигом с включением innodb_file_per_table. Сейчас сервер активно пишет в 2 файла: 9.09M /home/www2/mysql/ib_logfile0 3.12M /home/www2/mysql/ibdata1 WP без плагинов, чистая установка. Текущий конфиг: [mysqld] user = mysql pid-file = /var/run/mysqld/mysqld.pid socket = /var/run/mysqld/mysqld.sock port = 3306 basedir = /usr datadir = /home/www2/mysql tmpdir = /tmp lc-messages-dir = /usr/share/mysql bind-address = 0.0.0.0 key_buffer = 32M max_allowed_packet = 16M thread_stack = 192K thread_cache_size = 16 myisam-recover = BACKUP table_cache = 4096 table_open_cache = 4096 query_cache_type = ON query_cache_limit = 1G query_cache_size = 32M innodb_flush_log_at_trx_commit = 2 innodb_buffer_pool_size = 16G innodb_log_file_size = 512M innodb_log_buffer_size = 1G innodb_file_per_table log_error = /var/log/mysql/error.log expire_logs_days = 10 max_binlog_size = 100M ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.01.2017, 23:32 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
webrukСейчас сервер активно пишет в 2 файла: 9.09M /home/www2/mysql/ib_logfile0 3.12M /home/www2/mysql/ibdata1 Ну вот абсолютно та же картина. Что туда MySQL написывает, одному ему только известно. Журнал, конечно и все такое - я понимаю, но что-от многовато данных пишется. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 31.01.2017, 07:51 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
. Сейчас сервер активно пишет в 2 файла: 9.09M /home/www2/mysql/ib_logfile0 3.12M /home/www2/mysql/ibdata1 ...что не удивительно, это и есть файлы базы данных, лог и сами данные. в общем, мы выяснили, что СУБД ПИШЕТ ЧТО-ТО В БД - великое открытие, я считаю... ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 31.01.2017, 11:28 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
Hett, так кто его знает, этот WP , Может там логи какие-то свои включены... ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 31.01.2017, 11:29 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
В общем толку тут не будет поэтому поделюсь собственным Оригинальным Исследованием: На некоторые модели арендных серверов ставят фиговенькие SSD, но достаточно большого размера. Поэтому я придумал разбивать их особым образом - выделить не очень большой раздел соответственно данным и все остальное место использовать как резервное. Если ОС никогда не писала в эти блоки, то контроллер SSD начинает их использовать в ротации и тем самым общий срок службы повышается. Хорошие SSD от intel так же используют эту технику, но там просто логический размер накопителя меньше чем реальный по маркировке на микросхемах. Нужно либо сразу новый SSD так разбивать, либо на резервный раздел запустить один раз mkfs.ext4. Программа узнает SSD и сделает сначала на все блоки операцию discard. Можно еще улучшить методику, но реально пройтись один раз mkfs будет вполне достаточно. Исследование подтверждается экспериментально графиками SMART до и после манипуляций. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 31.01.2017, 11:40 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
MasterZiv. Сейчас сервер активно пишет в 2 файла: 9.09M /home/www2/mysql/ib_logfile0 3.12M /home/www2/mysql/ibdata1 ...что не удивительно, это и есть файлы базы данных, лог и сами данные. в общем, мы выяснили, что СУБД ПИШЕТ ЧТО-ТО В БД - великое открытие, я считаю... А разве данные при включенном innodb_file_per_table лежат в ibdata1 ? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 31.01.2017, 11:40 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
авторПоэтому я придумал разбивать их особым образом - выделить не очень большой раздел соответственно данным и все остальное место использовать как резервное. Да если его на 99% не забивать данными, он и так будет ротировать их прекрасно. Хотя производители рекомендуют оставлять 10% для замены сбойных секторов, тем не менее это не панацея от общего его износа. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 31.01.2017, 11:42 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
авторНужно либо сразу новый SSD так разбивать, либо на резервный раздел запустить один раз mkfs.ext4. Программа узнает SSD и сделает сначала на все блоки операцию discard. Если там аппаратный массив, то ничего она не узнает. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 31.01.2017, 11:43 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
HettавторПоэтому я придумал разбивать их особым образом - выделить не очень большой раздел соответственно данным и все остальное место использовать как резервное. Да если его на 99% не забивать данными, он и так будет ротировать их прекрасно. Хотя производители рекомендуют оставлять 10% для замены сбойных секторов, тем не менее это не панацея от общего его износа. Логично. Тут нужно добавить, что с ненадежными SSD частенько используют RAID1 и поэтому при построении массива происходит запись на весь доступный раздел данных для создания полной копии, а раздел надо именно оставить неиспользуемым. HettЕсли там аппаратный массив, то ничего она не узнает. поэтому я последовательно выступаю за запрещение аппаратных рейдов. Нет тонкого контроля. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 31.01.2017, 11:52 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
MasterZiv, Нет. -rw-rw---- 1 mysql mysql 26M янв 31 16:08 ibdata1 -rw-rw---- 1 mysql mysql 512M янв 31 16:08 ib_logfile0 -rw-rw---- 1 mysql mysql 512M янв 31 16:06 ib_logfile1 Данные лежат в папках с названием баз данных, каждая таблица в своем файле и туда почти не пишет. 512 МБ это логи, innodb_log_file_size = 512M ibdata1 не знаю что такое, но точно не файл с базами данных WP. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 31.01.2017, 14:11 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
Hett, Этот файл всего 26 мб, непонятно, что там лежит. -rw-rw---- 1 mysql mysql 26M янв 31 16:08 ibdata1 Зато пишется в эти 2 файла в сутки не меньше терабайта. Вот бы опцию такую в sql сервере, чтобы эти файлы в ОЗУ были. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 31.01.2017, 14:17 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
Ну чтобы логи поменьше писал, можно попробовать nnodb_flush_log_at_trx_commit = 0 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 31.01.2017, 14:30 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
Hett, добавил nnodb_flush_log_at_trx_commit = 0 Особо лучше не стало. Bytes Filename ------------------------------ 6.19M /home/www2/mysql/ib_logfile0 2.19M /home/www2/mysql/ibdata1 А если закинуть эти файлы на рамдиск, скопировать туда и ссылки сделать в папку mysql? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.02.2017, 01:27 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
Вряд ли, он при запуске эти файлы будет пытаться найти я думаю. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.02.2017, 08:14 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
webrukHett, добавил nnodb_flush_log_at_trx_commit = 0 Особо лучше не стало. Bytes Filename ------------------------------ 6.19M /home/www2/mysql/ib_logfile0 2.19M /home/www2/mysql/ibdata1 А если закинуть эти файлы на рамдиск, скопировать туда и ссылки сделать в папку mysql? Ну закиньте ib_logfile* на hdd. Вроде не должна сильно просесть скорость в целом. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.02.2017, 12:06 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
авторibdata1 не знаю что такое, но точно не файл с базами данных WP. жжошь! data dictionary aka metadata of InnoDB tables change buffer doublewrite buffer undo logs ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 01.02.2017, 15:55 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
ScareCrow, Размер файла меньше 30 МБ. Объем данных в базах десятки ГБ. Это точно не данные. Может doublewrite какой-нибудь. Есть опция, чтобы вынести логи н другой диск? Может какая-то опция для конфига my.cnf? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 02.02.2017, 00:36 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
Похоже проблема решена. С такой нагрузкой мои SSD X300DC будут жить долго. Благодарю всех за обсуждение. Помогло: 1). innodb_file_per_table 2). innodb_flush_log_at_trx_commit = 0 3). innodb_log_group_home_dir = /sqlcache/ 4). innodb_doublewrite = 0 5). innodb_buffer_pool_size = 16G Total DISK READ : 25.77 M/s | Total DISK WRITE : 1744.60 K/s Actual DISK READ: 28.47 M/s | Actual DISK WRITE: 2.29 M/s ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 02.02.2017, 01:06 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
Интересно, а какая опция именно помогла? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 02.02.2017, 08:46 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
Хотя, полагаю, innodb_doublewrite остальные я уже пробовал. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 02.02.2017, 09:12 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
webruk, А innodb_flush_method у вас в какое значение установлен? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 02.02.2017, 09:37 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
тогда проще на MyIsam перейти. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 02.02.2017, 15:01 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
ScareCrowтогда проще на MyIsam перейти. А чем проще? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 02.02.2017, 19:20 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
возни с настройками меньше, а результат тот же. вот этими настройками ты сейчас 2/3 транзакционности. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 03.02.2017, 12:49 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
ScareCrowвозни с настройками меньше, а результат тот же. вот этими настройками ты сейчас 2/3 транзакционности. Так транзакции в полной мере будут работать, разве нет? Какая возня с настройками, одну директиву поменять? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 03.02.2017, 12:51 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
авторразве нет смотря что значить работать. ACID? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 03.02.2017, 16:41 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
Hett, Все, но особенно каждую таблицу в отдельный файл и вынос логов на рамдиск. После отключения doublewrite больше не замечал запись в ~23 МБ файл ibdata1 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 04.02.2017, 03:46 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
miksoft, mysql> SHOW GLOBAL VARIABLES LIKE '%flush%'; +--------------------------------+-------+ | Variable_name | Value | +--------------------------------+-------+ | flush | OFF | | flush_time | 0 | | innodb_adaptive_flushing | ON | | innodb_flush_log_at_trx_commit | 0 | | innodb_flush_method | | +--------------------------------+-------+ ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 04.02.2017, 03:48 |
|
||
|
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
|
|||
|---|---|---|---|
|
#18+
ScareCrowавторразве нет смотря что значить работать. ACID? Я подозреваю, что двойной буфер нужен только на случай сбоев, но никак не связан с ни с каким из аспектов ACID. Хотя на счет durability хз) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 05.02.2017, 10:44 |
|
||
|
|

start [/forum/topic.php?all=1&fid=47&tid=1830940]: |
0ms |
get settings: |
8ms |
get forum list: |
12ms |
check forum access: |
3ms |
check topic access: |
3ms |
track hit: |
40ms |
get topic data: |
9ms |
get forum data: |
2ms |
get page messages: |
82ms |
get tp. blocked users: |
1ms |
| others: | 263ms |
| total: | 423ms |

| 0 / 0 |
