powered by simpleCommunicator - 2.0.59     © 2025 Programmizd 02
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Форумы / MySQL [игнор отключен] [закрыт для гостей] / mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
69 сообщений из 69, показаны все 3 страниц
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39393583
webruk
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Есть сервер с 200 блогами WP, на сами блоги в сутки добавляется от 100 до 1000 новых статей, посетителей не так много 20-30к хитов в сутки, общий размер баз данных 30 ГБ. Проверяя смарт статус своих ССД обнаружил, что за месяц на диск записано 60 тб, начал разбираться, оказывается mysql пишет 20-30 мегабайт в секунду на диск (iotop -d 10 -u mysql). От чего такая огромная активность? mytop показывает 81 запрос в секунду. Ну нет среди этих 81 запроса 20-30 МБ данных, я включал логи и смотрел, что за запросы, UPDATE да SELECT. Подскажите куда копать. Как временная мера - разрешил пользователям только SELECT, нагрузка на запись упала почти до 0.

Конфиг сервера:

mysqld]
user = mysql
pid-file = /var/run/mysqld/mysqld.pid
socket = /var/run/mysqld/mysqld.sock
port = 3306
basedir = /usr
datadir = /home/www/DEDIK/mysql
tmpdir = /tmp
lc-messages-dir = /usr/share/mysql
bind-address = 0.0.0.0
key_buffer = 6G
max_allowed_packet = 16M
thread_stack = 192K
thread_cache_size = 16
myisam-recover = BACKUP
table_cache = 4096
table_open_cache = 4096
query_cache_limit = 100M
query_cache_size = 6G

innodb_flush_log_at_trx_commit = 2
innodb_buffer_pool_size = 16G
innodb_log_buffer_size = 64M
log_error = /var/log/mysql/error.log
expire_logs_days = 10
max_binlog_size = 100M
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39393613
Фотография MasterZiv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
webruk,

Мужик, кто ж за тебя с этим WP будет разбираться, что он там пишет?
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39393620
webruk
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
MasterZiv,
Проблема в том, что вордпресс столько не пишет. Это sql сервер что-то там переписывает бес конца. Вот хотелось бы понять что и как это отключить.
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39393660
VGrey
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
webruk, например, пишет спам-кментарии. На сайтах они не видны, фильтруются чем-то типа Akismet, но в базу и на дискк - пишутся.
Попробуйте посмотреть в админках, если есть доступ, понапрягайте пользователей. Разберитесь, в какую таблицу валятся спам-коментарии и последите за их размерами.

А вообще, у Вас слегка странные настройки mysql. Особенно, бросается в глаза это: query_cache_size = 6G
Клиентские базы в InnoDB?
Памяти на сервере хварает, не свапит?

Если что, давайте посмотрим вместе - 200 сайтов на WP- вроде, не так уж и много, что бы вызывать проблемы с MySQL.

---
Виктор
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39393673
miksoft
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
webruk,

Таблицы на каком движке используются? InnoDB или MyISAM?
Сколько памяти установлено?

Вообще, исходя из того как вольно раздаются гигабайты памяти, есть подозрение, что происходил активный своп.
webrukНу нет среди этих 81 запроса 20-30 МБ данныхОткуда такая уверенность? Вы учли все накладные расходы?
Например, апдейт одного поля с 4-х байтовым целым в одной записи может вызвать десятки килобайт записи.
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39393803
webruk
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
VGrey,
Базы в InnoDB, я много чего пробовал перед тем, как написать, видимо не убрал лишнее из конфига.
По поводу спама в блоги были мысли, но я их исключил, открыл логи веб сервера и распарсил, спама не был, а поток в БД был. Значит точно не оно. Памяти на сервере 64 Гб.
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39393804
webruk
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
miksoft,
Я только про накладные расходы и думаю, ну или SQL сервер с моими настройками переписывает какой-то большой файл постоянно, но так же не должно быть. База растет за сутки на 1-2 ГБ, а mysql сервер пишет на диск 2 ТБ. в 1000 раз накладные расходы? Может как-то можно их уменьшить, под кеш ОЗУ отдать?
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39393818
webruk
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
webruk,
Больше всего UDPATE запросов в таблицы _options, есть способ их выложить в кеш и скидывать на диск, допустим, раз в минуту?
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39393838
webruk
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Дал права на все запросы, включил general_log, получил
-rw-rw---- 1 mysql mysql 182M янв 28 20:53 sd2.log
Из этого объема UPDATE 180 МБ.
root@sd2:/home/www/DEDIK/mysql# cat sd2.log | grep UPDATE > 11111
root@sd2:/home/www/DEDIK/mysql# ls -lah 11111
-rw-r--r-- 1 root root 180M янв 28 22:17 11111
Получается в любом случае это все будет записано на диск? Никак не сделать, чтобы сервер проводил все свои манипуляции с определенными таблицами в ОЗУ и изредка скидывал результат на SSD?
Остается только перенести БД на RAID из HDD?
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39393841
miksoft
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
webrukБаза растет за сутки на 1-2 ГБ, а mysql сервер пишет на диск 2 ТБ.Одно к другому никакого отношения не имеет.

Более того, даже SELECT-ы могут вызвать массивную запись, если временные файлы генерятся.
webrukБазы в InnoDBТогда key_buffer уменьшайте до десятков мегабайт.

query_cache_size тоже уменьшайте до вменяемых значений, например, 256 МБ.

innodb_buffer_pool_size можно немного увеличить, нужно чтобы в него помещалась вся активная часть базы (которая используется хотя бы для чтения).

Проверьте, что в системе не возникает своп.
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39393845
miksoft
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Еще можно попробовать innodb_flush_log_at_trx_commit переключить на 0.
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39393848
miksoft
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
webrukБольше всего UDPATE запросов в таблицы _options, есть способ их выложить в кеш и скидывать на диск, допустим, раз в минуту?А что это за таблица?
Не знаю как в WP, а если бы это была своя разработка, то можно было бы сменить движок таблицы на MEMORY и периодически делать ее копию в таблице на диске. Или вообще не делать, если ее содержимое имеет смысл только короткое время.
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39393853
webruk
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
miksoft,
wp_options таблицы, у каждого блога она своя, на MEMORY сменить можно на лету? Интересно бы было попробовать. innodb_flush_log_at_trx_commit = 0 пробовал, вообще не заметил разницы между 0 и 2. Свопа нет, сейчас свободно 32 гб ОЗУ. innodb_buffer_pool_size пробовал разный, проблему с потоком на запись это не уменьшает, но, думаю, будет актуально на HDD, на которые придется вернуться снова. С таким потоком ссд придется менять раз в 3 месяца, а стоят они по 20к.
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39393858
miksoft
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
webrukна MEMORY сменить можно на лету?Можно. Но она будет заблокирована даже на чтение на время операции с этой таблицей.
Группу таблиц скопом изменить нельзя, придется делать скрипт для поштучного изменения.
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39393862
Фотография Hett
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Была подобная проблема, вылечили добавлением памяти
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39393864
miksoft
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
HettБыла подобная проблема, вылечили добавлением памятиВ данном случае не похоже на то.
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39393865
Фотография Hett
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Было 64 ОЗУ на сервере физически, добавили еще 128 и размер буфера пула в два раза увеличили (до 96 вроде)
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39393866
Фотография Hett
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
miksoftHettБыла подобная проблема, вылечили добавлением памятиВ данном случае не похоже на то.

Мы долго голову ломали, похоже он постоянно выгружает лишнее из памяти
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39393867
miksoft
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
HettМы долго голову ломали, похоже он постоянно выгружает лишнее из памятиЧто значит "выгружает", если свопа нет?
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39393896
webruk
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Я уже готов переехать на RAID, можно как-нибудь оставить одну БД на ССД диске, а остальное разместить на массиве из HDD?
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39394208
Фотография Hett
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
miksoftHettМы долго голову ломали, похоже он постоянно выгружает лишнее из памятиЧто значит "выгружает", если свопа нет?

Не знаю что он там именно делает, но просто увеличение памяти снизило запись с 30-40 МБ/с до 2-5 МБ/с.
Я тогда долго запросы анализировал, не было ничего такого, что могло бы реально столько данных изменять.
Вот моя тогдашняя тема http://www.sql.ru/forum/1232540/bolshaya-nagruzka-na-disk
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39394209
Фотография Hett
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Надеюсь у тебя file_per_table включено.
Можно посмотреть при помощи утилиты sysdig скорость io по файлам.
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39394338
Фотография MasterZiv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
webrukMasterZiv,
Проблема в том, что вордпресс столько не пишет. Это sql сервер что-то там переписывает бес конца. Вот хотелось бы понять что и как это отключить.

ага, ему делать нечего...

binary log, query log, slow query log , надеюсь, выключены ?
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39394347
Фотография Hett
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
авторага, ему делать нечего.
Видимо нечего.
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39394360
Фотография Hett
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Код: plaintext
1.
sysdig -c topfiles_bytes

Код: plaintext
1.
2.
3.
4.
5.
6.
7.
mysql> show variables like 'innodb_file_per_table';
+-----------------------+-------+
| Variable_name         | Value |
+-----------------------+-------+
| innodb_file_per_table | ON    |
+-----------------------+-------+
1 row in set (0.00 sec)

И что он туда написывает так активно?
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39394397
netwind
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
HettБыла подобная проблема, вылечили добавлением памяти
была подобная проблема - вылечилось тем что даже не стали связываться с СЕО-балалайкой.

Люди столько постов не напишут, а парсеры и преумножители бессмысленного контента должны старадать.
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39394403
miksoft
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
HettИ что он туда написывает так активно?

На картинке явно не только запись, но и чтение. И, скорее всего, логическое, а не физическое. Так что она не аргумент.
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39394405
Фотография Hett
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
miksoftHettИ что он туда написывает так активно?

На картинке явно не только запись, но и чтение. И, скорее всего, логическое, а не физическое. Так что она не аргумент.

Там чтения почти нет
Вот iotop
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39394409
Фотография Hett
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Запись варьируется от 3 до 15 (чаще ближе к нижней отметке)
Раньше, до добавления памяти, было от 30-40 и выше.
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39394411
Фотография Hett
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Еще такой момент, что если сервис перезапустить, то первое время нагрузка на диск заметно ниже.
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39394526
webruk
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Попробовал запустить на RAID, результат огорчил, после ССД вообще не вариант, страниц открываются по несколько секунд, дисковые очереди возрастают до 20, да, можно добавить еще дисков, но не думаю, что это решит проблему.
Вот смотрю на такой диск http://www.nix.ru/autocatalog/ssd_intel/SSD-400-Gb-SATA-6Gb-s-Intel-DC-S3710-Series-SSDSC2BA400G401-25-MLC_202396.html У кого-нибудь есть опыт эксплуатации? Заявлено 8 ПБ на запись.
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39394528
Фотография Hett
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Включи, для начала, запись запросов в лог и проанализируй его.

Что говорит?
Код: plaintext
sysdig -c topfiles_bytes
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39394717
Dimitry Sibiryakov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
HettВот iotop
И в нём первой строчкой - mongo. С чего ты начал винить MySQL - непонятно.
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39394724
Фотография Hett
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Dimitry SibiryakovHettВот iotop
И в нём первой строчкой - mongo. С чего ты начал винить MySQL - непонятно.

Там сортировка по времени, а не по объему. Если внимательно посмотреть, то можно понять почему.
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39394726
Фотография Hett
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Обвел кружочками куда надо смотреть.
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39394730
netwind
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
webruk, ну какие еще "страницы"? В подфоруме mysql оперируют sql. То есть, вы должны наконец разобраться что запросы генерирует приложение.

Я думаю, у вас парсер слишком активно и глупо записывает в базу. Упоминание таблицы wp_options подсказывает, что тут просто какая-то php-городушка на скорую руку и в ней не потрудились даже создать отдельные таблицы для сущностей, которыми этот парсер оперирует.
Но может и совсем не так все.
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39394732
Фотография Hett
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
netwind,

Ну вообще да, быть может там ОРМ которая обновляет весь объект. И в каком-то плагине криво реализовали пересохранение всего объекта, при, например, апдейте счетчика просмотра. Но все это будет видно в логе запросов, а автор класть на него хотел, он думает какие диски вставить, чтобы работало.
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39394738
netwind
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Hett, предлагаю ограничить продажу SSD, чтобы разрешение выдавала Специальная Комиссия Академии Спецсвязи ФСБ.
А то получается, глубокая архитектурная проблема была не замечена и позволила нормально эксплуатировать аж 200 сайтов в течении продолжительного времени.
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39394752
Фотография Hett
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
netwindHett, предлагаю ограничить продажу SSD, чтобы разрешение выдавала Специальная Комиссия Академии Спецсвязи ФСБ.
А то получается, глубокая архитектурная проблема была не замечена и позволила нормально эксплуатировать аж 200 сайтов в течении продолжительного времени.

Зачем?
Я это к тому, что надо искать причину проблемы, а не диск, который будет это все вывозить. Хотя, конечно, кому как нравится
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39394754
Фотография Hett
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Да и количество сайтов это не показатель нагрузки.
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39395042
webruk
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Я сделал экспорт\импорт всех баз с новым конфигом с включением innodb_file_per_table.
Сейчас сервер активно пишет в 2 файла:

9.09M /home/www2/mysql/ib_logfile0
3.12M /home/www2/mysql/ibdata1

WP без плагинов, чистая установка.

Текущий конфиг:
[mysqld]
user = mysql
pid-file = /var/run/mysqld/mysqld.pid
socket = /var/run/mysqld/mysqld.sock
port = 3306
basedir = /usr
datadir = /home/www2/mysql
tmpdir = /tmp
lc-messages-dir = /usr/share/mysql
bind-address = 0.0.0.0
key_buffer = 32M
max_allowed_packet = 16M
thread_stack = 192K
thread_cache_size = 16
myisam-recover = BACKUP
table_cache = 4096
table_open_cache = 4096
query_cache_type = ON
query_cache_limit = 1G
query_cache_size = 32M

innodb_flush_log_at_trx_commit = 2
innodb_buffer_pool_size = 16G
innodb_log_file_size = 512M
innodb_log_buffer_size = 1G
innodb_file_per_table
log_error = /var/log/mysql/error.log
expire_logs_days = 10
max_binlog_size = 100M
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39395106
Фотография Hett
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
webrukСейчас сервер активно пишет в 2 файла:

9.09M /home/www2/mysql/ib_logfile0
3.12M /home/www2/mysql/ibdata1

Ну вот абсолютно та же картина. Что туда MySQL написывает, одному ему только известно. Журнал, конечно и все такое - я понимаю, но что-от многовато данных пишется.
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39395260
Фотография MasterZiv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
.
Сейчас сервер активно пишет в 2 файла:

9.09M /home/www2/mysql/ib_logfile0
3.12M /home/www2/mysql/ibdata1

...что не удивительно, это и есть файлы базы данных, лог и сами данные.

в общем, мы выяснили, что СУБД ПИШЕТ ЧТО-ТО В БД - великое открытие, я считаю...
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39395264
Фотография MasterZiv
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Hett,
так кто его знает, этот WP , Может там логи какие-то свои включены...
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39395274
netwind
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
В общем толку тут не будет поэтому поделюсь собственным Оригинальным Исследованием:

На некоторые модели арендных серверов ставят фиговенькие SSD, но достаточно большого размера. Поэтому я придумал разбивать их особым образом - выделить не очень большой раздел соответственно данным и все остальное место использовать как резервное. Если ОС никогда не писала в эти блоки, то контроллер SSD начинает их использовать в ротации и тем самым общий срок службы повышается. Хорошие SSD от intel так же используют эту технику, но там просто логический размер накопителя меньше чем реальный по маркировке на микросхемах.

Нужно либо сразу новый SSD так разбивать, либо на резервный раздел запустить один раз mkfs.ext4. Программа узнает SSD и сделает сначала на все блоки операцию discard. Можно еще улучшить методику, но реально пройтись один раз mkfs будет вполне достаточно.

Исследование подтверждается экспериментально графиками SMART до и после манипуляций.
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39395275
Фотография Hett
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
MasterZiv.
Сейчас сервер активно пишет в 2 файла:

9.09M /home/www2/mysql/ib_logfile0
3.12M /home/www2/mysql/ibdata1

...что не удивительно, это и есть файлы базы данных, лог и сами данные.

в общем, мы выяснили, что СУБД ПИШЕТ ЧТО-ТО В БД - великое открытие, я считаю...

А разве данные при включенном innodb_file_per_table лежат в ibdata1 ?
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39395278
Фотография Hett
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
авторПоэтому я придумал разбивать их особым образом - выделить не очень большой раздел соответственно данным и все остальное место использовать как резервное.
Да если его на 99% не забивать данными, он и так будет ротировать их прекрасно. Хотя производители рекомендуют оставлять 10% для замены сбойных секторов, тем не менее это не панацея от общего его износа.
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39395282
Фотография Hett
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
авторНужно либо сразу новый SSD так разбивать, либо на резервный раздел запустить один раз mkfs.ext4. Программа узнает SSD и сделает сначала на все блоки операцию discard.
Если там аппаратный массив, то ничего она не узнает.
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39395303
netwind
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
HettавторПоэтому я придумал разбивать их особым образом - выделить не очень большой раздел соответственно данным и все остальное место использовать как резервное.
Да если его на 99% не забивать данными, он и так будет ротировать их прекрасно. Хотя производители рекомендуют оставлять 10% для замены сбойных секторов, тем не менее это не панацея от общего его износа.
Логично. Тут нужно добавить, что с ненадежными SSD частенько используют RAID1 и поэтому при построении массива происходит запись на весь доступный раздел данных для создания полной копии, а раздел надо именно оставить неиспользуемым.

HettЕсли там аппаратный массив, то ничего она не узнает.
поэтому я последовательно выступаю за запрещение аппаратных рейдов. Нет тонкого контроля.
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39395481
webruk
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
MasterZiv,
Нет.
-rw-rw---- 1 mysql mysql 26M янв 31 16:08 ibdata1
-rw-rw---- 1 mysql mysql 512M янв 31 16:08 ib_logfile0
-rw-rw---- 1 mysql mysql 512M янв 31 16:06 ib_logfile1
Данные лежат в папках с названием баз данных, каждая таблица в своем файле и туда почти не пишет.
512 МБ это логи, innodb_log_file_size = 512M
ibdata1 не знаю что такое, но точно не файл с базами данных WP.
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39395487
webruk
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Hett,
Этот файл всего 26 мб, непонятно, что там лежит.
-rw-rw---- 1 mysql mysql 26M янв 31 16:08 ibdata1
Зато пишется в эти 2 файла в сутки не меньше терабайта.
Вот бы опцию такую в sql сервере, чтобы эти файлы в ОЗУ были.
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39395499
Фотография Hett
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Ну чтобы логи поменьше писал, можно попробовать nnodb_flush_log_at_trx_commit = 0
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39395935
webruk
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Hett,
добавил nnodb_flush_log_at_trx_commit = 0
Особо лучше не стало.
Bytes Filename
------------------------------
6.19M /home/www2/mysql/ib_logfile0
2.19M /home/www2/mysql/ibdata1

А если закинуть эти файлы на рамдиск, скопировать туда и ссылки сделать в папку mysql?
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39395981
Фотография Hett
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Вряд ли, он при запуске эти файлы будет пытаться найти я думаю.
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39396202
netwind
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
webrukHett,
добавил nnodb_flush_log_at_trx_commit = 0
Особо лучше не стало.
Bytes Filename
------------------------------
6.19M /home/www2/mysql/ib_logfile0
2.19M /home/www2/mysql/ibdata1

А если закинуть эти файлы на рамдиск, скопировать туда и ссылки сделать в папку mysql?
Ну закиньте ib_logfile* на hdd. Вроде не должна сильно просесть скорость в целом.
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39396462
Фотография ScareCrow
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
авторibdata1 не знаю что такое, но точно не файл с базами данных WP.
жжошь!


data dictionary aka metadata of InnoDB tables
change buffer
doublewrite buffer
undo logs
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39396848
webruk
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
ScareCrow,
Размер файла меньше 30 МБ. Объем данных в базах десятки ГБ. Это точно не данные. Может doublewrite какой-нибудь.
Есть опция, чтобы вынести логи н другой диск? Может какая-то опция для конфига my.cnf?
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39396856
webruk
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Похоже проблема решена. С такой нагрузкой мои SSD X300DC будут жить долго. Благодарю всех за обсуждение.
Помогло:
1). innodb_file_per_table
2). innodb_flush_log_at_trx_commit = 0
3). innodb_log_group_home_dir = /sqlcache/
4). innodb_doublewrite = 0
5). innodb_buffer_pool_size = 16G

Total DISK READ : 25.77 M/s | Total DISK WRITE : 1744.60 K/s
Actual DISK READ: 28.47 M/s | Actual DISK WRITE: 2.29 M/s
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39396933
Фотография Hett
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Интересно, а какая опция именно помогла?
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39396948
Фотография Hett
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Хотя, полагаю, innodb_doublewrite
остальные я уже пробовал.
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39396975
miksoft
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
webruk,

А innodb_flush_method у вас в какое значение установлен?
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39397311
Фотография ScareCrow
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
тогда проще на MyIsam перейти.
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39397553
Фотография Hett
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
ScareCrowтогда проще на MyIsam перейти.
А чем проще?
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39398066
Фотография ScareCrow
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
возни с настройками меньше, а результат тот же. вот этими настройками ты сейчас 2/3 транзакционности.
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39398070
Фотография Hett
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
ScareCrowвозни с настройками меньше, а результат тот же. вот этими настройками ты сейчас 2/3 транзакционности.

Так транзакции в полной мере будут работать, разве нет?
Какая возня с настройками, одну директиву поменять?
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39398343
Фотография ScareCrow
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
авторразве нет
смотря что значить работать. ACID?
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39398516
webruk
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Hett,
Все, но особенно каждую таблицу в отдельный файл и вынос логов на рамдиск.
После отключения doublewrite больше не замечал запись в ~23 МБ файл ibdata1
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39398517
webruk
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
miksoft,

mysql> SHOW GLOBAL VARIABLES LIKE '%flush%';
+--------------------------------+-------+
| Variable_name | Value |
+--------------------------------+-------+
| flush | OFF |
| flush_time | 0 |
| innodb_adaptive_flushing | ON |
| innodb_flush_log_at_trx_commit | 0 |
| innodb_flush_method | |
+--------------------------------+-------+
...
Рейтинг: 0 / 0
mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
    #39398782
Фотография Hett
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
ScareCrowавторразве нет
смотря что значить работать. ACID?
Я подозреваю, что двойной буфер нужен только на случай сбоев, но никак не связан с ни с каким из аспектов ACID. Хотя на счет durability хз)
...
Рейтинг: 0 / 0
69 сообщений из 69, показаны все 3 страниц
Форумы / MySQL [игнор отключен] [закрыт для гостей] / mysql, 200 блогов WP, запись на диск за сутки 2 ТБ.
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]