|
|
|
Выбор БД для нагруженного портала ( много поиска )
|
|||
|---|---|---|---|
|
#18+
ЛП Если данные влезают в ОЗУ, то никакие РСУБД и даром не нужны. Хватит сериализуемого на диск куска памяти ака массив. РСУБД возникли (в том числе) для того, чтобы эффективно работать с данными, объём которых превышает не только доступное ОЗУ, но иногда и адресное пространство. Попробуйте иногда и головой думать. А именно - подавляющее большинство существующих БД помещаются в оперативку, а РСУБД используются ради транзакционности, поддержки SQL прочего функцинала. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 28.03.2010, 12:47 |
|
||
|
Выбор БД для нагруженного портала ( много поиска )
|
|||
|---|---|---|---|
|
#18+
MBG Попробуйте иногда и головой думать. А именно - подавляющее большинство существующих БД помещаются в оперативку, а РСУБД используются ради транзакционности, поддержки SQL прочего функцинала. Почитайте теорию что-ли. Очень хорошо чтобы индекс влазил в память (или его основные уровни в случае В+, R+ дерева). А данные это дело такое. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 28.03.2010, 14:23 |
|
||
|
Выбор БД для нагруженного портала ( много поиска )
|
|||
|---|---|---|---|
|
#18+
[quot Alex042] Кстати никто не подскажет где их можно найти? на фрилансе что-то мало нормальных специалистов./quot] Если интересно, могу взяться за модули эффективно функционирующие с бд(php) и саму БД. Но вот сам дизайн не моё. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 28.03.2010, 14:28 |
|
||
|
Выбор БД для нагруженного портала ( много поиска )
|
|||
|---|---|---|---|
|
#18+
Alex042 А кто тут утверждал, что это поиск? Мне сказали, какая скорость загрузки Вам нужна, я и отвечаю С ТОЧКИ ЗРЕНИЯ ПОЛЬЗОВАТЕЛЯ. Я не имею понятия как отследить эти 100, 200 миллисекунд? ( ну если они не выводятся внизу страницы) И для ПОЛЬЗОВАТЕЛЯ, нет ни какой разницы, поиск это или статика - его волнует, когда по его ЩЕЛЧКУ - появится то, что он запросил? Или я не прав? Дилетант вы чистой воды, или авантюрист. MBG, вы понимаете что такое VDS? И встречались-ли в вашей практике приложения сложнее списка пользователей? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 28.03.2010, 16:40 |
|
||
|
Выбор БД для нагруженного портала ( много поиска )
|
|||
|---|---|---|---|
|
#18+
Mysqladdictive MBG, вы понимаете что такое VDS? Интересно, с какого перепугу вы про VDS вдруг заговорили? Топикстартер ясно сказал, что проект будет работать на нескольких (2,3) выделенных серверах. Mysqladdictive И встречались-ли в вашей практике приложения сложнее списка пользователей? Переход на личности свидетельствует лишь об отсутствии у вас какой-либо квалификации. Если это не так, будьте любезны показать свои открытые проекты. Мои open source проекты легко посмотреть здесь (fossil-репозиторий, debian-репозиторий, блог): MBG SQLite На сайт с коммерческими продуктами линк там же можно найти, к слову сказать. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 28.03.2010, 18:24 |
|
||
|
Выбор БД для нагруженного портала ( много поиска )
|
|||
|---|---|---|---|
|
#18+
Толстый_ТрольПочитайте теорию что-ли. Очень хорошо чтобы индекс влазил в память (или его основные уровни в случае В+, R+ дерева). А данные это дело такое. Каким местом _теория баз данных_ связана со _статистикой их использования_? А вот стандартное поведение популярных СУБД заточено именно на типичное их использование - когда вся БД помещается в ОЗУ (как пример - тот же постгрес - если БД не влазит в ОЗУ, сразу же оказывается необходимым настраивать параметры стоимости чтения страниц с диска и т.п., так это нетипичный сценарий использования). ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 28.03.2010, 18:30 |
|
||
|
Выбор БД для нагруженного портала ( много поиска )
|
|||
|---|---|---|---|
|
#18+
MBGТолстый_ТрольПочитайте теорию что-ли. Очень хорошо чтобы индекс влазил в память (или его основные уровни в случае В+, R+ дерева). А данные это дело такое. Каким местом _теория баз данных_ связана со _статистикой их использования_? А вот стандартное поведение популярных СУБД заточено именно на типичное их использование - когда вся БД помещается в ОЗУ (как пример - тот же постгрес - если БД не влазит в ОЗУ, сразу же оказывается необходимым настраивать параметры стоимости чтения страниц с диска и т.п., так это нетипичный сценарий использования). Мне очень сложно с вами спорить, так как я не знаю о чём спорить. Я плотно не работал с MySql может там и всё так плохо, но firebird очень шустро делала выборки на P2 с 256 Мб, на котором стоял Windows 2000 AS, Домен, CVS, локальный фтп и веб-сервер и всё это еще использовалось в качестве прокси, маил-сервера и Nat. База была около 5Гб на NTFS. выборки строились по 30-40 мс. Я DB-хакер? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 28.03.2010, 19:54 |
|
||
|
Выбор БД для нагруженного портала ( много поиска )
|
|||
|---|---|---|---|
|
#18+
MBGА вот стандартное поведение популярных СУБД заточено именно на типичное их использование - когда вся БД помещается в ОЗУКак раз точно наоборот. "стандартное поведение популярных СУБД заточено" именно на то, что объем данных будет многократно больше объема ОЗУ. Когда начиналось развитие большинства лидирующих СУБД и ОЗУ-то было крошечным. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 28.03.2010, 19:56 |
|
||
|
Выбор БД для нагруженного портала ( много поиска )
|
|||
|---|---|---|---|
|
#18+
Толстый_Троль Мне очень сложно с вами спорить, так как я не знаю о чём спорить. Я плотно не работал с MySql может там и всё так плохо, но firebird очень шустро делала выборки на P2 с 256 Мб, на котором стоял Windows 2000 AS, Домен, CVS, локальный фтп и веб-сервер и всё это еще использовалось в качестве прокси, маил-сервера и Nat. База была около 5Гб на NTFS. выборки строились по 30-40 мс. Я DB-хакер? А теперь запустите там же 5 конкурентных запросов, каждый из которых работает с выборкой 1 Гб, притом эти выборки не пересекаются. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 28.03.2010, 21:42 |
|
||
|
Выбор БД для нагруженного портала ( много поиска )
|
|||
|---|---|---|---|
|
#18+
miksoftКак раз точно наоборот. "стандартное поведение популярных СУБД заточено" именно на то, что объем данных будет многократно больше объема ОЗУ. Когда начиналось развитие большинства лидирующих СУБД и ОЗУ-то было крошечным. Если бы дело обстояло так, как вы говорите, то СУБД обходились бы без кэша - какой смысл кэшировать то, что больше никогда не понадобится. Посмотрите на выделяемые постгресу или ораклу блоки shared memory - они нужны именно для того, чтобы хранить в них часто используемые данные, а если запросы постоянно "ворочают" объемами данных, не помещающимися в кэш, то происходит непрерывное вытеснение страниц из кэша и это весьма неоптимально. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 28.03.2010, 21:47 |
|
||
|
Выбор БД для нагруженного портала ( много поиска )
|
|||
|---|---|---|---|
|
#18+
MBGmiksoftКак раз точно наоборот. "стандартное поведение популярных СУБД заточено" именно на то, что объем данных будет многократно больше объема ОЗУ. Когда начиналось развитие большинства лидирующих СУБД и ОЗУ-то было крошечным. Если бы дело обстояло так, как вы говорите, то СУБД обходились бы без кэша - какой смысл кэшировать то, что больше никогда не понадобится. А зачем освобождать память, если прочитанные данные могут вскоре еще понадобиться? не знаю, Вы какие-то странные вещи пишите на мой взгляд 95% данных в базе не используется месяцами, какой смысл иметь такую большую оперативную память? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 28.03.2010, 22:04 |
|
||
|
Выбор БД для нагруженного портала ( много поиска )
|
|||
|---|---|---|---|
|
#18+
MBG, Вот не надо частные проблемы постгриса приписывать всем СУБД. И вообще, фуллсканы и им подобные запросы можно пускать мимо кэша. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 28.03.2010, 22:27 |
|
||
|
Выбор БД для нагруженного портала ( много поиска )
|
|||
|---|---|---|---|
|
#18+
MBG, Вы уточните для своих оппонентов, что Вы имеете в виду не размер хранимых данных, а размер выбираемых (запросом) данных. А то, сдается мне, все эти споры просто из-за неточных формулировок... ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 28.03.2010, 23:17 |
|
||
|
Выбор БД для нагруженного портала ( много поиска )
|
|||
|---|---|---|---|
|
#18+
###MBG, Вы уточните для своих оппонентов, что Вы имеете в виду не размер хранимых данных, а размер выбираемых (запросом) данных. А то, сдается мне, все эти споры просто из-за неточных формулировок... Вы правы, стоит уточнить. Рассмотрим ситуацию: БД содержит данные за 3 года, а построение месячных отчетов является типичной задачей. Тогда, если размер БД > 3*12*RAM, типичная выборка не влезает в кэш. На практике размер БД обычно изменяется нелинейно, например, удваивается за полгода - год (зависит от проекта, конечно, - может расти и намного быстрее). Тогда может оказаться, что актуальных данных за последний месяц в БД не 1/36, а 1/3, и соотношение примет вид БД > 3*RAM. Как пример, в проекте с 20 гиг БД в типичном отчете может строиться выборка 4-5 Гб размером (взято из вполне реального приложения). Но на самом деле не весь объем RAM можно отдать под кэш БД, обычно не больше 1/2, откуда следует БД > 1.5*RAM. Вот этот коэффициент 1.5 я откинул для простоты и назвал соотношение БД > RAM, подразумевая, что при этом размер типичной выборки превышает объем кэша СУБД. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 29.03.2010, 00:22 |
|
||
|
Выбор БД для нагруженного портала ( много поиска )
|
|||
|---|---|---|---|
|
#18+
2 MBG Попробуйте иногда и головой думать. Зеркалу это скажи. А именно - подавляющее большинство существующих БД помещаются в оперативку Подавляющее большинство существующих БД крутится внутри РСУБД только потому, что исторически так сложилось. Надобности в релационности - нет никакой (при условии, что данные в оперативу влезают) а РСУБД используются ради транзакционности, поддержки SQL прочего функцинала. Дурак чтоль совсем? Для транзакционности ни СУБД, ни РСУБД не нужно. Равно как и для поддержки SQL. При желании можно хоть поверх массива в памяти навернуть всякую там транзакционность, языки, логирование, авторизацию, аутентификацию... Можно даже назвать это СУБД. Только РСУБД это не назвать. Да и не нужны эти самые РСУБД в условиях, когда "данных меньше чем памяти". Не для того они созданы. Применение реляционной теории для того, что в память спокойно помещается - стрельба из пушки по воробьям. --------------------------- 2 ### MBG, Вы уточните для своих оппонентов, что Вы имеете в виду не размер хранимых данных, а размер выбираемых (запросом) данных Неважно совершенно. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 29.03.2010, 01:36 |
|
||
|
Выбор БД для нагруженного портала ( много поиска )
|
|||
|---|---|---|---|
|
#18+
Поставьте себе Visual Foxpro и не морочте людям голову!!! ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 29.03.2010, 09:29 |
|
||
|
Выбор БД для нагруженного портала ( много поиска )
|
|||
|---|---|---|---|
|
#18+
MBGА вот стандартное поведение популярных СУБД заточено именно на типичное их использование - когда вся БД помещается в ОЗУ (как пример - тот же постгрес - если БД не влазит в ОЗУ, сразу же оказывается необходимым настраивать параметры стоимости чтения страниц с диска и т.п., так это нетипичный сценарий использования). Верно-верно. Из этого следует, что стандартное поведение СУБД, "заточенное" на случай, когда не "вся БД помещается в ОЗУ", будет таким: * сколько ОЗУ ни давай, ощутимой пользы не будет; * "параметры стоимости чтения страниц с диска и т.п." их совершенно не интересуют и ни на что не влияют. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 29.03.2010, 11:03 |
|
||
|
Выбор БД для нагруженного портала ( много поиска )
|
|||
|---|---|---|---|
|
#18+
Victor Metelitsa Верно-верно. Из этого следует, что стандартное поведение СУБД, "заточенное" на случай, когда не "вся БД помещается в ОЗУ", будет таким: * сколько ОЗУ ни давай, ощутимой пользы не будет; * "параметры стоимости чтения страниц с диска и т.п." их совершенно не интересуют и ни на что не влияют. Не вся БД, а только выборка и индексы(или их часть) для выборки. А rows в память будут фетчится только если баран ДБА не создал нужных индексов. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 29.03.2010, 12:41 |
|
||
|
Выбор БД для нагруженного портала ( много поиска )
|
|||
|---|---|---|---|
|
#18+
Толстый_Троль, Не забываем еще второго потенциального барана - встроенный оптимизатор. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 29.03.2010, 12:59 |
|
||
|
Выбор БД для нагруженного портала ( много поиска )
|
|||
|---|---|---|---|
|
#18+
Толстый_ТрольVictor Metelitsa Верно-верно. Из этого следует, что стандартное поведение СУБД, "заточенное" на случай, когда не "вся БД помещается в ОЗУ", будет таким: * сколько ОЗУ ни давай, ощутимой пользы не будет; * "параметры стоимости чтения страниц с диска и т.п." их совершенно не интересуют и ни на что не влияют. Не вся БД, а только выборка и индексы(или их часть) для выборки. А пофиг. Абсурдность не уменьшается ни на сколько. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 29.03.2010, 15:02 |
|
||
|
Выбор БД для нагруженного портала ( много поиска )
|
|||
|---|---|---|---|
|
#18+
MysqladdictiveAlex042 А кто тут утверждал, что это поиск? Мне сказали, какая скорость загрузки Вам нужна, я и отвечаю С ТОЧКИ ЗРЕНИЯ ПОЛЬЗОВАТЕЛЯ. Я не имею понятия как отследить эти 100, 200 миллисекунд? ( ну если они не выводятся внизу страницы) И для ПОЛЬЗОВАТЕЛЯ, нет ни какой разницы, поиск это или статика - его волнует, когда по его ЩЕЛЧКУ - появится то, что он запросил? Или я не прав? Дилетант вы чистой воды, или авантюрист. а предложение в топике на самом верху Alex042 Сам я очень слабо разбираюсь в различных бд Вам ничего не говорит? Я написал эту тему, чтобы мне подсказали какие бд лучше подходят для таких задач. Да, видимо, я обишся назвав пиковые нагрузки. признаю и каюсь ) Средние же расчитывались, как и все среднестатистическое. Если кто может подсказать, что входит в объем бд. Я могу приблизительно подсчитать ее. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 29.03.2010, 20:08 |
|
||
|
Выбор БД для нагруженного портала ( много поиска )
|
|||
|---|---|---|---|
|
#18+
Alex042 Если кто может подсказать, что входит в объем бд. Я могу приблизительно подсчитать ее. А почему бы вам не написать скрипт, который создаст и заполнит тестовую базу согласно вашим ожиданиям за первые 2 года работы системы? Заодно подумаете и о распределении данных и протестировать сможете в разных СУБД, многое станет очевидным. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.03.2010, 03:18 |
|
||
|
Выбор БД для нагруженного портала ( много поиска )
|
|||
|---|---|---|---|
|
#18+
Victor MetelitsaMBG... Верно-верно. Из этого следует, что стандартное поведение СУБД, "заточенное" на случай, когда не "вся БД помещается в ОЗУ", будет таким: * сколько ОЗУ ни давай, ощутимой пользы не будет; * "параметры стоимости чтения страниц с диска и т.п." их совершенно не интересуют и ни на что не влияют. Вы сами поняли, что сказали? * Если физически ОЗУ мало, например, 1 гиг, а вы указываете СУБД, что ОЗУ 100 гиг, какая от этого может быть польза - в своп залезете. Виртуальная-то память будет выделяться, но результат окажется плачевен. * если вы хорошо в своп влезете, то параметры чтения с диска для СУБД ни на что влиять и не могут - данные уже в свопе и все определяется тем, как ОС ротирует эти страницы по мере обращения к ним СУБД. Во избежание флейма добавлю, что и при корректных настройках зачастую при "тяжелых" конкурентных запросах СУБД берет памяти больше, чем предполагается настройками, что и приводит к интенсивному своппингу. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.03.2010, 03:27 |
|
||
|
Выбор БД для нагруженного портала ( много поиска )
|
|||
|---|---|---|---|
|
#18+
MBGVictor MetelitsaMBG... Верно-верно. Из этого следует, что стандартное поведение СУБД, "заточенное" на случай, когда не "вся БД помещается в ОЗУ", будет таким: * сколько ОЗУ ни давай, ощутимой пользы не будет; * "параметры стоимости чтения страниц с диска и т.п." их совершенно не интересуют и ни на что не влияют. Вы сами поняли, что сказали? Именно. Я сказал ровно то же самое, что сказали вы, только другими словами. Выступил, так сказать, в роли зеркала. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 30.03.2010, 09:10 |
|
||
|
|

start [/forum/topic.php?fid=35&msg=36547898&tid=1552818]: |
0ms |
get settings: |
12ms |
get forum list: |
14ms |
check forum access: |
3ms |
check topic access: |
3ms |
track hit: |
37ms |
get topic data: |
10ms |
get forum data: |
3ms |
get page messages: |
55ms |
get tp. blocked users: |
1ms |
| others: | 241ms |
| total: | 379ms |

| 0 / 0 |
