Гость
Целевая тема:
Создать новую тему:
Автор:
Форумы / Сравнение СУБД [игнор отключен] [закрыт для гостей] / Миллиард записей. Какая БД потянет? / 25 сообщений из 28, страница 1 из 2
11.05.2009, 21:31
    #35979288
Srg999
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Миллиард записей. Какая БД потянет?
Извините, если я выбрал неправильную тему форума. Просто не знаю точно, где задать этот вопрос.
Есть БД в аксесе для анализа детализаций телефонных переговоров. Пока что в ней есть 300 миллионов записей. Предполагается, что через 3 года их будет миллиард.
Изначально в базе было не более 100 тыс записей. Работало все достаточно быстро. Ведь для каждого месяца и здания использовался отдельный файл БД.
Меня попросили объединить все БД, чтобы получить общий анализ за все периоды по всем бизнес-центрам. Я объединил, получил вот такое количество записей. БД теперь тормозит неимоверно. Элементарно открытие таблицы занимает примерно минуту. Вроде не так много, но это только открытие таблицы. Я уж не говорю про какие-то запросы. И это я пока объединяю в MDB. Я не говорю уж про ADP, в который я пока пихать эту общую таблицу звонков не хочу, так как ясно, что через сеть столько данных не пройдет, и серверные фильтры здесь вряд ли особо помогут.
Посоветуйте, пожалуйста, что в этом случае нужно делать? Видимо, первое, это отказаться от Аксеса? А какую БД начать изучать? Oracle или какую-то другую?
Спасибо
...
Рейтинг: 0 / 0
11.05.2009, 21:54
    #35979309
miksoft
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Миллиард записей. Какая БД потянет?
Дело не столько в количестве записей, сколько в том, что и как с ними делать.
Я бы посоветовал вам два пути:
1) на форуме по Access-у описать подробно (то, что написано здесь - это не подробно) ваши действия и желаемый результат.
2) покажите DDL и SQL-запросы здесь. Возможно, получится дать вам какие-то общие рекомендации по улучшению быстродействия.

И только если ничего из этого не поможет, тогда есть смысл думать о смене СУБД.
...
Рейтинг: 0 / 0
11.05.2009, 21:56
    #35979313
Senya_L
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Миллиард записей. Какая БД потянет?
Интересное кино... Судя по объемам это телефонные переговоры небольшого городка. :)
А кроме Access'а у Вас какие-нибудь СУБД используются вообще?
...
Рейтинг: 0 / 0
11.05.2009, 23:18
    #35979390
Dimitry Sibiryakov
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Миллиард записей. Какая БД потянет?
Senya_L
А кроме Access'а у Вас какие-нибудь СУБД используются вообще?

Гораздо интереснее вопрос: а есть ли у них там программисты...
Posted via ActualForum NNTP Server 1.4
...
Рейтинг: 0 / 0
11.05.2009, 23:42
    #35979418
Srg999
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Миллиард записей. Какая БД потянет?
Dimitry Sibiryakov
Senya_L
А кроме Access'а у Вас какие-нибудь СУБД используются вообще?

Гораздо интереснее вопрос: а есть ли у них там программисты...


Вопрос логичный и правильный. Отвечу честно и откровенно. Никаких программистов нет. Есть я, который несколько месяцев назад начал изучение аксеса. Пришлось это сделать по-разным причинам. Это уже другой вопрос. Главное, что специалистов в этой области у нас нет. Иначе у меня такого вопроса не стояло бы. Соответственно, сами понимаете, каков мой уровень на данный момент с учетом того, что времени на изучение слишком мало. Уровень слишком низкий. Но достаточный, чтобы создавать простые приложения под свои нужды.
Впринципе, вопрос о скорости запросов не стоит. Как я говорил, они работают моментально при количестве до 100 тыс, что было достаточно.
Вопрос стоит в том, что даже без запросов сама таблица с количеством записей в 300 млн открывается целую минуту. И это на моем домашнем компе, который далеко не самый слабый (хотя покупался 1,5 или 2 года назад, точно не помню). Процессор Кор2Дуо, оперативки 8Гб. Соответственно, это либо акс уже не тянет такое количество записей либо железа недостаточно.
Я сталкиваюсь с такой проблемой впервые, поэтому и спрашиваю. Что влиет на скорость открытия таблицы? Например, любая самая современная игра у меня идет на максимальном разрешении без проблем (может и не любая, я не игроман, но ребенок покупает последние появляющиеся игры и они идут без проблем с максимальным разрешением). Хотя полагаю, что требования к железу для БД и для игр отличаются.
...
Рейтинг: 0 / 0
11.05.2009, 23:50
    #35979425
Senya_L
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Миллиард записей. Какая БД потянет?
Srg999Мне вот непонятно только, как это при таком потоке телефонного трепа, т.е. вроде бы как организация немаленькая, нет программиста?
авторА какую БД начать изучать? Oracle или какую-то другую?Это называется "вопрос ребром": Oracle or not Oracle

Сформулируйте требования к СУБД, если уж надумали выбирать.
...
Рейтинг: 0 / 0
12.05.2009, 00:00
    #35979434
Srg999
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Миллиард записей. Какая БД потянет?
Senya_LSrg999Мне вот непонятно только, как это при таком потоке телефонного трепа, т.е. вроде бы как организация немаленькая, нет программиста?
авторА какую БД начать изучать? Oracle или какую-то другую?Это называется "вопрос ребром": Oracle or not Oracle

Сформулируйте требования к СУБД, если уж надумали выбирать.

Не поверите, но организация немаленькая. Однако, на многом экономит. Мне тоже смешно, когда приходится заниматься не своей работой. А делаю я эти БД исключительно для себя, чтобы работать было проще, так как пока меня эта работа устраивает. И эти БД мне сильно облегчают работу. Но если буду уходить, то все заберу. Я задавал как-то вопрос про удаление БД в зависимости от определенных условий. И сейчас у меня такое реализовано. Если я уйду, то уйду по-хорошему, но у них через 3 запуска моя БД удалится полностью, а тут уж я не знаю, что у них за сбой в компьютере. А так как программистов нет, то никто ничего не поймет. Но это уже другая история.

А что касается Оракла, то я не так много БД знаю. Но из того, что я слышал краем уха, достаточно быстрая БД - это Оракл. Хотя понимаю, что написав это, я выгляжу очень смешно, так как любой профи сразу скажет, что все зависит от требований к СУБД, о чем Вы и спросили, кстати говоря.

Как бы то ни было, если опустить все частности. Можете ли Вы, уважаемые профи, ответить на вопрос. Таблица с 300 миллионами записей в аксесе должна открываться быстро или как у меня минута - это нормальное время? Если Вы скажете, что это нормальное время, значит я буду предполагать, что дело в самом аксесе.
...
Рейтинг: 0 / 0
12.05.2009, 00:18
    #35979451
Dimitry Sibiryakov
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Миллиард записей. Какая БД потянет?
Srg999
Вопрос стоит в том, что даже без запросов сама таблица с количеством
записей в 300 млн открывается целую минуту.

А ты не открывай таблицу, ты сразу запрос запускай. Или этот странный
акцесс так не умеет?..
Posted via ActualForum NNTP Server 1.4
...
Рейтинг: 0 / 0
12.05.2009, 00:28
    #35979459
AAron
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Миллиард записей. Какая БД потянет?
случай на самом деле тяжелый.
1. нужен нормальный сервер СУБД. в этом случае лучше и проще привязаться к SQL Server 2008 (использовать ли ADP?), мигрировать туда все содержимое из Access.
2. т.к. проводится различный анализ, то для этих целей лучше использовать OLAP-инструментарий. самый доступный - MS Office Excel, функционал сводной таблицы. сводную таблицу можно "повесить" как на OLAP-куб, так и на внешнюю "таблицу".

если контора экономит, но есть желание разбираться - список наиболее доступных продуктов я описал. если нет желания разбираться - надо "прогнуть" контору на использование любого нормального OLAP-инструмента и привлечь аутсорсера со знанием этого инструмента.

мое имхо, в форуме "Сравнение СУБД" я бы не стал искать специалистов по OLAP, для этого есть отдельный форум "OLAP и DWH".

Что касается вопроса про миллиард записей, ответ - любая из DB2, Oracle, SQL Server, Sybase.
...
Рейтинг: 0 / 0
12.05.2009, 00:47
    #35979470
Senya_L
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Миллиард записей. Какая БД потянет?
Srg999Можете ли Вы, уважаемые профи, ответить на вопрос. Таблица с 300 миллионами записей в аксесе должна открываться быстро или как у меня минута - это нормальное время?Ответить на этот вопрос вряд ли кто сможет. Или постесняется. ;) Потому что есть устойчивое мнение, что 300 миллионов записей "открывать" нехорошо и неправильно. И что Вам даст просмотр унылой картины из миллиарда строк? Вам же нужны отчетные данные, а они получается через запрос, как и сказал DS.

ЗЫ. Дружеский совет: забейте. Лучше занимайтесь основной работой. Если в Вашей конторе сидят жмоты, то почему у Вас должна болеть голова?
...
Рейтинг: 0 / 0
12.05.2009, 00:54
    #35979480
Srg999
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Миллиард записей. Какая БД потянет?
я вас понял, ребят.
Но что касается запросов, то я в принципе отчетные данные получаю именно из запросов. Хотя в данном случае основной инструмент, которым я пользуюсь - это сводная таблица.
Однако, из-за количества записей стали работать медленно и запросы и сводная таблица. Даже простые запросы, где не может быть проблем с неправильным построением, работают медленно.
Насчет жмотов - согласен. Но от этого мне не легче. Хотя мои БД мне сильно облегчают труд.
А в данном случае проблема для меня останется нерешенной. И впринципе, воспользуюсь советом и по данной просьбе пошлю их. Пусть ищут программиста. Лично меня не интересует анализ данных за все годы по всем объектам.
Спасибо
...
Рейтинг: 0 / 0
12.05.2009, 08:40
    #35979618
skelet
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Миллиард записей. Какая БД потянет?
Srg999
Впринципе, вопрос о скорости запросов не стоит. Как я говорил, они работают моментально при количестве до 100 тыс, что было достаточно.
Вопрос стоит в том, что даже без запросов сама таблица с количеством записей в 300 млн открывается целую минуту. И это на моем домашнем компе, который далеко не самый слабый (хотя покупался 1,5 или 2 года назад, точно не помню). Процессор Кор2Дуо, оперативки 8Гб. Соответственно, это либо акс уже не тянет такое количество записей либо железа недостаточно.
Я сталкиваюсь с такой проблемой впервые, поэтому и спрашиваю. Что влиет на скорость открытия таблицы? Например, любая самая современная игра у меня идет на максимальном разрешении без проблем
железо у вас совсем не при чём. Дело в софте, а именно в аксесе.

Для сравнения: у меня на примерно таком же компе (квад q6600 + 8гб оперы) вертятся 4 виртуалки, на 2-х из них по 2 инстанса оракла (1+asm) и всё это объединено в кластер (RAC).

Однако если я буду делать запросы типа select * from tname , где в tname будет 300млн записей, понятное дело этот запрос будет выполняться медленно (тормозить)
...
Рейтинг: 0 / 0
12.05.2009, 09:27
    #35979686
Andrey Ts
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Миллиард записей. Какая БД потянет?
AAronслучай на самом деле тяжелый.
1. нужен нормальный сервер СУБД. в этом случае лучше и проще привязаться к SQL Server 2008 (использовать ли ADP?), мигрировать туда все содержимое из Access.

Присоединяюсь к рекомендации. ИМХО, вам будет проще.
Не помню точно, но кажется, можно даже Access перенастроить, чтобы запросы того же приложения уходили сразу на MS SQL.
...
Рейтинг: 0 / 0
12.05.2009, 10:48
    #35979852
londinium
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Миллиард записей. Какая БД потянет?
Уважаю автора. У меня телефонный треп в конторе гораздо меньших размеров. Учет тоже строился на Access/Excel, но потом автор этой схемы ушел, и для себя перевел все на SQL Server 2000. Все прекрасно работает, правда записей не миллиард.
...
Рейтинг: 0 / 0
12.05.2009, 11:59
    #35980062
Access denied1
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Миллиард записей. Какая БД потянет?
Интересно, как в access затолкали 300 000 000 записей?
mdb/accdb - не резиновый, 2Gb макс размер.

авторМеня попросили объединить все БД, Что, прилинковали таблицы из нескольких баз и сделали UNION?

А где один миллиард, там и два, того гляди int32 переполнится
...
Рейтинг: 0 / 0
12.05.2009, 13:19
    #35980360
Кифирчик
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Миллиард записей. Какая БД потянет?
в топку аксес...
проще всего будет перскочить на MSSQL (Express для начала), очень простая миграция, и, можно также прилинковать эти таблицы к аксесу... будет для вас привычно. Вы не сказали размер базы... с Express можно упереться в объёмы, правда как выход либо купить полную версию, либо делать на каждый год под отдельной базе.
Также можно посмотреть в сторону MySQL, FireBird и.т.д. наверно побыстрее MSSQL может получиться.
И что там у вас на компе с дисковой подсистемой?
...
Рейтинг: 0 / 0
12.05.2009, 14:40
    #35980631
Senya_L
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Миллиард записей. Какая БД потянет?
Кифирчик и Ко.,

Вы топик читаете вообще? Автор решил забить болт и правильно сделал. На энтузиазме можно для себя Access поучить, а за спасибо сделать ИС и осваивать СУБД - нехрен баловать.
...
Рейтинг: 0 / 0
12.05.2009, 15:01
    #35980706
Кифирчик
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Миллиард записей. Какая БД потянет?
Senya_L,
Ситуации разные конечно бывают, болт так болт, хозяин барин...

по энтузиазму... если бы не мой "энтузиазм", сейчас до сих пор бы бегал и устанавливал виндовсы. ИМХО плохо когда он ваще заканчивается.
другое дело, что бывает голый энтузиазм, который у адекватных людей очень быстро проходит, тут конечно болт и "пусть ищут программиста"
...
Рейтинг: 0 / 0
12.05.2009, 22:34
    #35981782
Srg999
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Миллиард записей. Какая БД потянет?
Access denied1Интересно, как в access затолкали 300 000 000 записей?
mdb/accdb - не резиновый, 2Gb макс размер.

авторМеня попросили объединить все БД, Что, прилинковали таблицы из нескольких баз и сделали UNION?

А где один миллиард, там и два, того гляди int32 переполнится

Вы абсолютно правы. Так и сделал. Других вариантов и нет. Или я их не знаю. Я сказал, что я объединил записи, но назвал этот запрос таблицей. Думаю, что как раз в этом и проблема. Union от такого количества записей, наверное, так и должен тормозить. Просто я считал юнион обычным запросом, из-за которого тормозить не должно.
В общем, пошли они нафиг. Я уже понял, что зря с этим связался. Я аксес начал изучать всего несколько месяцев назад, а тут такие задачи просят решать. пипец.
На эту задачу я точно болт забью. Так как уже понял, что мне ее не решить. А если и решить, то явно не при моем нынешнем уровне, а когда-нибудь в лучшие времена. Тут реально нужен толковый программист, а не чайник типа меня, который считал, что запрос UNION то же самое что и таблица. смешно.
...
Рейтинг: 0 / 0
12.05.2009, 22:39
    #35981784
Senya_L
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Миллиард записей. Какая БД потянет?
Srg999А все-таки можно и посоветовать и полезное. Попробуйте собрать промежуточную статистику на местах. Мне трудно советовать конкретику (деталей здесь не обсуждали), но если нужна отчетная информация, то возможно удасться частично сгруппировать результаты филиала.
...
Рейтинг: 0 / 0
13.05.2009, 02:16
    #35981962
Funny_Falcon
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Миллиард записей. Какая БД потянет?
PostgreSQL : наследование с партицированием (перенос данных в партиции периодически запускаемым скриптом ).
...
Рейтинг: 0 / 0
13.05.2009, 13:23
    #35982964
Зайцев Фёдор
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Миллиард записей. Какая БД потянет?
сотни миллионов записей в Access ? Очень похоже на это
...
Рейтинг: 0 / 0
13.05.2009, 14:21
    #35983176
Srg999
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Миллиард записей. Какая БД потянет?
Зайцев Фёдорсотни миллионов записей в Access ? Очень похоже на это

вроде того. весело получается.
...
Рейтинг: 0 / 0
13.05.2009, 14:22
    #35983178
Srg999
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Миллиард записей. Какая БД потянет?
Funny_FalconPostgreSQL : наследование с партицированием (перенос данных в партиции периодически запускаемым скриптом ).

пока что для меня это дремучий лес. Но по крайней мере я про это почитаю. Глядишь, как аксес, затянет. Спасибо!
...
Рейтинг: 0 / 0
13.05.2009, 14:28
    #35983210
Srg999
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Миллиард записей. Какая БД потянет?
Senya_LSrg999А все-таки можно и посоветовать и полезное. Попробуйте собрать промежуточную статистику на местах. Мне трудно советовать конкретику (деталей здесь не обсуждали), но если нужна отчетная информация, то возможно удасться частично сгруппировать результаты филиала.

а вот этот вариант похож на правду. почему я не подумал о нем? чайник потому что.
а похож он на правду не потому, что он самый лучший или единственный, а потому, что его в принципе я смогу и реализовать при желании. Действительно, зачем объединять базы за все месяца, когда проще унифицировать и объединить отчеты. Блин, а это идея. вот чайник, сразу не подумал.
Спасибо Вам огромное за хороший совет! Я уже хотел всех нах послать, а тут появилась возможность мне самому реализовать, как даже самому захотелось попробовать.
А что касается других советов на форуме, то за них тоже спасибо всем, так как я уже читаю и о OLAP-инструментарии и о PostgreSQL вот уже ищу информацию и т.д. В общем, почитаю в любом случае, вредно не будет.

А вообще, буду очень благодарен, если кинете хорошую ссылку, где бы можно было посмотреть подробное сравнение всех имеющихся баз данных. Потому что хочется представлять общую картину. Может я начну осваивать другую БД.
...
Рейтинг: 0 / 0
Форумы / Сравнение СУБД [игнор отключен] [закрыт для гостей] / Миллиард записей. Какая БД потянет? / 25 сообщений из 28, страница 1 из 2
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]