powered by simpleCommunicator - 2.0.59     © 2025 Programmizd 02
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Форумы / Сравнение СУБД [игнор отключен] [закрыт для гостей] / Миллиард записей. Какая БД потянет?
25 сообщений из 28, страница 1 из 2
Миллиард записей. Какая БД потянет?
    #35979288
Srg999
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Извините, если я выбрал неправильную тему форума. Просто не знаю точно, где задать этот вопрос.
Есть БД в аксесе для анализа детализаций телефонных переговоров. Пока что в ней есть 300 миллионов записей. Предполагается, что через 3 года их будет миллиард.
Изначально в базе было не более 100 тыс записей. Работало все достаточно быстро. Ведь для каждого месяца и здания использовался отдельный файл БД.
Меня попросили объединить все БД, чтобы получить общий анализ за все периоды по всем бизнес-центрам. Я объединил, получил вот такое количество записей. БД теперь тормозит неимоверно. Элементарно открытие таблицы занимает примерно минуту. Вроде не так много, но это только открытие таблицы. Я уж не говорю про какие-то запросы. И это я пока объединяю в MDB. Я не говорю уж про ADP, в который я пока пихать эту общую таблицу звонков не хочу, так как ясно, что через сеть столько данных не пройдет, и серверные фильтры здесь вряд ли особо помогут.
Посоветуйте, пожалуйста, что в этом случае нужно делать? Видимо, первое, это отказаться от Аксеса? А какую БД начать изучать? Oracle или какую-то другую?
Спасибо
...
Рейтинг: 0 / 0
Миллиард записей. Какая БД потянет?
    #35979309
miksoft
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Дело не столько в количестве записей, сколько в том, что и как с ними делать.
Я бы посоветовал вам два пути:
1) на форуме по Access-у описать подробно (то, что написано здесь - это не подробно) ваши действия и желаемый результат.
2) покажите DDL и SQL-запросы здесь. Возможно, получится дать вам какие-то общие рекомендации по улучшению быстродействия.

И только если ничего из этого не поможет, тогда есть смысл думать о смене СУБД.
...
Рейтинг: 0 / 0
Миллиард записей. Какая БД потянет?
    #35979313
Senya_L
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Интересное кино... Судя по объемам это телефонные переговоры небольшого городка. :)
А кроме Access'а у Вас какие-нибудь СУБД используются вообще?
...
Рейтинг: 0 / 0
Миллиард записей. Какая БД потянет?
    #35979390
Dimitry Sibiryakov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Senya_L
А кроме Access'а у Вас какие-нибудь СУБД используются вообще?

Гораздо интереснее вопрос: а есть ли у них там программисты...
Posted via ActualForum NNTP Server 1.4
...
Рейтинг: 0 / 0
Миллиард записей. Какая БД потянет?
    #35979418
Srg999
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Dimitry Sibiryakov
Senya_L
А кроме Access'а у Вас какие-нибудь СУБД используются вообще?

Гораздо интереснее вопрос: а есть ли у них там программисты...


Вопрос логичный и правильный. Отвечу честно и откровенно. Никаких программистов нет. Есть я, который несколько месяцев назад начал изучение аксеса. Пришлось это сделать по-разным причинам. Это уже другой вопрос. Главное, что специалистов в этой области у нас нет. Иначе у меня такого вопроса не стояло бы. Соответственно, сами понимаете, каков мой уровень на данный момент с учетом того, что времени на изучение слишком мало. Уровень слишком низкий. Но достаточный, чтобы создавать простые приложения под свои нужды.
Впринципе, вопрос о скорости запросов не стоит. Как я говорил, они работают моментально при количестве до 100 тыс, что было достаточно.
Вопрос стоит в том, что даже без запросов сама таблица с количеством записей в 300 млн открывается целую минуту. И это на моем домашнем компе, который далеко не самый слабый (хотя покупался 1,5 или 2 года назад, точно не помню). Процессор Кор2Дуо, оперативки 8Гб. Соответственно, это либо акс уже не тянет такое количество записей либо железа недостаточно.
Я сталкиваюсь с такой проблемой впервые, поэтому и спрашиваю. Что влиет на скорость открытия таблицы? Например, любая самая современная игра у меня идет на максимальном разрешении без проблем (может и не любая, я не игроман, но ребенок покупает последние появляющиеся игры и они идут без проблем с максимальным разрешением). Хотя полагаю, что требования к железу для БД и для игр отличаются.
...
Рейтинг: 0 / 0
Миллиард записей. Какая БД потянет?
    #35979425
Senya_L
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Srg999Мне вот непонятно только, как это при таком потоке телефонного трепа, т.е. вроде бы как организация немаленькая, нет программиста?
авторА какую БД начать изучать? Oracle или какую-то другую?Это называется "вопрос ребром": Oracle or not Oracle

Сформулируйте требования к СУБД, если уж надумали выбирать.
...
Рейтинг: 0 / 0
Миллиард записей. Какая БД потянет?
    #35979434
Srg999
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Senya_LSrg999Мне вот непонятно только, как это при таком потоке телефонного трепа, т.е. вроде бы как организация немаленькая, нет программиста?
авторА какую БД начать изучать? Oracle или какую-то другую?Это называется "вопрос ребром": Oracle or not Oracle

Сформулируйте требования к СУБД, если уж надумали выбирать.

Не поверите, но организация немаленькая. Однако, на многом экономит. Мне тоже смешно, когда приходится заниматься не своей работой. А делаю я эти БД исключительно для себя, чтобы работать было проще, так как пока меня эта работа устраивает. И эти БД мне сильно облегчают работу. Но если буду уходить, то все заберу. Я задавал как-то вопрос про удаление БД в зависимости от определенных условий. И сейчас у меня такое реализовано. Если я уйду, то уйду по-хорошему, но у них через 3 запуска моя БД удалится полностью, а тут уж я не знаю, что у них за сбой в компьютере. А так как программистов нет, то никто ничего не поймет. Но это уже другая история.

А что касается Оракла, то я не так много БД знаю. Но из того, что я слышал краем уха, достаточно быстрая БД - это Оракл. Хотя понимаю, что написав это, я выгляжу очень смешно, так как любой профи сразу скажет, что все зависит от требований к СУБД, о чем Вы и спросили, кстати говоря.

Как бы то ни было, если опустить все частности. Можете ли Вы, уважаемые профи, ответить на вопрос. Таблица с 300 миллионами записей в аксесе должна открываться быстро или как у меня минута - это нормальное время? Если Вы скажете, что это нормальное время, значит я буду предполагать, что дело в самом аксесе.
...
Рейтинг: 0 / 0
Миллиард записей. Какая БД потянет?
    #35979451
Dimitry Sibiryakov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Srg999
Вопрос стоит в том, что даже без запросов сама таблица с количеством
записей в 300 млн открывается целую минуту.

А ты не открывай таблицу, ты сразу запрос запускай. Или этот странный
акцесс так не умеет?..
Posted via ActualForum NNTP Server 1.4
...
Рейтинг: 0 / 0
Миллиард записей. Какая БД потянет?
    #35979459
AAron
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
случай на самом деле тяжелый.
1. нужен нормальный сервер СУБД. в этом случае лучше и проще привязаться к SQL Server 2008 (использовать ли ADP?), мигрировать туда все содержимое из Access.
2. т.к. проводится различный анализ, то для этих целей лучше использовать OLAP-инструментарий. самый доступный - MS Office Excel, функционал сводной таблицы. сводную таблицу можно "повесить" как на OLAP-куб, так и на внешнюю "таблицу".

если контора экономит, но есть желание разбираться - список наиболее доступных продуктов я описал. если нет желания разбираться - надо "прогнуть" контору на использование любого нормального OLAP-инструмента и привлечь аутсорсера со знанием этого инструмента.

мое имхо, в форуме "Сравнение СУБД" я бы не стал искать специалистов по OLAP, для этого есть отдельный форум "OLAP и DWH".

Что касается вопроса про миллиард записей, ответ - любая из DB2, Oracle, SQL Server, Sybase.
...
Рейтинг: 0 / 0
Миллиард записей. Какая БД потянет?
    #35979470
Senya_L
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Srg999Можете ли Вы, уважаемые профи, ответить на вопрос. Таблица с 300 миллионами записей в аксесе должна открываться быстро или как у меня минута - это нормальное время?Ответить на этот вопрос вряд ли кто сможет. Или постесняется. ;) Потому что есть устойчивое мнение, что 300 миллионов записей "открывать" нехорошо и неправильно. И что Вам даст просмотр унылой картины из миллиарда строк? Вам же нужны отчетные данные, а они получается через запрос, как и сказал DS.

ЗЫ. Дружеский совет: забейте. Лучше занимайтесь основной работой. Если в Вашей конторе сидят жмоты, то почему у Вас должна болеть голова?
...
Рейтинг: 0 / 0
Миллиард записей. Какая БД потянет?
    #35979480
Srg999
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
я вас понял, ребят.
Но что касается запросов, то я в принципе отчетные данные получаю именно из запросов. Хотя в данном случае основной инструмент, которым я пользуюсь - это сводная таблица.
Однако, из-за количества записей стали работать медленно и запросы и сводная таблица. Даже простые запросы, где не может быть проблем с неправильным построением, работают медленно.
Насчет жмотов - согласен. Но от этого мне не легче. Хотя мои БД мне сильно облегчают труд.
А в данном случае проблема для меня останется нерешенной. И впринципе, воспользуюсь советом и по данной просьбе пошлю их. Пусть ищут программиста. Лично меня не интересует анализ данных за все годы по всем объектам.
Спасибо
...
Рейтинг: 0 / 0
Миллиард записей. Какая БД потянет?
    #35979618
skelet
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Srg999
Впринципе, вопрос о скорости запросов не стоит. Как я говорил, они работают моментально при количестве до 100 тыс, что было достаточно.
Вопрос стоит в том, что даже без запросов сама таблица с количеством записей в 300 млн открывается целую минуту. И это на моем домашнем компе, который далеко не самый слабый (хотя покупался 1,5 или 2 года назад, точно не помню). Процессор Кор2Дуо, оперативки 8Гб. Соответственно, это либо акс уже не тянет такое количество записей либо железа недостаточно.
Я сталкиваюсь с такой проблемой впервые, поэтому и спрашиваю. Что влиет на скорость открытия таблицы? Например, любая самая современная игра у меня идет на максимальном разрешении без проблем
железо у вас совсем не при чём. Дело в софте, а именно в аксесе.

Для сравнения: у меня на примерно таком же компе (квад q6600 + 8гб оперы) вертятся 4 виртуалки, на 2-х из них по 2 инстанса оракла (1+asm) и всё это объединено в кластер (RAC).

Однако если я буду делать запросы типа select * from tname , где в tname будет 300млн записей, понятное дело этот запрос будет выполняться медленно (тормозить)
...
Рейтинг: 0 / 0
Миллиард записей. Какая БД потянет?
    #35979686
Andrey Ts
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
AAronслучай на самом деле тяжелый.
1. нужен нормальный сервер СУБД. в этом случае лучше и проще привязаться к SQL Server 2008 (использовать ли ADP?), мигрировать туда все содержимое из Access.

Присоединяюсь к рекомендации. ИМХО, вам будет проще.
Не помню точно, но кажется, можно даже Access перенастроить, чтобы запросы того же приложения уходили сразу на MS SQL.
...
Рейтинг: 0 / 0
Миллиард записей. Какая БД потянет?
    #35979852
londinium
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Уважаю автора. У меня телефонный треп в конторе гораздо меньших размеров. Учет тоже строился на Access/Excel, но потом автор этой схемы ушел, и для себя перевел все на SQL Server 2000. Все прекрасно работает, правда записей не миллиард.
...
Рейтинг: 0 / 0
Миллиард записей. Какая БД потянет?
    #35980062
Access denied1
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Интересно, как в access затолкали 300 000 000 записей?
mdb/accdb - не резиновый, 2Gb макс размер.

авторМеня попросили объединить все БД, Что, прилинковали таблицы из нескольких баз и сделали UNION?

А где один миллиард, там и два, того гляди int32 переполнится
...
Рейтинг: 0 / 0
Миллиард записей. Какая БД потянет?
    #35980360
Кифирчик
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
в топку аксес...
проще всего будет перскочить на MSSQL (Express для начала), очень простая миграция, и, можно также прилинковать эти таблицы к аксесу... будет для вас привычно. Вы не сказали размер базы... с Express можно упереться в объёмы, правда как выход либо купить полную версию, либо делать на каждый год под отдельной базе.
Также можно посмотреть в сторону MySQL, FireBird и.т.д. наверно побыстрее MSSQL может получиться.
И что там у вас на компе с дисковой подсистемой?
...
Рейтинг: 0 / 0
Миллиард записей. Какая БД потянет?
    #35980631
Senya_L
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Кифирчик и Ко.,

Вы топик читаете вообще? Автор решил забить болт и правильно сделал. На энтузиазме можно для себя Access поучить, а за спасибо сделать ИС и осваивать СУБД - нехрен баловать.
...
Рейтинг: 0 / 0
Миллиард записей. Какая БД потянет?
    #35980706
Кифирчик
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Senya_L,
Ситуации разные конечно бывают, болт так болт, хозяин барин...

по энтузиазму... если бы не мой "энтузиазм", сейчас до сих пор бы бегал и устанавливал виндовсы. ИМХО плохо когда он ваще заканчивается.
другое дело, что бывает голый энтузиазм, который у адекватных людей очень быстро проходит, тут конечно болт и "пусть ищут программиста"
...
Рейтинг: 0 / 0
Миллиард записей. Какая БД потянет?
    #35981782
Srg999
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Access denied1Интересно, как в access затолкали 300 000 000 записей?
mdb/accdb - не резиновый, 2Gb макс размер.

авторМеня попросили объединить все БД, Что, прилинковали таблицы из нескольких баз и сделали UNION?

А где один миллиард, там и два, того гляди int32 переполнится

Вы абсолютно правы. Так и сделал. Других вариантов и нет. Или я их не знаю. Я сказал, что я объединил записи, но назвал этот запрос таблицей. Думаю, что как раз в этом и проблема. Union от такого количества записей, наверное, так и должен тормозить. Просто я считал юнион обычным запросом, из-за которого тормозить не должно.
В общем, пошли они нафиг. Я уже понял, что зря с этим связался. Я аксес начал изучать всего несколько месяцев назад, а тут такие задачи просят решать. пипец.
На эту задачу я точно болт забью. Так как уже понял, что мне ее не решить. А если и решить, то явно не при моем нынешнем уровне, а когда-нибудь в лучшие времена. Тут реально нужен толковый программист, а не чайник типа меня, который считал, что запрос UNION то же самое что и таблица. смешно.
...
Рейтинг: 0 / 0
Миллиард записей. Какая БД потянет?
    #35981784
Senya_L
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Srg999А все-таки можно и посоветовать и полезное. Попробуйте собрать промежуточную статистику на местах. Мне трудно советовать конкретику (деталей здесь не обсуждали), но если нужна отчетная информация, то возможно удасться частично сгруппировать результаты филиала.
...
Рейтинг: 0 / 0
Миллиард записей. Какая БД потянет?
    #35981962
Funny_Falcon
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
PostgreSQL : наследование с партицированием (перенос данных в партиции периодически запускаемым скриптом ).
...
Рейтинг: 0 / 0
Миллиард записей. Какая БД потянет?
    #35982964
Зайцев Фёдор
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
сотни миллионов записей в Access ? Очень похоже на это
...
Рейтинг: 0 / 0
Миллиард записей. Какая БД потянет?
    #35983176
Srg999
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Зайцев Фёдорсотни миллионов записей в Access ? Очень похоже на это

вроде того. весело получается.
...
Рейтинг: 0 / 0
Миллиард записей. Какая БД потянет?
    #35983178
Srg999
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Funny_FalconPostgreSQL : наследование с партицированием (перенос данных в партиции периодически запускаемым скриптом ).

пока что для меня это дремучий лес. Но по крайней мере я про это почитаю. Глядишь, как аксес, затянет. Спасибо!
...
Рейтинг: 0 / 0
Миллиард записей. Какая БД потянет?
    #35983210
Srg999
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Senya_LSrg999А все-таки можно и посоветовать и полезное. Попробуйте собрать промежуточную статистику на местах. Мне трудно советовать конкретику (деталей здесь не обсуждали), но если нужна отчетная информация, то возможно удасться частично сгруппировать результаты филиала.

а вот этот вариант похож на правду. почему я не подумал о нем? чайник потому что.
а похож он на правду не потому, что он самый лучший или единственный, а потому, что его в принципе я смогу и реализовать при желании. Действительно, зачем объединять базы за все месяца, когда проще унифицировать и объединить отчеты. Блин, а это идея. вот чайник, сразу не подумал.
Спасибо Вам огромное за хороший совет! Я уже хотел всех нах послать, а тут появилась возможность мне самому реализовать, как даже самому захотелось попробовать.
А что касается других советов на форуме, то за них тоже спасибо всем, так как я уже читаю и о OLAP-инструментарии и о PostgreSQL вот уже ищу информацию и т.д. В общем, почитаю в любом случае, вредно не будет.

А вообще, буду очень благодарен, если кинете хорошую ссылку, где бы можно было посмотреть подробное сравнение всех имеющихся баз данных. Потому что хочется представлять общую картину. Может я начну осваивать другую БД.
...
Рейтинг: 0 / 0
25 сообщений из 28, страница 1 из 2
Форумы / Сравнение СУБД [игнор отключен] [закрыт для гостей] / Миллиард записей. Какая БД потянет?
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]