|
ORACLE OLTP Partitioned VS POSTGRESQL Greenplum (Пошла жара ;))
|
|||
---|---|---|---|
#18+
БумбарашAlexander Ryndinпропущено... А что использовать? использовать самописный ЕТL. К такому приходят все зрелые хранилища/команды, которые я видел. Основной плюс 1. сильно более быстрая автоматизация типовых задач. ну и далее 2. более гибкие возможности разработки. 3. не надо платить 100к+ за "рисовалку".А я вот видел последствия реализации таких самописных ETL, когда - полностью новой команде невозможно разобраться в проекте, а просто новый член команды тратит огромное количество времени на то, чтобы "войти" в проект - невозможно визуализировать все это в инструментах управления метаданными - перенос такого ETL на другую поатформу/базу данных это реимлементация ... |
|||
:
Нравится:
Не нравится:
|
|||
10.10.2018, 14:51 |
|
ORACLE OLTP Partitioned VS POSTGRESQL Greenplum (Пошла жара ;))
|
|||
---|---|---|---|
#18+
Alexander RyndinА я вот видел последствия сдуру можно и й сломать(с) Alexander Ryndinа просто новый член команды тратит огромное количество времени на то, чтобы "войти" в проект Это зависит от того, как поставлено сопровождение проекта в части документации, ввода нового члена и т.п. Присутствие или отсутствие ODI не является решением этих проблем при их наличии. Совсем. Alexander Ryndin- невозможно визуализировать все это в инструментах управления метаданными Что под этим имеется ввиду? Не помню, что там где было ODI была какая-то "визуализация в инструментах управления метаданными" и что это приносило какой-то ощутимый профит. Alexander Ryndin- перенос такого ETL на другую поатформу/базу данных это реимлементация Большинство проектов, которые видел по "переносу на другую платформу", мотивировались политотой "у вас тут платформа говно, сейчас сделаем как надо". Какой-то существенного профита при наличии ETL-тула при переносе не наблюдалось. Зачастую его выкидывали вместе со всем остальным скрабом. ... |
|||
:
Нравится:
Не нравится:
|
|||
10.10.2018, 15:15 |
|
ORACLE OLTP Partitioned VS POSTGRESQL Greenplum (Пошла жара ;))
|
|||
---|---|---|---|
#18+
БумбарашAlexander Ryndinа просто новый член команды тратит огромное количество времени на то, чтобы "войти" в проект Это зависит от того, как поставлено сопровождение проекта в части документации, ввода нового члена и т.п. Присутствие или отсутствие ODI не является решением этих проблем при их наличии. Совсем.Программный код есть программный код. Он не обладает функцией самодокументирования. ODI при грамотном использовании уже обладает элементами самодокументированности. БумбарашAlexander Ryndin- невозможно визуализировать все это в инструментах управления метаданными Что под этим имеется ввиду? Не помню, что там где было ODI была какая-то "визуализация в инструментах управления метаданными" и что это приносило какой-то ощутимый профит.Приносит. Сейчас многие компании озабочены отслеживанием метаданных: откуда пришли данные, кто их туда грузит, когда они туда были загружены, бизнес-описание данных. Все это крайне сложно сделать, если все написано на коленке. БумбарашAlexander Ryndin- перенос такого ETL на другую поатформу/базу данных это реимлементация Большинство проектов, которые видел по "переносу на другую платформу", мотивировались политотой "у вас тут платформа говно, сейчас сделаем как надо". Какой-то существенного профита при наличии ETL-тула при переносе не наблюдалось. Зачастую его выкидывали вместе со всем остальным скрабом.Ага. Самописные ETL обычно так и выкидывают. ... |
|||
:
Нравится:
Не нравится:
|
|||
10.10.2018, 15:46 |
|
ORACLE OLTP Partitioned VS POSTGRESQL Greenplum (Пошла жара ;))
|
|||
---|---|---|---|
#18+
Бумбараш, авториспользовать самописный ЕТL. К такому приходят все зрелые хранилища/команды, которые я видел. Основной плюс 1. сильно более быстрая автоматизация типовых задач. ну и далее 2. более гибкие возможности разработки. 3. не надо платить 100к+ за "рисовалку". Если хотите что-нибудь хорошее про ODI - как-то увидел на проекте с ODI, что там нельзя было сделать какой-то стандартный граф потоков загрузки - типо сначала параллельно загрузки, потом последовательно, потом параллельно. Или типа того. Пришел в другой банк - там тоже самое. Для обхода лепиться какая-то костылина. С учетом того, что любой подкованный етльщик напишет на скриптах обертку реализующую такой кейс за мало человекодней/часов - возникает недоумение - за что платиться такое бабло. вы наверное имеете ввиду LOAD_PLAN)) Я тоже так думал пока не начал активно работать. В итоге я делал все что хотел. Соглашусь с тем что на первый взгляд работа с ODI кажется трудной и за ее тупости работы, но это и за не опытности. ODI не стоит 100 кусков, это смотря как вы с ними договоритесь. Всегда можно договориться. ... |
|||
:
Нравится:
Не нравится:
|
|||
11.10.2018, 06:31 |
|
ORACLE OLTP Partitioned VS POSTGRESQL Greenplum (Пошла жара ;))
|
|||
---|---|---|---|
#18+
Бумбараш, а вы представьте что за 2 месяца вся ваша проектная команда встанут и уйдут. Риски с учетом того что вы построили все на open source, ладно даже с документации. они долго будут входить в работу. По мне Новый сотрудник через неделю должен работать как пони)) ... |
|||
:
Нравится:
Не нравится:
|
|||
11.10.2018, 06:37 |
|
ORACLE OLTP Partitioned VS POSTGRESQL Greenplum (Пошла жара ;))
|
|||
---|---|---|---|
#18+
Yelibayа вы представьте что за 2 месяца вся ваша проектная команда встанут и уйдут. Риски с учетом того что вы построили все на open source, ладно даже с документации. они долго будут входить в работу. По мне Новый сотрудник через неделю должен работать как пони)) хм ... откуда уверенность, что в подобной ситуации в эпоху ETL на бигдатах и реалтайм стриминга вы найдете хоть кого-то, кто видел ODI ? ... |
|||
:
Нравится:
Не нравится:
|
|||
11.10.2018, 08:50 |
|
ORACLE OLTP Partitioned VS POSTGRESQL Greenplum (Пошла жара ;))
|
|||
---|---|---|---|
#18+
YelibayБумбараш, а вы представьте что за 2 месяца вся ваша проектная команда встанут и уйдут. Риски с учетом того что вы построили все на open source, ладно даже с документации. они долго будут входить в работу. По мне Новый сотрудник через неделю должен работать как пони)) так, с этого же и надо было начинать : --"что делать, если я, в т.ч. как начальник, такая ....., что люди больше 2-х месяцев меня не выносят. да и платить по рынку я им никогда не буду." ... |
|||
:
Нравится:
Не нравится:
|
|||
11.10.2018, 10:00 |
|
ORACLE OLTP Partitioned VS POSTGRESQL Greenplum (Пошла жара ;))
|
|||
---|---|---|---|
#18+
H5N1, ну вы с БИГ ДАТА переборщили ))) ТАМ ГДЕ БИГ ДАТА Я ВЫБИРАЮ INFORMATICA ... |
|||
:
Нравится:
Не нравится:
|
|||
12.10.2018, 14:01 |
|
ORACLE OLTP Partitioned VS POSTGRESQL Greenplum (Пошла жара ;))
|
|||
---|---|---|---|
#18+
qwwq, Слушай дорогой, в жизни всякое бывает(Переезд, замена на другую работу с более высокой ЗП итд.) и мы тут говорим о вероятности риска замены кадра на другого. Модератор: Skipped ... |
|||
:
Нравится:
Не нравится:
|
|||
12.10.2018, 14:05 |
|
ORACLE OLTP Partitioned VS POSTGRESQL Greenplum (Пошла жара ;))
|
|||
---|---|---|---|
#18+
Alexander RyndinБумбарашпропущено... Это зависит от того, как поставлено сопровождение проекта в части документации, ввода нового члена и т.п. Присутствие или отсутствие ODI не является решением этих проблем при их наличии. Совсем.Программный код есть программный код. Он не обладает функцией самодокументирования. ODI при грамотном использовании уже обладает элементами самодокументированности. грамотный самописный фреймворк как раз больше проблем с самодокументированием способен решить. ОДИ почти ничего не умеют в этом плане. Alexander RyndinБумбарашпропущено... Что под этим имеется ввиду? Не помню, что там где было ODI была какая-то "визуализация в инструментах управления метаданными" и что это приносило какой-то ощутимый профит.Приносит. Сейчас многие компании озабочены отслеживанием метаданных: откуда пришли данные, кто их туда грузит, когда они туда были загружены, бизнес-описание данных. Все это крайне сложно сделать, если все написано на коленке. именно проблемы с отслеживанием зависимостей данных побудили писать свой фреймворк для етля. покупные решения практически ничего не могут сказать о взаимосвязях того что грузят. Alexander RyndinБумбарашпропущено... Большинство проектов, которые видел по "переносу на другую платформу", мотивировались политотой "у вас тут платформа говно, сейчас сделаем как надо". Какой-то существенного профита при наличии ETL-тула при переносе не наблюдалось. Зачастую его выкидывали вместе со всем остальным скрабом.Ага. Самописные ETL обычно так и выкидывают. Выкидывают и выкидывают. Если нет разницы написать свой фреймворк за пару месяцев или покупать etl ожидая закупки по полгода, то не все ли равно. А что устаревает так а IT все уже устарело. ... |
|||
:
Нравится:
Не нравится:
|
|||
12.10.2018, 16:43 |
|
ORACLE OLTP Partitioned VS POSTGRESQL Greenplum (Пошла жара ;))
|
|||
---|---|---|---|
#18+
YelibayH5N1, ну вы с БИГ ДАТА переборщили ))) ТАМ ГДЕ БИГ ДАТА Я ВЫБИРАЮ INFORMATICA хорошая шутка. на информатике новый человек в проекте будет разбираться месяца 2. Окинуть взглядом пару сотен недокументированных ворфлоу и тут же все понять, угу угу. ... |
|||
:
Нравится:
Не нравится:
|
|||
12.10.2018, 16:50 |
|
ORACLE OLTP Partitioned VS POSTGRESQL Greenplum (Пошла жара ;))
|
|||
---|---|---|---|
#18+
Плюс если говорить о поиске людей и технологиях, то чем технология "топорнее", тем реботники дешевле и их проще найти Т.ч. при кейсах: найти за 1 месяц человека со знанием PL/SQL который за 3 месяца в "pure PL/SQL" разберется или год искать со знанием ODI + 1 месяц разбираться = lдля бизнеса / надежности / отсутвия рисков. первое может быть предпочтительнее. А с учетом разницы зарплат... так и вообще не сравнимо AFAIK на саппорте бюджеты/зарплаты как-то сильно меньше, чем при распилах на внедрениях ... |
|||
:
Нравится:
Не нравится:
|
|||
12.10.2018, 21:16 |
|
ORACLE OLTP Partitioned VS POSTGRESQL Greenplum (Пошла жара ;))
|
|||
---|---|---|---|
#18+
Yelibay[b]БД - ORACLE 12 (OLTP partitioned построчно) или POSTGRESQL(Greenplum полоколоночно) Я не знаком с POSTGRESQL(Greenplum полоколоночно). Но обычно Oracle для хранилищ по количеству фич почти всегда рвёт другую СУБД. ... |
|||
:
Нравится:
Не нравится:
|
|||
12.10.2018, 23:51 |
|
ORACLE OLTP Partitioned VS POSTGRESQL Greenplum (Пошла жара ;))
|
|||
---|---|---|---|
#18+
Yelibayqwwq, Слушай дорогой, в жизни всякое бывает(Переезд, замена на другую работу с более высокой ЗП итд.) и мы тут говорим о вероятности риска замены кадра на другого. учись понимать правильно слушай,те, любезный. в жизни всякое бывает. и 10 обвешанных сертификатами доступных ора-примочко-делов дороже и сбегливее/сбегучее пары ботанов--самомейдов. при том что многие из них, медалистов оракала, ещё и бестолковее. а по чистым замерам спецов тож на то и получается (изрядная часть достойных персоналий может совпадать с обеих сторон) и мы тут говорим про условные (теорвер) вероятности рисков блаблабла. при условии , что наниматель -- скареда и хам. Модератор: Skipped ... |
|||
:
Нравится:
Не нравится:
|
|||
13.10.2018, 11:19 |
|
ORACLE OLTP Partitioned VS POSTGRESQL Greenplum (Пошла жара ;))
|
|||
---|---|---|---|
#18+
maytonYelibay[b]БД - ORACLE 12 (OLTP partitioned построчно) или POSTGRESQL(Greenplum полоколоночно) Я не знаком с POSTGRESQL(Greenplum полоколоночно). Но обычно Oracle для хранилищ по количеству фич почти всегда рвёт другую СУБД. про фичи - полноценный mpp claster когда будет? Если что, то его даже в EXADATA не осилили, зашарили сторадж. А для хранилища это в общем-то киллер фича. Настолько киллер, что даже хайв как бд который ничего хорошо не умеет кроме как в кластере работать - долю рынка отъедает в хранилищах с огромной скоростью. ... |
|||
:
Нравится:
Не нравится:
|
|||
15.10.2018, 10:47 |
|
ORACLE OLTP Partitioned VS POSTGRESQL Greenplum (Пошла жара ;))
|
|||
---|---|---|---|
#18+
Ivan Durakmaytonпропущено... Я не знаком с POSTGRESQL(Greenplum полоколоночно). Но обычно Oracle для хранилищ по количеству фич почти всегда рвёт другую СУБД. про фичи - полноценный mpp claster когда будет? Можете привести примеры систем где это уже реализовано? ... |
|||
:
Нравится:
Не нравится:
|
|||
15.10.2018, 12:09 |
|
ORACLE OLTP Partitioned VS POSTGRESQL Greenplum (Пошла жара ;))
|
|||
---|---|---|---|
#18+
maytonНо обычно Oracle для хранилищ по количеству фич почти всегда рвёт другую СУБД. ну может он где-то что-то рвёт (скорее только в воображении) но по факту он теряет долю рынка и половина самых больших хранилищ в энтерпрайзе (в рф) - неоракл. Хотя 10 лет назад он там доминировал. Видимо не в том месте рвёт. ... |
|||
:
Нравится:
Не нравится:
|
|||
15.10.2018, 12:19 |
|
ORACLE OLTP Partitioned VS POSTGRESQL Greenplum (Пошла жара ;))
|
|||
---|---|---|---|
#18+
ну и у него чисто исторически не может быть больше фич для хранилищ, чем у special purpose баз, которые сделаны только для хранилищ. Как та же терадата, которая 40 лет существует. А оракл изначально олтп база. ... |
|||
:
Нравится:
Не нравится:
|
|||
15.10.2018, 13:08 |
|
ORACLE OLTP Partitioned VS POSTGRESQL Greenplum (Пошла жара ;))
|
|||
---|---|---|---|
#18+
maytonIvan Durakпропущено... про фичи - полноценный mpp claster когда будет? Можете привести примеры систем где это уже реализовано? Teradata, Vertica, Greenplum, HANA, Sybase IQ, IBM Netezza, MS SQL PDW или как его там сейчас, ну и хадуп стек - Hive, Spark etc Даже Postgres XL есть такой mpp ... |
|||
:
Нравится:
Не нравится:
|
|||
15.10.2018, 15:51 |
|
ORACLE OLTP Partitioned VS POSTGRESQL Greenplum (Пошла жара ;))
|
|||
---|---|---|---|
#18+
Ivan Durak, авторДаже Postgres XL есть такой mpp Это точно, MMP реальная тема ... |
|||
:
Нравится:
Не нравится:
|
|||
18.10.2018, 06:32 |
|
ORACLE OLTP Partitioned VS POSTGRESQL Greenplum (Пошла жара ;))
|
|||
---|---|---|---|
#18+
Ivan Durakmaytonпропущено... Можете привести примеры систем где это уже реализовано? Teradata, Vertica, Greenplum, HANA, Sybase IQ, IBM Netezza, MS SQL PDW или как его там сейчас, ну и хадуп стек - Hive, Spark etc Даже Postgres XL есть такой mpp Из документации по Postgres XL Postgres-XL, a plan is generated once on a coordinator, and sent down to the individual data nodes. Не очень понятно, чем это отличается от ALTER TABLE SET PARALLEL в Oracle ... |
|||
:
Нравится:
Не нравится:
|
|||
31.10.2018, 17:50 |
|
ORACLE OLTP Partitioned VS POSTGRESQL Greenplum (Пошла жара ;))
|
|||
---|---|---|---|
#18+
Leonid KudryavtsevIvan Durakпропущено... Teradata, Vertica, Greenplum, HANA, Sybase IQ, IBM Netezza, MS SQL PDW или как его там сейчас, ну и хадуп стек - Hive, Spark etc Даже Postgres XL есть такой mpp Из документации по Postgres XL Postgres-XL, a plan is generated once on a coordinator, and sent down to the individual data nodes. Не очень понятно, чем это отличается от ALTER TABLE SET PARALLEL в Oracle не очень понимаю как можно не понять чем отличается кластер из N серверов и каждый со своим независимым стораджем, от оракла с общим единственным стораджем. Его хоть паралель, хоть перпиндикулярь, больше максимума для одного стораджа I/O не выжмет. ... |
|||
:
Нравится:
Не нравится:
|
|||
01.11.2018, 13:23 |
|
ORACLE OLTP Partitioned VS POSTGRESQL Greenplum (Пошла жара ;))
|
|||
---|---|---|---|
#18+
Ivan Durak, Real Sh*t ... |
|||
:
Нравится:
Не нравится:
|
|||
01.11.2018, 13:35 |
|
ORACLE OLTP Partitioned VS POSTGRESQL Greenplum (Пошла жара ;))
|
|||
---|---|---|---|
#18+
Ivan Durakне очень понимаю как можно не понять чем отличается кластер из N серверов и каждый со своим независимым стораджем, от оракла с общим единственным стораджем. Его хоть паралель, хоть перпиндикулярь, больше максимума для одного стораджа I/O не выжмет. кластер Oracle с разными сторайджами называется Exadata. но денег конечно стоит конских банальный шардинг в Oracle - тоже есть, называется партиции но шардинг имеет смысл, только если структура данных/приложений/запросов это позволяет. Если уж сильно хочется, сделать шардинг руками, раскидать в разные БД и связать через DB LInk - явно не бином Ньютона. Другое дело, не думаю, что кто-то в обычной практике занимается такой фигней и велосипедостроением. Ivan DurakЕго хоть паралель, хоть перпиндикулярь, больше максимума для одного стораджа I/O не выжмет. задача СУБД, не выжимать максимум IO, а обеспечивать быстрое выполнение запросов и/или транзакций (в стандартных тестах) как я понимаю, в реальных железках/задачах/кластерах, проблема не с доступок к сторайдж, а со скоростью interconnect. Ее и так не хватает. А гонять по interconnect'у и шарднутые данные, да еще на тормознутых Ethernet - такой фигней Oracle не занимается. Не зря в ExaData не поскупились и interconnect сделали на InfiniBand, а не на китайском Ethernet 10 G (как обычно "кластеростроители" собирают) AFAIK & IMHO ... |
|||
:
Нравится:
Не нравится:
|
|||
01.11.2018, 18:13 |
|
|
start [/forum/topic.php?fid=35&msg=39715623&tid=1552207]: |
0ms |
get settings: |
10ms |
get forum list: |
15ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
36ms |
get topic data: |
12ms |
get forum data: |
3ms |
get page messages: |
51ms |
get tp. blocked users: |
1ms |
others: | 236ms |
total: | 372ms |
0 / 0 |