powered by simpleCommunicator - 2.0.59     © 2025 Programmizd 02
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Форумы / Sybase ASA, ASE, IQ [игнор отключен] [закрыт для гостей] / 30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
53 сообщений из 53, показаны все 3 страниц
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32449226
Фотография ASCRUS
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
В принципе сабж. Мероприятие будет проводиться 30 марта. Приедет умный дядечка из Европы, который строил БД на десятки террабайт и тысячи пользователей и на конференции всем желающим наконец продемонстируют, что же это за зверь такой, о котором так много разговоров, но его почти никто в России не видел. Я тоже туда схожу, интересно посмотреть на СУБД, которая с одной стороны является полноценной РСУБД с поддержкой стандарта SQL, а с другой стороны из за собственной организации формата данных по скорости составляет конкуренцию OLAP серверам.

Если кому интересно, то посмотреть подробности и зарегистрироваться можно здесь . Если у кого будет желание познакомиться поближе, то можно отписать мне на мыло, мы уже с Миколой о встрече договорились, после конференции можно будет и пивка попить и поделиться впечатлениями :)

Так же мне обещали выдать триальную версию PowerBuilder 10, который теперь вроде как дружит с .NET, тоже будет интересно посмотреть, из за чего на форуме PowerBuilder такой сыр бор стоял и нужна ли вообще в PB поддержка .NET :)
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32449925
Фотография DenisVK
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
ASCRUS - а ты не думаешь, что там будет мало интересного для тех. специалистов, уж больно это напоминает рекламу своего продукта судя по описанию семинара и в принципе, как более ранние семинары? Хотя если встретиться и самим пообщаться, то из этого можно извлечь пользу :-)) Да и я, как понял будет выступать только умный дядечка, а больше никто из представителей Sybase? Да и мог бы написать где можно всем встретиться..., чтоб попить пивка и пообщаться :-))
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32449995
guest
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Я уже сталкивался с этим "умным дядечкой" - стоит послушать (мне понравилось, было много полезного).
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32450010
Фотография ASCRUS
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
автора ты не думаешь, что там будет мало интересного для тех. специалистов
Ну во первых я хоть посмотрю на этого зверя (в смысле на IQ). Во вторых там же написано - для руководителей IT, а кем мы становимся в будующем, сейчас будучи программерами - руководителями. Так что семинар явно для нас. Единственное, что Sybase хотелось бы провести серьезную компанию и видеть на семинаре руководителей и ведущих представителей крупных фирм и консалтиноговых контор, а не просто провести ликбез на тему "Что такое IQ" :) В принципе я их понимаю, продукт серьезный, рассчитанный на крупного потребителя, но в нашей стране достаточно сложно найти крупного граммотного потребителя, обычно все вопросы о выборе платформы решаются общим голосованием среди программистов - чего больше знаем, на том и пишем. Или же граммотным втиранием в мозги руководству и гипнотизированием посредством вкрадчивых фраз : Вы круты, Вы очень круты. А будете еще круче, если купите это. Это стоит дорого, но Вы докажате, что Вы круты, так как смогли купить это, хотя это и дорого ... ну и т.д.

авторуж больно это напоминает рекламу своего продукта судя по описанию семинара
Честно говоря согласен, напоминает. Однако готовятся сабейсовцы серьезно к этому мероприятию, хотят даже провести демонстрацию возможностей IQ, плюс я видел своими глазами самый первый вариант описания конференции, и он не напоминал рекламный проспект.
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32450075
mustlive
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Magic people - Moskow people :)

В том смысле, что на Москве свет клином не сошелся, но все конфы проводятся только там. К сожалению
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32451373
Aleksey Kh.
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
По_моему_скромному_мнению ;) все "семинары" Сайбейс /посещенные мной, ...два / носят явно рекламный характер.
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32451385
Aleksey Kh.
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
т.е. носили
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32451773
Александр Спелицин
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Значит Вы были не на всех семинарах :).
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32458187
Фотография ASCRUS
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Всем привет. Хочу вынести на обсуждение примерный план действий:
1. Всем зарегистрировавшимся должен был по телефону позвонить Sybase. Если этого не произошло, то позвоните к ним по телефону 7974774 и попросите уточнить, внесены ли вы в списки
2. Встретимся прямо на конференции. Думаю легче всего будет опознать друг друга через Наталью (менеджер Sybase). В общем попрошу их нам посодействовать.
3. Дальше уже по ходу пьесы и конференции определимся, что и как.

Если чего то не так, то жду вопросов и уточнений :)
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32460039
Andyn
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
М-да...

Безуспешно попытавшись убедить руководство отправить меня на сию конференцию, обращаюсь к тем, кто все-таки на ней будет - люди, поделитесь потом впечатлениями и, если возможно, какой-нибудь полезной информацией там полученной! :)

Тема использования IQ достаточно актуальна, а информации по нему, особенно конкретных примеров использования нет. :-/
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32462946
Фотография ASCRUS
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Andyn
Материалы по конференции есть, обязательно их вышлю. Конференция очень понравилась - специалист из Европы продемонстировал работу IQ и на крупных проектах Европы расписал, почему и чем существующие аналитические БД на MSSQL и Oracle не устраивали заказчиков, и что конкретно выиграл заказчик, перейдя на платформу Sybase IQ. Ну и заодно обсудили вопросы, насколько затратен перевод существующих хранилищ данных на платформу IQ, требования к аппаратуре, принципы реализации подлива данных в хранилище с OLTP серверов, особенности хранения и оптимизации получения данных движка IQ и т.д. Так же после Тимоти выступил Александр (наш российский специалист Sybase), который рассмотрел решения построения корпоративной модели данных Sybase Industry Warehouse Studio. Фактически это набор готовых отработанных решений модели БД под любую часть любой отрасли, что позволяет используя абсолютно любую СУБД через PowerDesigner быстро расширить макет модели БД до уровня, соотвестествующего ТЗ и перенести на уровень физической модели БД уже в указанную СУБД. С учетом того, что все основные решения уже реализованы, то этот продукт получается отличной стартовой площадкой для написания крупого проекта уровня предприятия, где основной уровень логической и физической модели уже реализован и задокументрирован и команда не проектирует все с нуля, а просто начинает расширять продукт в нужную сторону.

Из конференции я вынес еще 2 интересные вещи:
1. оказывается любители велосипедов на MSSQL и Оракл в Европе водятся столь же часто, как и в России - на конференции приводился пример таблицы в 570 полей на Оракле и героические усилия команды сопровождения реорганизовать структуру БД так, чтобы к данным этой таблицы запросы выполнялись не часами. После бесплодных попыток всю это БД кинули на IQ, прямо с этими 570-ю полями и вся аналитика стала выполнялтся за секунды. Теперь у этого заказчика если пользователь не получает отчет по террабайтной БД меньше чем за 3 минуты, то он звонит и спрашивает, почему это сервер не работает.
2. в какой то мере меня еще раз очень порадовала немаркетинговая честная позиция политики Sybase в области рекламы и продвижения продуктов (хотя в принципе это и обуславливается малым распостранением ее продуктов в СНГ, где связи, пиратство и реклама IT продуктов - двигатель прогресса). Тимоти показал на конкретных примерах, когда и где выгодна IQ, расписал стоимость владения по сравнению с другими СУБД, указал на очевидные недостатки OLTP в роли серверов для обработки аналитики, честно обьяснил, почему IQ уступает по скорости записи с обычными транзакционными серверами и как правильно настроить подлив данных, чтобы не наступить на грабли. Больше всего меня порадовал на заданный вопрос "Когда не стоит использовать IQ ?" его ответ: "Я думаю, когда у Вас все работает на том, что есть и все довольны, то явно не стоит начинать использовать IQ" :)

P.S. В общем впечатление о конференции и самом продукте сложилось положительное, если у кого то есть свои соображения по поводу конференции, то с учетом того, что форум Sybase на sql.ru посвящен всем БД от Sybase, думаю в этом топике будет самое место поделится своими мыслями и впечатлениями :)
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32462992
White Owl
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Заинтриговал :)
Тогда вот несколько вопросиков:
Насколько работоспособна связка IQ с другими типами серверов (в частности ASA). Например в режимах репликации через сообщения и/или синхронизации данных по постоянному линку? Сайбез вообще это предусматривает?
Насколько трудоемок процесс миграции данных из какой-либо базы (в частности ASA) в IQ? Вот та самая таблица на 570 полей из Оракла. Как эти базы перекачивали? Все равно ведь приходится по пути делать некое преобразование структуры данных, не так ли?
К тому же база данных это давно не только сами данные :) Насколько переносимы процедуры, триггера и тд?
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32463099
Фотография ASCRUS
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
авторНасколько работоспособна связка IQ с другими типами серверов (в частности ASA). Например в режимах репликации через сообщения и/или синхронизации данных по постоянному линку? Сайбез вообще это предусматривает?
Этот вопрос я лично на конференции задавал. В принципе Тьери ответил, так, как я уже и сам подумал - IQ нельзя использовать в связке в репликации, так как проведение над ним репликаций - это транзакции, а он их не любит. Поэтому рядом с ним ставят OLTP сервер, на который и подцепляют репликацию и настраивают процесс закачки с него данных на IQ. Если БД большая, то обычно такой сервер миграции переносят на отдельную машину. Закачку данных обычно организовывают по расписанию, насколько я понял, лучше всего качать данные файлами с помощью команды LOAD TABLE (как в ASA). Во время закачки данных (а это процесс не самый быстрый в IQ) БД продолжает работать в штатном режиме, читатели не блокируются. Данные появляются и видится ими только после окончания закачки данных. Из чего собственно я сделал вывод, что судя по всему IQ больше похож на версионник, чем блокировочник (если он вообще на кого нибудь похож).

авторНасколько трудоемок процесс миграции данных из какой-либо базы (в частности ASA) в IQ? Вот та самая таблица на 570 полей из Оракла. Как эти базы перекачивали? Все равно ведь приходится по пути делать некое преобразование структуры данных, не так ли?
К тому же база данных это давно не только сами данные :) Насколько переносимы процедуры, триггера и тд?
Мигрировать всю БД с той же ASA в IQ явно не стоит делать. Мигрируется только модель БД, запросы и процедуры, по которым делается аналитика. Переносить часть OLTP, занимающуюся чисто транзакционными задачами - сбором и обработкой информации явно не стоит, на IQ этому все равно не найти применения. Насколько я понял, в IQ поддерживается TSQL, есть глобальные временные таблицы (аналог ASA). К сожалению о возможностях TSQL Тьери рассказал очень мало, хотя публику это очень интересовало (особенно ораклян). Однако на вопрос о поддержке рекурсивных запросов вежливо ответил, что поддержка есть (?). В качестве примера он привел опять же ту самую БД на Оракле, где была таблица с 570 полями. Команда из 8 человек перегнала через PowerDesigner модель БД с Оракла в IQ и перелопатила 110 000 запросов с PLSQL на TSQL довольно в короткие сроки. Кстати заказчик при выборе сервера хранилища БД провел тендер в виде пилотного проекта, в котором Sybase IQ и IBM DB2 пришли первыми, однако IBM-щики малость закопались, попросили еще время на то, чтобы полноценно запустить систему и с учетом того, что у Sybase уже все было готово и работало, в качестве платформы был выбран IQ.

Так же впечатлила еще одна история - в одной очень крупной конторе было огромное хранилище данных, построенной на MSSQL 2000, висевшее на кластере HP. Одному пользователю потребовалось проанализировать информацию за очень большой период времени. Администратор отказал ему в выполнении сего запроса, обосновывая это тем, что такой запрос завалит сервер на долгое время. Пользователь видно оказался крутой, довел все это дело до сведения руководства, IT отдел пожал плечами и ответил, что тут явно нужно технику помощнее покупать, например IBM миллионов за 5. Решили вместо того, чтобы потратить такие деньги нанять специалиста - приехал Тьери, показал IQ, перегнал через PowerDesigner таблицы. Далее с его слов:
чтобы перегнать данные (это 870 миллионов записей), на получение разрешения администратора на их блокировку ушло 15 дней. Четыре дня ушло на перекачку данных в хранилище IQ. Потом Тьери торжественно запустил запрос на эти самые 870 миллионов записей, который выполнился ровно за 23 секунды.
Кстати запускал он это уже не на кластере, а на обычном PC с установленным NT. Вообще насколько я понял IQ абсолютно не прихотлив в плане кол-ва процессоров, памяти и скорости винтов - вся демонстрация на конференции проводилась на обычном Notebook P4 2100, 512 RAM . Тьери создал со скриптов небольшую БД с разными табличками по миллион записей и погонял ее на различных запросах с аггрегацией, продемонстировал, что IQ не спотыкается на NOT BETWEEN, OR, NOT EXISTS и т.д. Привел примеры запросов, на которых я думаю обычный OLTP бы умер (один запрос весил по моему где то 7 страничек формата A4).
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32463102
Andyn
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
2 ASCRUS

Спасибо, буду ждать, заинтересует любая информация. Я отправил письмо с адреса, который указан в профиле - информацию лучше отправить на адрес в письме - это мой рабочий :).
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32463332
Фотография Jimmy
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
2 ASCRUS
Фактически это набор готовых отработанных решений модели БД под любую часть любой отрасли, что позволяет используя абсолютно любую СУБД ...

Лично меня настораживает обилие прилагательных "любой, любая, любые".
Конкретнее можно?


------------
Best regards, Jimmy
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32463341
Фотография brahew
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
А меня несколько напрягало на этой конференции то, что большинство присутствующих не видят разници между хранилищем и простой олтп, стараясь применить одни и те же термины и сравнивать на стандартных олтп-шных задачах. Хотя тьерри сразу же обяснил, разницу олтп и хранилища и сразу же объяснил, что хранилище это только чтение и заливка данных через тот же ascential datastage.
Еще не порадовало выступление чувака, который сделав 80 метровый проект на sybase iq, пытался всем объяснить что то, видимо не понимая сам того что объяснял, в итоге усыпив зал.
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32463433
Фотография ASCRUS
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Jimmy Лично меня настораживает обилие прилагательных "любой, любая, любые". Конкретнее можно?
Можно сказать у них на уровне логической и физической модели в PowerDesigner спроектированы все основные модели, применяемые в проектировании БД для различных задач (насколько все красиво и соотвествует российской действительности не знаю, на слайдах глядя на общую схему PD сложно чего то понять). Получается, что если нам нужно разработать крупный проект корпоративного уровня, вместо того, чтобы все начинать с нуля, можно взять их схему и их наработки, включая только то, что требует ТЗ, и мы получим готовый каркас БД в PowerDesigner, который можно сохранить в собственную схему, далее создать по ней скрипт для указанной модели СУБД. В дополнение вся их Warehouse поделена как бы слои (слой РСУБД, слой описания модели данных, слой презентации, слой аналитики и т.д.) и как я понял под каждый слой Sybase может предложить свое решение или оставить его на Ваше усмотрение. На основе этого продукта в Казахстане был создан крупный проект для какого то министерства (подробностей не помню). В общем я думаю правильно понял идею, конференция шла долго, я уже был перегружен информацией и возможно чего то напутал (насчет IQ точно ничего не напутал, а вот про этот продукт мог). Если интересно, я могу попробовать уточнить все у Sybase.ru и своими словами потом еще раз попытаться описать. Или же можно просто к ним в гости подьехать и пообщаться с тем человеком, который и делал решения для стран СНГ.
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32463461
Фотография Jimmy
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Или же можно просто к ним в гости подьехать и пообщаться с тем человеком, который и делал решения для стран СНГ.

Возможно, так и сделаю. А как координаты этого человека получить ?


------------
Best regards, Jimmy
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32463468
guest
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
По поводу версионности:
Версионность и транзакционность - это две разные вещи в IQ, которые дополняют друг друга. Транзакционность поддерживается полность, т.е. транзакции, точки сохранения, откаты ...
Версионность же больше относится к области локировок. Т.е. благодаря версионности IQ работает на 3-м уровне изоляции и при этом те кто пишут не блокируют тех, кто читает и наоборот. Единственное правило, что два писальщика в одну и ту же таблицу быть не должно в один и тот же момент времени.
По поводу совместимости ASA и IQ:
Так ведь frontend в IQ - это и есть ASA. Т.е. почти всё, что есть в ASA есть и в IQ (TSQL, WSQL, процедуры, функции, события, прокси-таблицы).
Нет триггеров.
К IQ можно даже коннектиться ASA-ой централью и кое-что делать из неё (не всё конечно).
Естественно много чего есть, что относится только к IQ и нет в ASA.
ПО поводу ресурсов:
Можно конечно работать в IQ и на обычном PC, но то что не требуется много памяти и CPU -это неверно.
Для нормальной продакш системы памяти нужно как и для любого OLTP сервера (её мало не бывает) и CPU тоже (IQ больше ест CPU, чем IO - компрессия).
Тот же multiplex как раз и служит для цели увеличения (масштабирования) общего кол-ва памяти и CPU в системе (но не скорости дискового IO, хотя временные хранилища тоже разносятся по отдельным нодам и дисковое IO тоже снижается на отдельно взятые винты или дисковые массивы).
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32463476
guest
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
По поводу IWS:
Sybase гарантирует, что не менее 80% информации из Ваших OLTP систем ляжет в структуру IWS (конечно той части, которая Вам нужна по предметной области).
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32463596
Birkhoff
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
2 ASCRUS

Велосипеды типа 570 колонок в наше время встречаются достаточно редко.
А на схеме типа "звезда" дает ли IQ примущества по сравнению с другими системами?

И еще, пишут, что IQ хранит данные в колонках, а не в строках (?). Что это значит и какие дает преимущества?
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32463645
guest
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
А на схеме типа "звезда" дает ли IQ примущества по сравнению с другими системами?

IQ даёт преимущество на любой схеме.
Сама схема просто можеть быть не самым идеальным вариантом, но IQ будет всёравно быстрее.
Разговор идёт про увеличение скорости В разы (практика: вместо 3-х часов 3 минуты на одной и той же схеме таблиц).

И еще, пишут, что IQ хранит данные в колонках, а не в строках (?). Что это значит и какие дает преимущества?

Да IQ данные хранит по колонкам. Это значит, что данные хранятся вертикально.
Например для OLPT базы если взять таблицу из скажем 100 колонок, то запрос вида
select col1, col20 from tab_name
приведёт к table scan, т.е. поднимутся с диска данные для ВСЕХ 100 колонок.
В IQ будут подняты с диска данные только этих двух колонок.
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32463653
Birkhoff
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
То есть данные каждой колонки хранятся как бы в отдельной таблице? И скан идет только по этим табличкам?
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32463679
Александр Спелицин
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
JimmyВозможно, так и сделаю. А как координаты этого человека получить ?
Зовут его Александр Козик, по крайней мере так в программе семинара написано :)

Ну а телефон офиса здесь был приведен.
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32463689
Birkhoff
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
А как в IQ решаются вопросы с иерархиями, как происходит сборка данных по уровням?
Возможны ли разные виды иерархий (уровневая, parent-child)
Можно ли изменить порядок агрегации?


Или к IQ это неприменимо?
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32463704
guest
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Не совсем конечно это так формулируется.
Sybase это описывает так:
Данные в IQ - это индексы. Т.е. отдельная колонка в IQ представляет из себя дефолтный FT (Fast Projection) индекс (он плоский, без дерева, но возможна оптимизация, опишу ниже). Этот индекс и есть данные, его нельзя удалить через drop index, используется alter table drop. Кроме него на колонку можно навесить ещё доплнительные индексы.
Таблица представляет собой логически сгруппированные отдельные FP индексы (колонки).
Если рассмотреть это с физической точки зрения, то на диске на страницах хранятся не строки, а колонки. Т.е. прочитав одну или несколько связанных страниц с диска сервер всегда будет читать данные только для одной конкретной колонки и другие данные (других ненужных колонок) при этом читаться не будут (в отличие от OLTP серверов).

FP индекс (сами данные) мы можем оптимизировать. При создании таблицы можно указать конструкцию для колонки IQ UNIQUE (N).
Например create table t1 (id unsigned int not null, "code" char(10) iq unique(100))
Это не уникальность. Это мы говорим серверу сколько distinct значений мы ожидаем в этой колонке (например - это код департамента, всего 100 департаментов).
Тогда сервер для этой колонки построит оптимизированный FP индекс в зависимости от числа N.
Если N<256, то построится 1-байтовый FP индекс
Если 256<=N<65536, то 2-х байтовый.
Что это даст?
На диске будет построена таблица соответствий из 100 значений для нашего случая (реальное значение - битовая маска в один байт).
А дальше сервер будет уже хранить не данные, а уже битовую маску (один байт).
Если взять наш утрированный пример и посчитать сколько места у нас сэкономиться например для 100 млн записей в таблице:
Плоские данные (char(10) - 10 байт одно значение):
100млн * 10 = 953Мб
С оптимизацией (одно значение - один байт):
100млн * 1 = 95Мб

То можно заметить, что на одной только маленькой колонке мы можем сэкономить уйму места в базе.

Прошу прощения, если что-то осталось непонятно.
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32463732
guest
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Я не силён в вопросах иерархии (не IQ, а вообще), поэтому прошу прощения точно ответить на вопрос не могу.
Если попытаться ответить, то в IQ можно делать всё, что и в ASE и ASA (построение схем и использование операторов) ну и плюс дополнительные функции аналитики и аггрегации.
Список довольно большой. Можно посмотреть на сайте сая (в доке IQ Reference).
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32463755
Birkhoff
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
2Guest

Спасибо!

Правильно ли я понял, что в этом случае неизбежен полный скан колонки (индекса) при любом запросе, если эта колонка участвует в запросе?
То есть если в вашем примере есть таблица на 100 миллионов записей то в случае использования нашей колонки мы должны будем должны в любом случае прочитать наш 95мб индекс?
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32463776
guest
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Это мы говорили о хранении данных и об аналоге TABLE SCAN в IQ (когда не созданы дополнительные индексы), т.е. самая худшая ситуация.
Естественно есть ещё дополнительные индексы.
Например HG,LF,HNG,CMP,WD,DATE,TIME,DTTM, которые строятся по определённым правилам и служат для своих целей и будут использоваться в запросах.
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32463802
Birkhoff
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Правильно ли я понимаю, что в случае обновления данных все индексы должны перестраиваться и инкрементальный апдейт невозможен?
То есть необходимо делать полную перезагрузку данных.

И что будет если в нашем примере появится 257 департамент (то есть данные не поместятся в 1 байтную маску) будет ошибка или индекс будет пересоздан автоматом?

Как производится загрузка?
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32463870
guest
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Конечно полную перезагрузку данных делать не нужно.
Можно доливать данные, удалять, изменять данные (update), причём массовый update по одной колонке будет выполняться очень быстро.
Мало того IQ поддерживает механизм частичной заливки по колонкам, т.е. мы можем сначала загрузить данные в часть колонок таблицы, а потом догрузить в оставшиеся колонки.

В случае работы с оптимизированным FP индексом ситуация очень приятная.
Если мы вылазим за диапазон, то сервер автоматом один раз перестраивает этот один (FP) индекс на следующий уровень, т.е. если был 1-байтовый FP и мы вставляем 256 distinct значение, то этот индекс будет перестроен в 2-хбайтовый автоматом (в процессе загрузки или изменения данных), если был 2-х байтовый и мы превысили кол-во в 32к, то перестроится в плоский.

Загрузка данных тоже возможна в различных вариантах.
Можно из файлов через LOAD TABLE (параметрами можно контролировать формат). Скорость загрузки просто потрясающая. Рекомендует сай использовать этот вариант.

Можно через INSERT VALUES (скорость низкая).
Можно через INSERT SELECT (в том числе и напрямую с другого сервера).
Например так:

INSERT INTO tab1 (col1,col2...)
location 'my_remote_server.mydb'
{select a,bcol ... from ... where ...}

Тоже быстрый метод.

Можно создать прокси-таблицы из IQ, например на MS,ORA,DB2,ODBC и вставлять данные простым insert ... select ... (причём в этом случае нужны толко двайвера ODBC для коннекта и всё).

Хочу ещё привести один пример из доки как демострация функциональности.
Таблица, в которой среди всего остального есть 3 колонки:
Price, Number, Total_Sum

Мы можем влить только Price и Number как первый шаг, а потом выполнить update tab set Total_Sum = Price* Number where "для новых строк или для всех ..."

Цифры из практики:

День работы банка заливается за 10 минут.
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32463906
Birkhoff
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
2 Guest
Спасибо огромное.
Очень познавательно.

А есть ли среди доков по IQ что то по концепциям, типа введения в понятия IQ и т.п. Соответственно, если есть как этот док называется?
Или может быть дадите ссылку на подборку документации по IQ?
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32463923
guest
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Дока конечно есть.
Не знаю, что Вам лучше подойдёт, поэтому порекомендую просто походить на сайте сая в разделах документации (там найдёте доку для IQ без проблем) и в разделах продуктов (там тоже можно найти презентации, статьи), может это Вам больше подойдёт.
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32464781
Yo!
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Yo!
Гость
а можно чуть конкретней, чем принципиально он отличается и за счет чего как бы получает такой выйгрыш в скорости.
как бы оракл конечно бы тоже расмеялся над таблицей в 500 колонок, создал бы материализед вью, партиции, битмап индексы и получил бы скорость в разы отличающиеся от изначальной таблички ... а за счет чего IQ добивается этого результа ?
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32464785
Yo!
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Yo!
Гость
млин не заметил второй страницы.

Тогда сервер для этой колонки построит оптимизированный FP индекс в зависимости от числа N.
т.е. это что-то типа оракловой index organized table ?

На диске будет построена таблица соответствий из 100 значений для нашего случая (реальное значение - битовая маска в один байт).
а это типа bitmap index ?

Да IQ данные хранит по колонкам. Это значит, что данные хранятся вертикально.
Например для OLPT базы если взять таблицу из скажем 100 колонок, то запрос вида
select col1, col20 from tab_name
приведёт к table scan, т.е. поднимутся с диска данные для ВСЕХ 100 колонок.
В IQ будут подняты с диска данные только этих двух колонок.


ээ ... разве ? имхо точно также если по этим колонкам есть индекс данные возьмутся из 2 индексов, вот если нет индекса то да ...
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32464813
Фотография ASCRUS
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Yo!
Тут как бы имеется ввиду, что в IQ в отличие от OLTP TABLE SCAN как бы не возможен, так как на физическом уровне хранения таблиц в обычном понимании нет. Фактически модель хранения данных IQ - это на 90 градусов повернутая модель OLTP. А основной упор самого движка - это максимально снизить число обращений к накопителям, что и достигается засчет другого формата хранения БД и ее сжатия. Плюс, насколько я понял, IQ ориентирован на очень сложные аггрегатные запросы, понятное дело, что в любой OLTP можно было бы на ту табличку хоть на все 570 полей индексов понаделать, но все равно будут 2 диалемы, особенно если в таблице миллионы записей:
1. БД немерянно вырастет
2. Сколько бы индексов не понаделали, все равно запросы к такой БД надо будет писать очень аккуратно, смотреть на план запросов, продумывать, какие индексы нужны, а какие нет, не наглеть и не использовать в запросах то, что терпеть не могут OLTP: OR в соединениях, NOT BETWEEN, NOT EXISTS и т.д.

У IQ же совсем другая политика (как раз ее и пытался обьяснить нам всю конференцию Тьерри на различных примерах) - Sybase заявляет, что сама архитектура IQ уже позволяет выполнять любой сложности запросы на больших обьемах данных. Т.е. в качестве примера он приводил фирму в Англии, которая снимает показания о переключениях между телевизионными каналами граждан, вся эта информация запихивается в IQ (прирост БД - террабайт в месяц), а потом просто продает SQL доступ к информации этой базы. Т.е. администраторы фирмы только следят за правильным заливом БД, какие запросы выполняются, по каким обьемам данных, с какой активностью - они просто даже не знают. Согласитесь на нормальном OLTP сервере нормальный администратор просто обязан знать, что лежит в его БД и какие запросы выполняют его многочисленные пользователи, иначе его сервер спокойно смогут положить на лопатки недоброкачественным запросом. Не знаю как Оракл, а вот насчет MSSQL и Sybase ASA и Sybase ASE могу сказать точно - эти СУБД не готовы к тому, чтобы на них можно было держать огромную БД и кучу внешних клиентов, которые самостоятельно без ограничений и уведомлений администратора посылают запросы на выборку и аггрегацию большого числа данных. Думаю Оракл так же на это не способен.

В общем конечно лучше бы один раз увидеть, чем сто раз услышать. Однако надеюсь саму идею IQ я обьяснил :)
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32465440
Yo!
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Yo!
Гость
т.е. хранятся только индексы ... интересно но не совсем понял как можно получить выгоду от хранения вдоль, а не поперек - все равно физически данные хранятся последовательно на секторах диска, а то что программер это претстваляет в виде продольной таблицы как бы не должно влиять, нет ?

Не знаю как Оракл, а вот насчет MSSQL и Sybase ASA и Sybase ASE могу сказать точно - эти СУБД не готовы к тому

а OLAP сервера? имхо это концептуально то же самое - выделеный сервер спецально заточен на суровые запрсы построения OLAP кубов, т.е. и структура бд уже не та что в OLPT а полу агрегирована - да она гораздо больше места занимает - но диски щас дешевле картошки - я на днях не смог купить 36гб сказийник - нет таких маленьких ...

т.е. IQ позиционируется как замена OLAP серверу, т.к. позволяет более гипкие возможности ? они там как-то сранивали с OLAPами ?
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32465564
guest
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
IQ позиционируется как хранилище. Не больше не меньше (как Terradata).
Вы можете сколько угодно рассуждать о сдвиге OLTP сервера в OLAP, но это всё "круги на воде".
Ведь не зря же люди ставят IQ в качестве хранилища там, где в OLTP стоит Oracle.
Зайдите на tpc.org и посмотрите, что показывает тот же Oracle по сравнению с IQ.
Их пассы руками по размазыванию данных по куче дисков для увеличения пропускной способности дискового IO всёравно не приводят к желаемому результату.
Про Materealized View давайте просто не вспоминать, если учесть, что мы говорим про ad-hoc запросы.
Ну и т.д

"Когда не стоит использовать IQ ?" его ответ: "Я думаю, когда у Вас все работает на том, что есть и все довольны, то явно не стоит начинать использовать IQ" :)

Напоследок ещё раз:
IQ - это не OLTP сервер и не OLTP "сдвинутый" в OLAP - это хранилище.
Вот и всё.
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32465635
guest
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Догадайтесь с 3-х раз на чём сейчас постороено самое большое в мире хранилище данных? :-)

Догадайтесь с 3-х раз что самое дешевое для построения хранилищ? :-)

Догадайтесь с 3-х раз что самое экономичное по железу? :-)
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32465643
Фотография brahew
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Угадайте что такое дешевый слоган.
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32465655
guest
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Дешевый слоган - это когда говорится что-то, что не подтверждено на практике (насколько я это понимаю).

Хотя критику признаю. Больше флейма от меня не будет.
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32465687
Фотография brahew
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
2 Guest, вы работайете в сайбесе? Вы работали с IQ на больших проектах с терабайтными объемами?
За объяснения что такое хранилище - спасибо, жаль только, что сногие не могут разделить два понятия база для изменеий и база открытая на чтение.
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32465697
Birkhoff
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Попробовал проверить :)

На TPC-H тестах IQ появляется только на базах до 300GB и даже в этом сегменте лидер IBM с DB2 и MS SQL Server.

Насчет самого большого в мире хранилища - поиск по инету выдал, что самое большое коммерческое хранилище в France Telecom 32TB и стоит на Oracle.
http://www.oracle.com/features/solutions/business_intelligence/index.html?1217_db_winterdw.html

И еще вопрос, что мешает использованию Materialized Views при ad-hoc запросах? Если данные есть в MV они оттуда берутся, если нет - не берутся, и ведь может быть несколько MV?
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32465714
guest
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Посмотрите на спецификации машин в тэстах или на результаты соимость/производительность.
IQ: 48.2 TB cырых данных размещено на 22 TB дискового пространства.
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32465805
Yo!
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Yo!
Гость
вообщето в tpc-h рулит именно оракл, а IQ максимум на 4-х процах там запустили - ораклу просто не интересно на таких маштабах соревноватся он на 64 соревнуется ...

авторПосмотрите на спецификации машин в тэстах или на результаты соимость/производительность.

mysql и foxpro лидеры :)

авторIQ: 48.2 TB cырых данных размещено на 22 TB дискового пространства.

если это каталог пары сотен порно фильмов, то это ни о чем не говорит.

нам интересны архитектурные особености а в скоростях мы у более авторитетных источников поспрашиваем.
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32465806
Birkhoff
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
IQ: 48.2 TB cырых данных размещено на 22 TB дискового пространства.

Это где написано? В спецификациях теста или где? Можно линк какой-нибудь?
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32465909
guest
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
www.sun.com

Search: Sybase IQ 48.2
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32466001
Birkhoff
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Спасибо.

Прочитал в IQ Reference
Unlike Adaptive Server Anywhere, Adaptive Server IQ does not allow
subqueries to appear wherever expressions are allowed. Adaptive Server IQ
only supports subqueries as allowed in the SQL-1989 grammar. It does not support Adaptive Server Anywhere’s extensions.


Отсюда вопросы.
1. Когда непозволительны подзапросы?
2. Почему поддерживается всего лишь SQL-1989?
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32466015
guest
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
1. Note In Adaptive Server IQ, subqueries (nested selects) are not allowed in the
select list. This is a difference between Adaptive Server IQ and Adaptive
Server Anywhere.
In Adaptive Server IQ, subqueries can only be used in a WHERE or HAVING
clause predicate (one of the supported predicate types). Subqueries cannot be
used inside a value expression (for example, in a CASE statement), inside an
outer join ON clause, or inside a BETWEEN or LIKE predicate.
For more details on the use of subqueries, see “Subqueries in expressions” on
page 198 and “Subqueries in search conditions” on page 209.

2. Adaptive Server IQ conforms to the ANSI SQL89 standard but has many
additional features defined in IBM’s DB2 and SAA specification, and in
ANSI SQL/92.
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32466994
Birkhoff
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Вопрос.
Давали ли на этом мероприятии материалы сверх тех, что размещены тут?

http://www.sybase.ru/Syb/corporate/events/iq_30-03-2004.htm
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32467141
Фотография ASCRUS
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Материалов дали на 50 мб (по английски). Sybase.ru обещало их выложить. Я тоже сейчас пытаюсь найти место в инете, куда бы их можно было бы положить.
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32479217
E.O.
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Присоединюсь к честной компании.
Вообще-то, на означенном семинаре произошло одно упущение: ничего не было сказано про ценовую политику (фразу "очень гибкая" в расчет не берем). Между тем, имеются сведения, что информация, приведенная на TPC-H даже за конец прошлого года и нынешний уровень цен _очень_сильно_ различаются. Разумеется - в сторону удорожания.

Поэтому тот выигрыш в TCO, о котором так радостно говорил Тьери сейчас совсем не так радостен...

Может ли кто-нибудь, приближенный к Sybase, прояснить, к примеру, стоимость лицензии IQ на один процессор?

Скорость, к сожалению, не всегда определяющий фактор.
...
Рейтинг: 0 / 0
30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
    #32479387
_Drive_
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
По результатам поиска на sybase.com
вариант IQ Enterprise - 30000$ per CPU
...
Рейтинг: 0 / 0
53 сообщений из 53, показаны все 3 страниц
Форумы / Sybase ASA, ASE, IQ [игнор отключен] [закрыт для гостей] / 30 марта в Москве проводиться конференция по Sybase IQ (впечатления)
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]