powered by simpleCommunicator - 2.0.53     © 2025 Programmizd 02
Форумы / NoSQL, Big Data [игнор отключен] [закрыт для гостей] / Помогите пожалуйста с Hadoop.
8 сообщений из 8, страница 1 из 1
Помогите пожалуйста с Hadoop.
    #39509598
freeskier71
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Всем большой привет. Я начинающий с SQL, Hadoop и так далее. В общем и целом стоит задача, посмотреть на Hadoop'е одну таблицу из 15000 тысяч полей, состоящей из кучи блоков, и на данный момент я рассматриваю блок и меня интересует два поля, минимальная дата и максимальная дата, но из за того что периодов дат много с 2007 года по 2017 и очень много данных, производительность сервера позволяет делать селект только по одному месяцу, и как сами понимаете рассмотреть 10 лет по одному месяцу это очень долго. Так вот вопрос в том, можено ли в хадупе как либо прописать процедуру, позволяющую менять дату. Или как мне по другому автоматизировать запрос. Большое спасибо за внимание и за помощь.
Вот мой запрос:
select 'data' as field, '201708' as period, min(day) as min, max(day) as max
from tabl w
where day between 20170801 and 20170831
and ( data is not null )
;

Следующий запрос соответственно будет про 07 месяц и период тоже будет 201707.
...
Рейтинг: 0 / 0
Помогите пожалуйста с Hadoop.
    #39509626
Фотография Дедушка
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
вы точно про hadoop?
где конкретно вы выполняете ваш запрос?
...
Рейтинг: 0 / 0
Помогите пожалуйста с Hadoop.
    #39509683
Yo.!
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
так ?

select 'data' as field, '10 years' as period, min(day) as min, max(day) as max
from tabl w
where day between 20070801 and 20170831
and ( data is not null )
;
...
Рейтинг: 0 / 0
Помогите пожалуйста с Hadoop.
    #39509687
freeskier71
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Дедушка,

Конкретно в Hive.
...
Рейтинг: 0 / 0
Помогите пожалуйста с Hadoop.
    #39509689
freeskier71
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Yo.!,

Ваша идея хороша, но период у меня должен быть в 1 месяц. Вот я и ломаю голову, может быть цикл какой то использовать. Но в просторах сети я не нашёл упоминаний о том, что Hive может это прожевать.
...
Рейтинг: 0 / 0
Помогите пожалуйста с Hadoop.
    #39509700
Фотография Дедушка
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
freeskier71Вот я и ломаю голову, может быть цикл какой то использовать. Но в просторах сети я не нашёл упоминаний о том, что Hive может это прожевать. Looping using Hiveql
...
Рейтинг: 0 / 0
Помогите пожалуйста с Hadoop.
    #39509705
Yo.!
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
freeskier71Ваша идея хороша, но период у меня должен быть в 1 месяц. Вот я и ломаю голову, может быть цикл какой то использовать. Но в просторах сети я не нашёл упоминаний о том, что Hive может это прожевать.
лень подгонять под Hive синтаксис, тем более что не ясно какие типы но в целом что-то типа такого должно работать

Код: plsql
1.
2.
3.
4.
5.
WITH ranges AS (select 201708 as dt UNION select 201707 UNION select 200706 UNION select 201706 ...  )
SELECT 'data' as field, r.dt as period, min(day) as min, max(day) as max
FROM tabl w JOIN ranges r ON r.dt  = w.substr(day,0,6) 
   WHERE data IS NOT NULL 
GROUP BY w.field, r.dt;



UNIONы чем-нить нагенерить программно.
...
Рейтинг: 0 / 0
Помогите пожалуйста с Hadoop.
    #39516080
Фотография Apex
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Код: sql
1.
2.
3.
4.
5.
SELECT 'data' AS field, substring(w.day,1,6) AS period, MIN(day) AS MIN, MAX(day) AS MAX
FROM tabl w
  RIGHT JOIN (SELECT date_add(t.StartDate,pe.pos) AS DAY
              FROM (SELECT DATE '2017-01-01' startdate, DATE '2017-03-31' enddate) t LATERAL VIEW posexplode (split (space (datediff (t.EndDate,t.StartDate)),' ')) pe) x ON x.day = w.day
GROUP BY w.field, substring(w.day,1,6)
...
Рейтинг: 0 / 0
8 сообщений из 8, страница 1 из 1
Форумы / NoSQL, Big Data [игнор отключен] [закрыт для гостей] / Помогите пожалуйста с Hadoop.
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]