powered by simpleCommunicator - 2.0.18     © 2024 Programmizd 02
Map
Форумы / NoSQL, Big Data [игнор отключен] [закрыт для гостей] / Hadoop/Java. Не видим из метода файл в hdfs. Если смотреть в папке глазами - он есть.
5 сообщений из 5, страница 1 из 1
Hadoop/Java. Не видим из метода файл в hdfs. Если смотреть в папке глазами - он есть.
    #40130130
mod
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Обращаемся по REST API к сервису. Сервис кладёт нам в папку hdfs файл и присылает полный путь с именем к нему. Всё OK. Нормально читаем. При этом, для следующего запроса, получаем новый путь к новому файлу и новый файл в папку, ровно как и в первый раз. Но при запуске метода мы новый файл не видим по данному пути. Ставили задержку в 10 минут до вызова метода. Не помогает. Сам файл в папке появляется. Смотрели в hdfs во время задержки - файл есть. При перезапуске приложения, если вручную путь подставить - файл виден и читается. Может сталкивались? Есть подозрения на кэширование какое-то. Как быть?

import org.apache.hadoop.fs.*;

private static String readLineFromFile(String path) {

Path inFile = new Path(path);
try {
FileSystem fs = FileSystem.get(conf);
// Hadoop DFS Path - Input file

// open and read from file
FSDataInputStream in = fs.open(inFile); // взрыв тут
InputStreamReader isReader = new InputStreamReader(in);
//Creating a BufferedReader object
BufferedReader reader = new BufferedReader(isReader);
String str = reader.readLine();
if (str.isEmpty())
{
throw new RuntimeException("Error read from file. Data is null.");
}
return str;

} catch (IOException e) {
throw new RuntimeException("Error read from file. Path to file: " + inFile.toUri().toString());
}

}
...
Рейтинг: 0 / 0
Hadoop/Java. Не видим из метода файл в hdfs. Если смотреть в папке глазами - он есть.
    #40130189
Фотография Дедушка
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
mod
Но при запуске метода мы новый файл не видим по данному пути.
метод не видит файл или не может его читать?
вместо fs.open пробовали просто проверять существование файла?
...
Рейтинг: 0 / 0
Hadoop/Java. Не видим из метода файл в hdfs. Если смотреть в папке глазами - он есть.
    #40130212
mod
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Дедушка,

файл точно есть. Успевает прийти. При повторном запуске читается. Сейчас проверяю чем отличается путь в респонсе во второй раз. Пока версия одна - респонсы на два разных реквеста.
...
Рейтинг: 0 / 0
Hadoop/Java. Не видим из метода файл в hdfs. Если смотреть в папке глазами - он есть.
    #40130354
mod
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Заработало. Почему? Не понятно. В коде ничего не изменилось. Вероятно, кто-то где-то что-то подкрутил снаружи.
...
Рейтинг: 0 / 0
Hadoop/Java. Не видим из метода файл в hdfs. Если смотреть в папке глазами - он есть.
    #40130367
H5N1
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
HADOOP_CONF_DIR небойсь меняется, потому что с разных машин запускаете. Где то default fs неверно задан
...
Рейтинг: 0 / 0
5 сообщений из 5, страница 1 из 1
Форумы / NoSQL, Big Data [игнор отключен] [закрыт для гостей] / Hadoop/Java. Не видим из метода файл в hdfs. Если смотреть в папке глазами - он есть.
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Найденые пользователи ...
Разблокировать пользователей ...
Читали тему (1): Анонимы (1)
Читали форум (1): Анонимы (1)
Пользователи онлайн (35): Анонимы (32), Bing Bot, Yandex Bot, Google Bot 4 мин.
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]