Гость
Форумы / NoSQL, Big Data [игнор отключен] [закрыт для гостей] / Hadoop/Java. Не видим из метода файл в hdfs. Если смотреть в папке глазами - он есть. / 5 сообщений из 5, страница 1 из 1
28.01.2022, 08:23
    #40130130
mod
mod
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Hadoop/Java. Не видим из метода файл в hdfs. Если смотреть в папке глазами - он есть.
Обращаемся по REST API к сервису. Сервис кладёт нам в папку hdfs файл и присылает полный путь с именем к нему. Всё OK. Нормально читаем. При этом, для следующего запроса, получаем новый путь к новому файлу и новый файл в папку, ровно как и в первый раз. Но при запуске метода мы новый файл не видим по данному пути. Ставили задержку в 10 минут до вызова метода. Не помогает. Сам файл в папке появляется. Смотрели в hdfs во время задержки - файл есть. При перезапуске приложения, если вручную путь подставить - файл виден и читается. Может сталкивались? Есть подозрения на кэширование какое-то. Как быть?

import org.apache.hadoop.fs.*;

private static String readLineFromFile(String path) {

Path inFile = new Path(path);
try {
FileSystem fs = FileSystem.get(conf);
// Hadoop DFS Path - Input file

// open and read from file
FSDataInputStream in = fs.open(inFile); // взрыв тут
InputStreamReader isReader = new InputStreamReader(in);
//Creating a BufferedReader object
BufferedReader reader = new BufferedReader(isReader);
String str = reader.readLine();
if (str.isEmpty())
{
throw new RuntimeException("Error read from file. Data is null.");
}
return str;

} catch (IOException e) {
throw new RuntimeException("Error read from file. Path to file: " + inFile.toUri().toString());
}

}
...
Рейтинг: 0 / 0
28.01.2022, 11:14
    #40130189
Дедушка
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Hadoop/Java. Не видим из метода файл в hdfs. Если смотреть в папке глазами - он есть.
mod
Но при запуске метода мы новый файл не видим по данному пути.
метод не видит файл или не может его читать?
вместо fs.open пробовали просто проверять существование файла?
...
Рейтинг: 0 / 0
28.01.2022, 11:46
    #40130212
mod
mod
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Hadoop/Java. Не видим из метода файл в hdfs. Если смотреть в папке глазами - он есть.
Дедушка,

файл точно есть. Успевает прийти. При повторном запуске читается. Сейчас проверяю чем отличается путь в респонсе во второй раз. Пока версия одна - респонсы на два разных реквеста.
...
Рейтинг: 0 / 0
28.01.2022, 15:45
    #40130354
mod
mod
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Hadoop/Java. Не видим из метода файл в hdfs. Если смотреть в папке глазами - он есть.
Заработало. Почему? Не понятно. В коде ничего не изменилось. Вероятно, кто-то где-то что-то подкрутил снаружи.
...
Рейтинг: 0 / 0
28.01.2022, 15:57
    #40130367
H5N1
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Hadoop/Java. Не видим из метода файл в hdfs. Если смотреть в папке глазами - он есть.
HADOOP_CONF_DIR небойсь меняется, потому что с разных машин запускаете. Где то default fs неверно задан
...
Рейтинг: 0 / 0
Форумы / NoSQL, Big Data [игнор отключен] [закрыт для гостей] / Hadoop/Java. Не видим из метода файл в hdfs. Если смотреть в папке глазами - он есть. / 5 сообщений из 5, страница 1 из 1
Целевая тема:
Создать новую тему:
Автор:
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]