[HADOOP] 하둡 HDFS 오류로 로컬 데이터를 복사
HADOOP하둡 HDFS 오류로 로컬 데이터를 복사
나는 최근 / 설치 하둡을 구성하고 curently 몇 가지 테스트를 실행하려고합니다. 내 문제는 HDFS 로컬 데이터를 복사 함께 :
나는 실행하려고 할 때
hdfs dfs -copyFromLocal /home/develop/test/ test
또는 유사한 명령은 내가 가진 전부입니다 :
copyFromLocal: `test': No such file or directory
내가 LS를 실행하면, 나는 같은 출력을 얻을 :
develop@ubuntu:~$ hdfs dfs -ls
ls: `.': No such file or directory
나는 또한 정확히 내가 무엇을 놓치고, HDFS DFS -mkdir하지만, 실패와 디렉토리 테스트를 만들려고?
해결법
-
==============================
1.HDFS 경로에 슬래시를 추가합니다.
HDFS 경로에 슬래시를 추가합니다.
예를 들어,
hdfs dfs -mkdir /test hdfs dfs -copyFromLocal /home/develop/test/ /test
-
==============================
2.당신은 HDFS에 로컬 파일 시스템에서 파일을 복사 할 경우, 먼저 로컬 파일 시스템에서 해당 파일이 필요합니다.
당신은 HDFS에 로컬 파일 시스템에서 파일을 복사 할 경우, 먼저 로컬 파일 시스템에서 해당 파일이 필요합니다.
/ 가정 / 아래 테스트라는 이름의 파일을 만들고 개발하고 명령에서이 파일의 경로를 제공합니다.
당신은 너무이 명령을 사용할 수 있습니다 :
hdfs dfs -put /home/develop/test test
-
==============================
3.신선한 Hadoop을 설치 한 후에는 HDFS에 / 사용자에서 사용자 디렉토리를 작성해야합니다.
신선한 Hadoop을 설치 한 후에는 HDFS에 / 사용자에서 사용자 디렉토리를 작성해야합니다.
이 오류를 얻고있다
develop@ubuntu:~$ hdfs dfs -ls ls: `.': No such file or directory
당신이 어떤 디렉토리 / 사용자가 없기 때문에 / HDFS에 개발할 수 있습니다.
당신은 다음 명령을 사용하여 사용자 디렉토리를 생성 할 수 있습니다 :
$> sudo su - hdfs -C "hadoop fs -mkdir /user/develop" $> sudo su - hdfs -C "hadoop fs -chown -R develop:hadoop /user/develop" $> sudo su - hdfs -C "hadoop fs -chmod -R 750 /user/develop"
당신은 여전히 테스트 디렉토리를 작성해야합니다하지만 당신은 당신에게 copyFromLocal 명령을 사용하는 경우는 테스트 디렉토리가 될 것입니다 위해 / / 절대 경로 .SO 당신의 사용자를 HDFS의 사용자 디렉토리를 테스트 디렉토리를 생성 / 테스트를 개발해야합니다.
from https://stackoverflow.com/questions/32738837/copy-local-data-to-hadoop-hdfs-error by cc-by-sa and MIT license
'HADOOP' 카테고리의 다른 글
[HADOOP] 하둡 - LeaseExpiredException (0) | 2019.09.28 |
---|---|
[HADOOP] 하둡 멀티 노드 클러스터에 start-dfs.sh을 시작할 수 없습니다 (0) | 2019.09.28 |
[HADOOP] Nutch SOLR의 dataimport 핸들러? (0) | 2019.09.28 |
[HADOOP] 실 작업에 스파크가 ExitCode를 실패했습니다 : 1 및 stderr은 "주 클래스를 찾을 수 없습니다"라는 (0) | 2019.09.28 |
[HADOOP] java.lang.UnsupportedOperationException가 : FileSystem.get 동안 DistributedFileSystem 파일 시스템 구현에 의해 구현되지 않음 () (0) | 2019.09.28 |