[HADOOP] HDFS 나는 가용성을 높이기 위해 파일 당 복제 요소를 지정할 수 있습니다
HADOOPHDFS 나는 가용성을 높이기 위해 파일 당 복제 요소를 지정할 수 있습니다
내 질문이 너무 순진 경우 나는, 정말 미안 HDFS에서 초보자입니다.
우리는 하둡 클러스터에 파일을 저장하자. 일부 파일은 정말 인기가 있고, 다른 것보다 자주 요청 될 것이다 (그러나 너무 자주 메모리에 넣어). 그것은 가치가 그 파일의 많은 복사본 (복제본)을 유지합니다.
나는 HDFS에서 그것을 구현하거나이 작업을 해결하기 위해 어떤 모범 사례가 수 있습니까?
해결법
-
==============================
1.예, 당신은 개별적으로 전체 클러스터 / 디렉토리 / 파일에 대한 그것을 할 수 있습니다.
예, 당신은 개별적으로 전체 클러스터 / 디렉토리 / 파일에 대한 그것을 할 수 있습니다.
당신은 하둡 FS 쉘을 사용하여 파일 단위로 (3 말할 수) 복제 계수를 변경할 수 있습니다.
[sys@localhost ~]$ hadoop fs –setrep –w 3 /my/file
다른 방법으로, 복제 계수를 변경할 수있는 디렉토리에있는 모든 파일 (3 말할 수 있습니다).
[sys@localhost ~]$ hadoop fs –setrep –w 3 -R /my/dir
1 전체 HDFS의 복제를 변경하려면 :
[sys@localhost ~]$ hadoop fs -setrep -w 1 -R /
그러나 복제 요인은 dfs.replication.max 및 dfs.replication.min 값 사이에 거짓말을한다.
from https://stackoverflow.com/questions/37111653/hdfs-can-i-specify-replication-factor-per-file-to-increase-avaliability by cc-by-sa and MIT license
'HADOOP' 카테고리의 다른 글
[HADOOP] 파일 코디네이터 oozie 설정에 존재하지 않는 경우 오류를 해결하는 방법 (0) | 2019.10.18 |
---|---|
[HADOOP] 맵리 듀스 하둡에 대한 PDF 입력 형식 (0) | 2019.10.18 |
[HADOOP] bash는 파일에 매핑 할 수있는 몇 가지 일반적인 HDFS 명령은 무엇입니까? (0) | 2019.10.18 |
[HADOOP] 어떻게 하이브 버킷에 작품을 해싱? (0) | 2019.10.18 |
[HADOOP] PHP 스크립트를 실행하면 브라우저에서 쉘을 통해 하둡 명령을 실행합니다 (0) | 2019.10.18 |