[HADOOP] Hadoop 3 : 삭제 코딩을 구성 / 활성화하는 방법은 무엇입니까?
HADOOPHadoop 3 : 삭제 코딩을 구성 / 활성화하는 방법은 무엇입니까?
Hadoop 3 클러스터를 설정하려고합니다.
이 레이저 코딩 기능에 대한 두 가지 질문 :
Hadoop 2 (복제 요소 3)와 동일한 데이터 보안을 확보하기 위해 Hadoop 3 소거 코딩의 디스크 공간 이점 (200 % 대신 50 % 오버 헤드 만)을 얻기 위해 삭제 코딩 / 복제와 관련된 관련 구성 특성을 표시하십시오. .
해결법
-
==============================
1.Hadoop3에서는 HDFS의 모든 폴더에 대해 삭제 코딩 정책을 사용할 수 있습니다. Hadoop3에서는 기본적으로 삭제 코딩이 활성화되어 있지 않으므로 원하는 폴더 경로를 지정하여 setPolicy 명령을 사용하여 삭제할 수 있습니다.
Hadoop3에서는 HDFS의 모든 폴더에 대해 삭제 코딩 정책을 사용할 수 있습니다. Hadoop3에서는 기본적으로 삭제 코딩이 활성화되어 있지 않으므로 원하는 폴더 경로를 지정하여 setPolicy 명령을 사용하여 삭제할 수 있습니다.
1 : 삭제 코딩이 사용되도록하기 위해 getPolicy 명령을 실행할 수 있습니다.
2 : Hadoop3에서 복제 팩터 설정은 삭제 코드 setPolicy로 구성되지 않은 다른 폴더에만 영향을줍니다. 단일 클러스터에서이 레이저 코딩 및 복제 팩터 설정을 모두 사용할 수 있습니다.
지원되는 삭제 정책을 나열하는 명령 :
./bin/hdfs ec -listPolicies
XOR-2-1-1024k 삭제 정책을 활성화하는 명령 :
./bin/hdfs ec -enablePolicy -policy XOR-2-1-1024k
삭제 정책을 HDFS 디렉토리로 설정하는 명령 :
./bin/hdfs ec -setPolicy -path / tmp -policy XOR-2-1-1024k
주어진 디렉토리로 정책을 설정하는 명령 :
./bin/hdfs ec -getPolicy-경로 / tmp
디렉토리에서 정책을 제거하는 명령.
./bin/hdfs ec -unsetPolicy-경로 / tmp
정책을 비활성화하는 명령 :
./bin/hdfs ec -disablePolicy -policy XOR-2-1-1024k
from https://stackoverflow.com/questions/51475712/hadoop-3-how-to-configure-enable-erasure-coding by cc-by-sa and MIT license
'HADOOP' 카테고리의 다른 글
[HADOOP] MapRe에서 조회를 위해 XML 파일을 읽도록 허용하는 방법 (0) | 2019.09.15 |
---|---|
[HADOOP] cron에 의해 호출 될 때 하둡 작업이 실패 함 (0) | 2019.09.15 |
[HADOOP] Dataframe.toPandas는 항상 드라이버 노드 또는 작업자 노드에 있습니까? (0) | 2019.09.15 |
[HADOOP] hadoop-streaming.jar는 각 줄의 끝에 x'09 '를 추가합니다 (0) | 2019.09.15 |
[HADOOP] 기본 키로 하이브 테이블을 만들 수 없습니다 (0) | 2019.09.15 |