[HADOOP] 맵리 듀스 셔플에 대한 암호화 알고리즘을 변경하는 방법
HADOOP맵리 듀스 셔플에 대한 암호화 알고리즘을 변경하는 방법
하둡 셔플 기본적으로 DES 암호화를 사용하는 것처럼 우리의 테스트에서, 그것은 같습니다 ECDHE-RSA-DES-CBC3-SHA : (112), EDH-RSA-DES-CBC3-SHA : (112), DES-CBC3-SHA : 112.
어떻게 AES를 사용하도록 설정하는 방법?
설정이 올바른 사람이 있습니까? hadoop.security.crypto.cipher.suite = AES / CTR / NoPadding dfs.encrypt.data.transfer.cipher.suites = AES / CTR / NoPadding
해결법
-
==============================
1.AES 위해 당신은 ECDHE-RSA-AES128-SHA256 또는 ECDHE-RSA-AES256-SHA384을 사용할 수 있습니다.
AES 위해 당신은 ECDHE-RSA-AES128-SHA256 또는 ECDHE-RSA-AES256-SHA384을 사용할 수 있습니다.
지원되는 SSL을 참조 / TLS는 타원 곡선 임시 디피 헬만 (ECDHE-RSA) 키 교환과 섹션 RSA는 암호화 방식.
-
==============================
2.셔플을 위해 하둡은 org.apache.hadoop.mapred.ShuffleConsumerPlugin 속성을 사용하여 변경할 수있는 기본 알고리즘을 파일 org.apache.hadoop.mapreduce.task.reduce.Shuffle에서 내부 알고리즘의 사용
셔플을 위해 하둡은 org.apache.hadoop.mapred.ShuffleConsumerPlugin 속성을 사용하여 변경할 수있는 기본 알고리즘을 파일 org.apache.hadoop.mapreduce.task.reduce.Shuffle에서 내부 알고리즘의 사용
from https://stackoverflow.com/questions/37580694/how-to-change-encryption-algorithm-for-mapreduce-shuffle by cc-by-sa and MIT license
'HADOOP' 카테고리의 다른 글
[HADOOP] start-dfs.sh 네임 노드 시작 이름이나 0.0.0.0을 knownstname되지 서비스 (0) | 2019.10.17 |
---|---|
[HADOOP] 얻기 java.lang.IllegalArgumentException가 : 시작> 범위 (끝 시작)의 말 : 오류 아래지고, oozie를 사용 Sqoop을 작업을 실행하는 동안 (0) | 2019.10.17 |
[HADOOP] 1.6 DirectFileOutputCommitter 스파크 (0) | 2019.10.17 |
[HADOOP] MySQL과 HBase와 연결 (0) | 2019.10.17 |
[HADOOP] InputFormat 결정 (0) | 2019.10.17 |