[HADOOP] hadoop.tmp.dir은 무엇이되어야합니까?
HADOOPhadoop.tmp.dir은 무엇이되어야합니까?
Hadoop은 hadoop.tmp.dir이라는 구성 매개 변수를 가지고 있는데, 설명서마다 "다른 임시 디렉토리의 기본"입니다. 나는이 경로가 로컬 파일 시스템을 참조합니다.
이 값을 /mnt/hadoop-tmp/hadoop-${user.name}으로 설정했습니다. namenode를 포맷하고 모든 서비스를 시작한 후에는 HDFS에서 생성 된 경로와 정확히 일치합니다.
이것은, hadoop.tmp.dir은 HDFS의 임시 위치를 의미합니까?
해결법
-
==============================
1.혼란 스럽지만 hadoop.tmp.dir은 로컬 디렉토리와 HDFS의 기본 디렉토리로 사용됩니다. 이 문서는 훌륭하지 않지만 mapred.system.dir은 기본적으로 "$ {hadoop.tmp.dir} / mapred / system"으로 설정되어 있으며 Map / Reduce 프레임 워크가 시스템을 저장하는 HDFS의 경로를 정의합니다 파일.
혼란 스럽지만 hadoop.tmp.dir은 로컬 디렉토리와 HDFS의 기본 디렉토리로 사용됩니다. 이 문서는 훌륭하지 않지만 mapred.system.dir은 기본적으로 "$ {hadoop.tmp.dir} / mapred / system"으로 설정되어 있으며 Map / Reduce 프레임 워크가 시스템을 저장하는 HDFS의 경로를 정의합니다 파일.
이들을 함께 묶지 않으려면 mapred.system.dir의 정의가 $ {hadoop.tmp.dir}에 묶이지 않은 mapred-site.xml을 편집하면됩니다.
-
==============================
2.kkrugler의 대답에 조금 더 추가하겠습니다.
kkrugler의 대답에 조금 더 추가하겠습니다.
값에 hadoop.tmp.dir을 포함하는 세 개의 HDFS 속성이 있습니다.
이것이 namenode를 포맷 한 후에 HDFS에서 /mnt/hadoop-tmp/hadoop-${user.name}을 본 이유입니다.
-
==============================
3.이것에 대한 정보를 둘러보십시오. 내가 생각할 수있는 것은 Amazon Elastic MapReduce Dev Guide의이 게시물뿐이었습니다.
이것에 대한 정보를 둘러보십시오. 내가 생각할 수있는 것은 Amazon Elastic MapReduce Dev Guide의이 게시물뿐이었습니다.
from https://stackoverflow.com/questions/2354525/what-should-be-hadoop-tmp-dir by cc-by-sa and MIT license
'HADOOP' 카테고리의 다른 글
[HADOOP] Hadoop JobConf 클래스는 더 이상 사용되지 않으며 업데이트 된 예제가 필요합니다. (0) | 2019.06.13 |
---|---|
[HADOOP] JDBC를 사용하여 Java에서 Hive로 연결 (0) | 2019.06.13 |
[HADOOP] Hadoop 2.2.0 : "이름 또는 서비스를 알 수 없음"경고 (0) | 2019.06.13 |
[HADOOP] MapReduce 또는 Spark? [닫은] (0) | 2019.06.13 |
[HADOOP] Spark에서 CSV에 쓰는 방법 (0) | 2019.06.13 |