[HADOOP] 하둡은 데이터를 처리하기위한 유일한 마스터 노드를 사용
HADOOP하둡은 데이터를 처리하기위한 유일한 마스터 노드를 사용
64 비트 - 나는 1 개 마스터 노드 (네임 노드와 보조 네임 노드와 데이터 노드)와 2 개 슬레이브 노드 머신 (데이터 노드) .ALL와 하둡 2.5 클러스터가 리눅스 CentOS는 7을 사용하여 설치를했습니다. 내 맵리 듀스 프로그램 (단어 수)를 실행하면, 나는 단지 그 마스터 노드 추가 CPU와 RAM을 사용하고 볼 수 있습니다. 슬레이브 노드는 일을하지 않습니다.
나는 네임 노드 모두에서 로그를 확인했습니다 및 슬레이브 노드에 아무 문제가 없다. 리소스 관리자가 실행되고 슬레이브 노드의 모든 리소스 관리자를 볼 수 있습니다. 데이타 노드는 분산 데이터 저장의 관점에서 작동하지만 분산 데이터 처리의 모든 표시를 볼 수 없다. 나는 내 맵리 듀스 작업을 실행하게되므로 기계의 모든 데이터를 처리 할 다른 방법으로 XML 구성 파일을 구성해야합니까?
감사합니다
해결법
-
==============================
1.당신이 Masternode 네트워킹 파일에 daanodes의 IP의 주소를 mentioaning되어 있는지 확인합니다. 또한 클러스터의 각 노드는 다른 컴퓨터의 IP 주소를 포함하도록되어있다. 그 검사 외에 그것은 위에 여부를 관련 데이타 노드 항목이 포함 된 경우 파일이 포함되어 있습니다.
당신이 Masternode 네트워킹 파일에 daanodes의 IP의 주소를 mentioaning되어 있는지 확인합니다. 또한 클러스터의 각 노드는 다른 컴퓨터의 IP 주소를 포함하도록되어있다. 그 검사 외에 그것은 위에 여부를 관련 데이타 노드 항목이 포함 된 경우 파일이 포함되어 있습니다.
from https://stackoverflow.com/questions/25945312/hadoop-use-only-master-node-for-processing-data by cc-by-sa and MIT license
'HADOOP' 카테고리의 다른 글
[HADOOP] 설정 및 분산 캐시에 접근 문제 (0) | 2019.10.14 |
---|---|
[HADOOP] 지수는 TEZ와 푸른 HDInsight에 하이브에 재 구축 실패 (0) | 2019.10.14 |
[HADOOP] 하둡 스트리밍 (NLTK) 같은 외부 파이썬 LIB 실행 (0) | 2019.10.14 |
[HADOOP] s3distcp에 대한 여러 소스 파일 (0) | 2019.10.14 |
[HADOOP] 하둡을 사용하여 jar 파일을 실행 - 파이썬 (0) | 2019.10.14 |