[HADOOP] 어떻게 하둡 2.2 oozie에서 맵리 듀스 프로그램을 실행
HADOOP어떻게 하둡 2.2 oozie에서 맵리 듀스 프로그램을 실행
2.2.0와 우분투에서 oozie-4.0.0. 나는 oozie에 맵리 듀스 프로그램을 실행할 못할 수 있어요.
내가 oozie에 JobTracker에 8032에 대한 리소스 관리자 포트 번호를 사용하고 있습니다.
oozie에서 예약하는 중에 또한 내가 oozie 로그에 실행 여전히 하둡 로그 (아래)이 같은 오류를 받고 있어요 잠시 후 상태를 실행하고 실에서 실행에 간다
오류:
2014-05-30 10:38:14,322 INFO [RMCommunicator Allocator] org.apache.hadoop.mapreduce.v2.app.rm.RMContainerRequestor: getResources() for application_1401425739447_0003: ask=3 release= 0 newContainers=0 finishedContainers=0 resourcelimit=<memory:1024, vCores:-1> knownNMs=1
2014-05-30 10:38:17,296 INFO [Socket Reader #1 for port 47412] SecurityLogger.org.apache.hadoop.ipc.Server: Auth successful for job_1401425739447_0003 (auth:SIMPLE)
2014-05-30 10:38:17,316 INFO [IPC Server handler 0 on 47412] org.apache.hadoop.mapred.TaskAttemptListenerImpl: JVM with ID : jvm_1401425739447_0003_m_000002 asked for a task
2014-05-30 10:38:17,316 INFO [IPC Server handler 0 on 47412] org.apache.hadoop.mapred.TaskAttemptListenerImpl: JVM with ID: jvm_1401425739447_0003_m_000002 given task: attempt_1401425739447_0003_m_000000_0
2014-05-30 10:38:22,524 INFO [IPC Server handler 1 on 47412] org.apache.hadoop.mapred.TaskAttemptListenerImpl: Ping from attempt_1401425739447_0003_m_000000_0
2014-05-30 10:38:25,996 INFO [IPC Server handler 2 on 47412] org.apache.hadoop.mapred.TaskAttemptListenerImpl: Status update from attempt_1401425739447_0003_m_000000_0
2014-05-30 10:38:26,003 INFO [IPC Server handler 2 on 47412] org.apache.hadoop.mapred.TaskAttemptListenerImpl: Progress of TaskAttempt attempt_1401425739447_0003_m_000000_0 is : 1.0
2014-05-30 10:38:29,066 INFO [IPC Server handler 3 on 47412] org.apache.hadoop.mapred.TaskAttemptListenerImpl: Ping from attempt_1401425739447_0003_m_000000_0
2014-05-30 10:38:32,071 INFO [IPC Server handler 4 on 47412] org.apache.hadoop.mapred.TaskAttemptListenerImpl: Ping from attempt_1401425739447_0003_m_000000_0
2014-05-30 10:38:35,075 INFO [IPC Server handler 5 on 47412] org.apache.hadoop.mapred.TaskAttemptListenerImpl: Ping from attempt_1401425739447_0003_m_000000_0
2014-05-30 10:38:38,079 INFO [IPC Server handler 6 on 47412] org.apache.hadoop.mapred.TaskAttemptListenerImpl: Ping from attempt_1401425739447_0003_m_000000_0
this error continues...
난 자바 예제를 실행 할 수 oozie에 맵리 듀스 프로그램 (oozie 포기) 할 수 있습니다.
나는 돼지, 하이브, Sqoop을 또는 내 자신의 자바 맵리 듀스 프로그램 나는이 오는 이유를 잘 모릅니다 위의 오류를 얻고을 실행하려고합니다. 난 이미 oozie 내 하둡 구성 경로를 제공하고 난 내 jobhistory 서버를 시작했다.
도와주세요, 제발...
해결법
-
==============================
1.NodeManager 및 리소스 관리자가 동일한 시스템에서 실행. 그래서 나는이 오류를 얻고있다. 나는 두 번째 시스템에 노드 매니저를 시작하고 내 문제가 해결된다.
NodeManager 및 리소스 관리자가 동일한 시스템에서 실행. 그래서 나는이 오류를 얻고있다. 나는 두 번째 시스템에 노드 매니저를 시작하고 내 문제가 해결된다.
from https://stackoverflow.com/questions/23948319/how-execute-a-mapreduce-programs-in-oozie-with-hadoop-2-2 by cc-by-sa and MIT license
'HADOOP' 카테고리의 다른 글
[HADOOP] 때 java.io.IOException : 아니 유효한 BCFile (0) | 2019.10.13 |
---|---|
[HADOOP] 다른 클래스는 잘 작동 할 때 하나 개의 클래스에 대한 인터페이스 org.apache.hadoop.mapreduce.jobcontext하지만 클래스 예상 발견 한 오류 (0) | 2019.10.13 |
[HADOOP] 하둡에서 아 브로 형식의 데이터를 읽기 / 맵리 듀스 (0) | 2019.10.13 |
[HADOOP] 하둡 : 작은 파일 CombineFileInputFormat을 사용 하는가는 성능 향상을 제공합니다? (0) | 2019.10.13 |
[HADOOP] 프로그래밍 텍스트 파일의 내용은 HDFS 사용하여 Java에 저장 읽어 들이기 (0) | 2019.10.13 |