복붙노트

[HADOOP] 어떻게 하둡 2.2 oozie에서 맵리 듀스 프로그램을 실행

HADOOP

어떻게 하둡 2.2 oozie에서 맵리 듀스 프로그램을 실행

2.2.0와 우분투에서 oozie-4.0.0. 나는 oozie에 맵리 듀스 프로그램을 실행할 못할 수 있어요.

내가 oozie에 JobTracker에 8032에 대한 리소스 관리자 포트 번호를 사용하고 있습니다.

oozie에서 예약하는 중에 또한 내가 oozie 로그에 실행 여전히 하둡 로그 (아래)이 같은 오류를 받고 있어요 잠시 후 상태를 실행하고 실에서 실행에 간다

오류:

2014-05-30 10:38:14,322 INFO [RMCommunicator Allocator] org.apache.hadoop.mapreduce.v2.app.rm.RMContainerRequestor: getResources() for application_1401425739447_0003: ask=3 release= 0 newContainers=0 finishedContainers=0 resourcelimit=<memory:1024, vCores:-1> knownNMs=1
2014-05-30 10:38:17,296 INFO [Socket Reader #1 for port 47412] SecurityLogger.org.apache.hadoop.ipc.Server: Auth successful for job_1401425739447_0003 (auth:SIMPLE)
2014-05-30 10:38:17,316 INFO [IPC Server handler 0 on 47412] org.apache.hadoop.mapred.TaskAttemptListenerImpl: JVM with ID : jvm_1401425739447_0003_m_000002 asked for a task
2014-05-30 10:38:17,316 INFO [IPC Server handler 0 on 47412] org.apache.hadoop.mapred.TaskAttemptListenerImpl: JVM with ID: jvm_1401425739447_0003_m_000002 given task: attempt_1401425739447_0003_m_000000_0
2014-05-30 10:38:22,524 INFO [IPC Server handler 1 on 47412] org.apache.hadoop.mapred.TaskAttemptListenerImpl: Ping from attempt_1401425739447_0003_m_000000_0
2014-05-30 10:38:25,996 INFO [IPC Server handler 2 on 47412] org.apache.hadoop.mapred.TaskAttemptListenerImpl: Status update from attempt_1401425739447_0003_m_000000_0
2014-05-30 10:38:26,003 INFO [IPC Server handler 2 on 47412] org.apache.hadoop.mapred.TaskAttemptListenerImpl: Progress of TaskAttempt attempt_1401425739447_0003_m_000000_0 is : 1.0
2014-05-30 10:38:29,066 INFO [IPC Server handler 3 on 47412] org.apache.hadoop.mapred.TaskAttemptListenerImpl: Ping from attempt_1401425739447_0003_m_000000_0
2014-05-30 10:38:32,071 INFO [IPC Server handler 4 on 47412] org.apache.hadoop.mapred.TaskAttemptListenerImpl: Ping from attempt_1401425739447_0003_m_000000_0
2014-05-30 10:38:35,075 INFO [IPC Server handler 5 on 47412] org.apache.hadoop.mapred.TaskAttemptListenerImpl: Ping from attempt_1401425739447_0003_m_000000_0
2014-05-30 10:38:38,079 INFO [IPC Server handler 6 on 47412] org.apache.hadoop.mapred.TaskAttemptListenerImpl: Ping from attempt_1401425739447_0003_m_000000_0
this error continues...

난 자바 예제를 실행 할 수 oozie에 맵리 듀스 프로그램 (oozie 포기) 할 수 있습니다.

나는 돼지, 하이브, Sqoop을 또는 내 자신의 자바 맵리 듀스 프로그램 나는이 오는 이유를 잘 모릅니다 위의 오류를 얻고을 실행하려고합니다. 난 이미 oozie 내 하둡 구성 경로를 제공하고 난 내 jobhistory 서버를 시작했다.

도와주세요, 제발...

해결법

  1. ==============================

    1.NodeManager 및 리소스 관리자가 동일한 시스템에서 실행. 그래서 나는이 오류를 얻고있다. 나는 두 번째 시스템에 노드 매니저를 시작하고 내 문제가 해결된다.

    NodeManager 및 리소스 관리자가 동일한 시스템에서 실행. 그래서 나는이 오류를 얻고있다. 나는 두 번째 시스템에 노드 매니저를 시작하고 내 문제가 해결된다.

  2. from https://stackoverflow.com/questions/23948319/how-execute-a-mapreduce-programs-in-oozie-with-hadoop-2-2 by cc-by-sa and MIT license