[HADOOP] 잘못된 출력을 제공 색상에 oozie 워크 플로우를 사용하여 맵리 듀스 작업을 실행
HADOOP잘못된 출력을 제공 색상에 oozie 워크 플로우를 사용하여 맵리 듀스 작업을 실행
나는 색상에 oozie 워크 플로우를 사용하여 맵리 듀스 작업을 실행하기 위해 노력하고있어. 내가 작업을 제출하면, oozie는 성공적으로 실행하지만 예상 출력을하지 않습니다. 매퍼 또는 감속기 하나가 내 workflow.xml invoked.here하지 않을 것 같습니다 :
<workflow-app name="wordCount" xmlns="uri:oozie:workflow:0.4">
<start to="wordcount"/>
<action name="wordcount">
<map-reduce>
<job-tracker>${jobTracker}</job-tracker>
<name-node>${nameNode}</name-node>
<configuration>
<property>
<name>mapred.input.dir</name>
<value>/user/root/jane/inputPath</value>
</property>
<property>
<name>mapred.output.dir</name>
<value>/user/root/jane/outputPath17</value>
</property>
<property>
<name>mapred.mapper.class</name>
<value>MapReduceGenerateReports.Map</value>
</property>
<property>
<name>mapred.reducer.class</name>
<value>MapReduceGenerateReports.Reduce</value>
</property>
<property>
<name>mapred.mapper.new-api</name>
<value>true</value>
</property>
<property>
<name>mapred.reducer.new-api</name>
<value>true</value>
</property>
</configuration>
</map-reduce>
<ok to="end"/>
<error to="kill"/>
</action>
<kill name="kill">
<message>Action failed, error message[${wf:errorMessage(wf:lastErrorNode())}]</message>
</kill>
<end name="end"/>
</workflow-app>
사람이 문제가 무엇을 말해 주시겠습니까?
나의 새로운 workflow.xml :
<workflow-app name="wordCount" xmlns="uri:oozie:workflow:0.4">
<start to="wordcount"/>
<action name="wordcount">
<map-reduce>
<job-tracker>${jobTracker}</job-tracker>
<name-node>${nameNode}</name-node>
<configuration>
<property>
<name>mapred.input.dir</name>
<value>/user/root/jane/inputPath</value>
</property>
<property>
<name>mapred.output.dir</name>
<value>/user/root/jane/outputPath3</value>
</property>
<property>
<name>mapred.mapper.new-api</name>
<value>true</value>
</property>
<property>
<name>mapred.reducer.new-api</name>
<value>true</value>
</property>
<property>
<name>mapreduce.map.class</name>
<value>MapReduceGenerateReports$Map</value>
</property>
<property>
<name>mapreduce.reduce.class</name>
<value>MapReduceGenerateReports$Reduce</value>
</property>
<property>
<name> mapred.output.key.class</name>
<value>org.apache.hadoop.io.LongWritable</value>
</property>
<property>
<name>mapred.output.value.class</name>
<value>org.apache.hadoop.io.Text</value>
</property>
</configuration>
</map-reduce>
<ok to="end"/>
<error to="kill"/>
</action>
<kill name="kill">
<message>Action failed, error message[${wf:errorMessage(wf:lastErrorNode())}]</message>
</kill>
<end name="end"/>
</workflow-app>
JobTracker에 로그 :
1)
Kind % Complete Num Tasks Pending Running Complete Killed Failed/Killed
Task Attempts
map 100.00%
1 0 0 1 0 0 / 0
reduce 100.00%
0 0 0 0 0 0 / 0
2)
Kind Total Tasks(successful+failed+killed) Successful tasks Failed tasks Killed tasks Start Time Finish Time
Setup 1 1 0 0 5-Apr-2014 18:36:22 5-Apr-2014 18:36:23 (1sec)
Map 1 1 0 0 5-Apr-2014 18:33:27 5-Apr-2014 18:33:33 (5sec)
Reduce 0 0 0 0
Cleanup 1 1 0 0 5-Apr-2014 18:33:33 5-Apr-2014 18:33:37 (4sec)
해결법
-
==============================
1.여기에 새로운 API를 사용하기위한 지침을 확인
여기에 새로운 API를 사용하기위한 지침을 확인
from https://stackoverflow.com/questions/22863419/executing-mapreduce-job-using-oozie-workflow-in-hue-giving-wrong-output by cc-by-sa and MIT license
'HADOOP' 카테고리의 다른 글
[HADOOP] HBase를 클러스터 : org.apache.hadoop.security.JniBasedUnixGroupsMapping.anchorNative () V (0) | 2019.10.13 |
---|---|
[HADOOP] HDInsight 하이브는 ADD의 JAR 문에 SerDe 항아리를 발견하지 (0) | 2019.10.13 |
[HADOOP] 오라클에 Sqoop을하여 시퀀스 파일 내보내기 (0) | 2019.10.13 |
[HADOOP] 돼지 0.7.0 ERROR 2118 : 입력을 만들 수 없습니다 하둡 1.2.1에 분할 (0) | 2019.10.13 |
[HADOOP] HDFS - 블록 크기 관련 (0) | 2019.10.13 |