복붙노트

[HADOOP] oozie의 하이브 작업 대기열

HADOOP

oozie의 하이브 작업 대기열

나는 오크 워크 플로우가있다. 나는 모든 하이브 행동을

<name>mapred.job.queue.name</name>
<value>${queueName}</value>

그러나 몇 가지 하이브 작업의 경우 시작된 작업이 지정된 대기열에 없습니다. 디폴트 큐로 불려갑니다.

제게이 행동과 해결책의 원인을 제안 해주십시오.

해결법

  1. ==============================

    1.A. Oozie 특징 Oozie는 "일반"Hadoop 속성을 "일반"MapReduce 작업에 전파합니다.

    A. Oozie 특징 Oozie는 "일반"Hadoop 속성을 "일반"MapReduce 작업에 전파합니다.

    그러나 Oozie가 YARN에서 단일 매퍼 작업을 실행하는 다른 유형의 작업 (Shell, Hive, Java 등)의 경우 실제 MapReduce 작업이라고 간주하지 않습니다. 그러므로 그것은 항상 oozie.launcher라는 접두사가 붙은 문서화되지 않은 속성들의 다른 집합을 사용합니다. 예를 들어 그 게시물을보십시오.

    따라서 귀하의 경우 실제로 설정할 속성은 oozie.launcher.mapred.job.queue.name입니다.

    B. TEZ 특성 HortonWorks 문서에서 발췌 :

    <property>  <name>tez.queue.name</name> <value>engineering</value> </property>
    
  2. from https://stackoverflow.com/questions/32438052/job-queue-for-hive-action-in-oozie by cc-by-sa and MIT license