[HADOOP] JobControl를 사용하여 하둡 작업 시간을 측정
HADOOPJobControl를 사용하여 하둡 작업 시간을 측정
나는 다음 내 하둡 작업을 실행하는 데 사용
long start = new Date().getTime();
boolean status = job.waitForCompletion(true);
long end = new Date().getTime();
이 방법은 내가 내 코드에서 직접 끝나면 작업 걸리는 시간을 측정 할 수있다.
지금 나는 내 작업 간 종속성을 표현하기 위해 JobControl를 사용해야합니다 :
JobControl jobControl = new JobControl("MyJob");
jobControl.addJob(job1);
jobControl.addJob(job2);
job3.addDependingJob(job2);
jobControl.addJob(job3);
jobControl.run();
jobControl.run ()가 실행 된 그러나 일단 코드는 그래서 작업의 완료에 대한 jobControl.getState ()을 폴링하는 코드를 포함 할 수 없습니다 더 나아가 없다.
어떻게 JobControl를 사용하여 작업 걸리는 시간을 측정 할 수 있습니까?
해결법
-
==============================
1.JobControl는 후크와이 정보를 얻을 수 있도록 더 좋은 기능이 없습니다. 당신이 시도하는 일부 (잠재적으로 고통스러운) 옵션이 있습니다 :
JobControl는 후크와이 정보를 얻을 수 있도록 더 좋은 기능이 없습니다. 당신이 시도하는 일부 (잠재적으로 고통스러운) 옵션이 있습니다 :
from https://stackoverflow.com/questions/10119460/measure-hadoop-job-time-using-jobcontrol by cc-by-sa and MIT license
'HADOOP' 카테고리의 다른 글
[HADOOP] HIVE는 셸을 사용하여 문자열을 구문 분석 (0) | 2019.09.30 |
---|---|
[HADOOP] 나는 매개 변수로 하이브 서버 작업에서 동적 날짜를 전달할 수있는 방법 (0) | 2019.09.30 |
[HADOOP] 실행에 표시 지속적인 로그 스토리지 기반 하둡 클러스터, 8042 / 로그 / userlogs / 종료에 사라 (0) | 2019.09.30 |
[HADOOP] 하둡 + 쓰기 가능한 인터페이스 + readFields의 감속기는 예외를 발생 (0) | 2019.09.30 |
[HADOOP] 기본 SerDE와 하이브 테이블 데이터로드 (0) | 2019.09.30 |