복붙노트

[HADOOP] hadoop과 java 명령을 사용하여 map-reduce 작업을 실행하는 것의 차이점

HADOOP

hadoop과 java 명령을 사용하여 map-reduce 작업을 실행하는 것의 차이점

map-reduce 프로그램을 실행하기위한 많은 옵션을 찾으십시오. 어느 누구도 아래 명령들 사이의 차이점을 설명 할 수 있습니까? 그리고 있다면 Map-reduce 작업에 어떤 영향을 미칩니 까?

     java -jar MyMapReduce.jar [args] 

     hadoop jar MyMapReduce.jar [args] 

     yarn jar MyMapReduce.jar [args] 

어떤 명령이 가장 좋았습니까?

아래 명령에서 웹 서비스 8088 (YARN) 용 포트를 사용하여 웹 서비스 정상적으로 Yarn 및 Job History (Hadoop 및 yarn 명령 표시와 같은)를 사용하여 작업에 대한 모든 정보를 표시하는 것과 같은 구성을 만들 수 있습니까?

     java -jar MyMapReduce.jar [args] 

해결법

  1. ==============================

    1.그들 중 누구도 다른 것보다 낫지 않습니다. java -jar 명령을 실행하면 비 -Hadoop 응용 프로그램을 실행하는 것과 동일합니다. hadoop jar 또는 yarn jar를 사용하는 경우 / usr / bin / hadoop 및 / usr / bin / yarn 스크립트를 사용하여 환경을 설정합니다.

    그들 중 누구도 다른 것보다 낫지 않습니다. java -jar 명령을 실행하면 비 -Hadoop 응용 프로그램을 실행하는 것과 동일합니다. hadoop jar 또는 yarn jar를 사용하는 경우 / usr / bin / hadoop 및 / usr / bin / yarn 스크립트를 사용하여 환경을 설정합니다.

    추가 변수를 설정하기 위해 스크립트를 수정하지 않았다면 그 중 3 개는 동일하게 작동해야합니다.

  2. ==============================

    2.옵션에는 자체 사양이 있습니다.

    옵션에는 자체 사양이 있습니다.

       java -jar MyMapReduce.jar [args] 
    

    위의 내용은 모든 hadoop jar가 jar 클래스 경로에 정의되어 있다고 예상합니다.

    의 경우

       hadoop jar MyMapReduce.jar [args]  and 
       yarn jar MyMapReduce.jar [args] 
    

    위의 jar는 $ HADOOP_CLASSPATH에 미리 정의 된 jar를 가져 와서 실행합니다.

  3. from https://stackoverflow.com/questions/25180142/what-difference-between-execute-a-map-reduce-job-using-hadoop-and-java-command by cc-by-sa and MIT license