복붙노트

[HADOOP] Gradle을 함께 간단한 맵리 듀스 프로젝트를 건물 : 하둡 종속성이 매퍼 및 감속기가 없습니다

HADOOP

Gradle을 함께 간단한 맵리 듀스 프로젝트를 건물 : 하둡 종속성이 매퍼 및 감속기가 없습니다

나는 간단한 하둡 맵리 듀스 프로그램을 구축하기 위해 노력하고있어 나는 그 일을 위해 자바를 선택했다. 나는 주위의 예제 코드를 체크 아웃하고 자신을 구축하기 위해 노력했다. 나는 다음과 같은 Gradle을 스크립트를 생성하고 내가 설치된 종속에서 보았을 때, 아무도 매퍼 또는 감속기 없었다. 심지어 org.apache.hadoop.mapreduce 패키지로 제공된다.

group 'org.ardilgulez.demoprojects'
version '1.0-SNAPSHOT'

apply plugin: 'java'

repositories {
    mavenCentral()
}

dependencies {
    testCompile group: 'junit', name: 'junit', version: '4.11'
    compile group: 'org.apache.hadoop', name: 'hadoop-common', version:'2.7.3'
    compile group: 'org.apache.hadoop', name: 'hadoop-hdfs', version: '2.7.3'
    compile group: 'org.apache.hadoop', name: 'hadoop-yarn-common', version: '2.7.3'
    compile group: 'org.apache.hadoop', name: 'hadoop-minicluster', version: '2.7.3'
    compile group: 'org.apache.hadoop', name: 'hadoop-mapreduce-client-core', version:'2.7.3'
    compile group: 'org.apache.hadoop', name: 'hadoop-mapreduce-client-jobclient', version: '2.7.3'
    compile group: 'org.apache.hadoop', name: 'hadoop-mapreduce-client-app', version: '2.7.3'
    compile group: 'org.apache.hadoop', name: 'hadoop-mapreduce-client-shuffle', version: '2.7.3'
    compile group: 'org.apache.hadoop', name: 'hadoop-mapreduce-client-common', version: '2.7.3'
    compile group: 'org.apache.hadoop', name: 'hadoop-client', version: '2.7.3'
}

나는 그 10 하둡 종속성에서 최소 7을 필요로하지 않을거야 알지만, (나는이 (11)는 아니지만 어떻게 알고) org.apache.hadoop.mapreduce 패키지가 이러한 종속성을 알고하지 않습니다.

어떤 의존성 / 저장소 내가 실제로 맵리 듀스 작업을 구축 할 수 있도록 추가해야합니까?

그 원시 org.apache.hadoop 패키지가 아닌 공급 업체의 패키지 (예 : 클라우 데라 등)을 할 수 있습니까?

모든 도움에 미리 감사드립니다.

해결법

  1. ==============================

    1.이것은 올바른 의존해야한다 :

    이것은 올바른 의존해야한다 :

    'org.apache.hadoop을 : 하둡 - 맵리 듀스 클라이언트 - 코어 : 2.7.3'을 컴파일

    당신의 Gradle을 프로젝트를 갱신해야합니다.

  2. ==============================

    2.더하다

    더하다

    compile group: 'org.apache.hadoop', name:'hadoop-core', version: '2.7.3'
    
  3. from https://stackoverflow.com/questions/40310852/building-a-simple-mapreduce-project-with-gradle-hadoop-dependencies-dont-have by cc-by-sa and MIT license