[HADOOP] 하둡 미니 클러스터 모의 (MiniDFSCluster)
HADOOP하둡 미니 클러스터 모의 (MiniDFSCluster)
나는 하둡 - minicluster에 대한 여러분의 도움이 필요합니다
난 (SBT)와 스칼라 함께 일하고 있어요 나는 HDFS의 모의 통화를 시도합니다. 나는 거기에 약간의 클러스터 및 테스트를 배포하는 하둡 - minicluster 뿌리다.
그러나, 나는이 SBT 종속성을 추가 할 때 :
libraryDependencies + = "org.apache.hadoop"% "하둡 minicluster"% "3.1.0"% 테스트
소스는 추가되지 않습니다 나는 패키지를 가져올 수 없습니다 org.apache.hadoop.hdfs.MiniDFSCluster
내가 문제를 해결할 수있는 방법을 알고 계십니까?
당신의 답변에 감사드립니다
해결법
-
==============================
1.놀랍게도, 하둡 - minicluster에서이 아니다. 시험 libraryDependencies + = "org.apache.hadoop"% "하둡 HDFS"%의 HADOOP_VERSION 분류 "테스트"
놀랍게도, 하둡 - minicluster에서이 아니다. 시험 libraryDependencies + = "org.apache.hadoop"% "하둡 HDFS"%의 HADOOP_VERSION 분류 "테스트"
당신은 또한 다음과 같은 몇 가지 구성 요소를 제외 할 수 있습니다 "org.apache.hadoop"% "하둡 HDFS"%의 HADOOP_VERSION 분류 "테스트"( "서블릿 API"를 "에서 javax.servlet")를 제외
-
==============================
2.대답 해 주셔서 감사합니다.
대답 해 주셔서 감사합니다.
그래서 테스트 파일과, 내 SBT 파일에서이 줄을 사용 (DistributedFileSystem로 예를 들면) 소스 파일을 얻을 수 있습니다 :
libraryDependencies + = "org.apache.hadoop"% "하둡 HDFS"% "3.1.0"% 시험 분류 "테스트" libraryDependencies + = "org.apache.hadoop"% "하둡 공통"% "3.1.0"% 시험 분류 "테스트"
하둡 - 일반은 컴파일 할 필요했다.
내 테스트를 실행할 때, 나는 다른 문제가 있습니다 :
An exception or error caused a run to abort: org.apache.hadoop.io.nativeio.NativeIO$Windows.access0(Ljava/lang/String;I)Z
에서 java.lang.UnsatisfiedLinkError : org.apache.hadoop.io.nativeio.NativeIO $ Windows.access0 (Ljava / 랭 / 문자열; I) Z
나는 그것이 경로에 HADOOP_HOME에 관하여 것을 뿌리,하지만 난 그것을했지만 아무 반응이 없습니다 ..
from https://stackoverflow.com/questions/49895193/hadoop-mini-cluster-mock-minidfscluster by cc-by-sa and MIT license
'HADOOP' 카테고리의 다른 글
[HADOOP] 하둡에 명령 줄에서 텍스트를 작성 (0) | 2019.10.04 |
---|---|
[HADOOP] subprocess.Popen를 사용하여 하둡 distcp (0) | 2019.10.04 |
[HADOOP] 윈도우 10 하둡 설치를 누락 (0) | 2019.10.04 |
[HADOOP] JobEnd 리스너 비는 HDFS 경로에서 소스 파일을 이동 촉발하는 파일을 찾을 수 없습니다 예외가 발생합니다 (0) | 2019.10.03 |
[HADOOP] 제안은 우리의 발견 클러스터에서 원사 용기의 사용을 증가 필요 (0) | 2019.10.03 |