[HADOOP] MovieLens 데이터를 HDFS에서 데이터를로드 할 때 데이터 저장소를 만들지 못했습니다으로 오류가
HADOOPMovieLens 데이터를 HDFS에서 데이터를로드 할 때 데이터 저장소를 만들지 못했습니다으로 오류가
나는 돼지에 HDFS에서 데이터를로드하려고하지만 데이터 저장소를 만들 수 없습니다 나는 오류를 얻고있다. 내가 실행 명령했다 :
movies = LOAD 'hdfs://localhost:9000/Movie_Lens/ratings' USING PigStorage(':') AS (user_id, dummy1, movie_id, dummy2, movie_rating, dummy3, timestamp);
나는 HDFS와 돼지 관련이없는있어 스택 오버 플로우에서 언급 한 문제가 있지만, 링크, 그들이 HDFS 및 HBase와 또는 돼지와 HBase와 관련된를 찾기 위해 노력했다.
로그 파일의 세부 사항은 아래에 언급되어있다.
어딘가에 로그 파일에 나는이 말했습니다 : org.apache.hadoop.ipc.RemoteException :에 의한 서버 IPC 버전 9 클라이언트 버전 4와 통신 할 수 없습니다
ERROR 1200 : 데이터 저장을 만들지 못했습니다
Failed to parse: Failed to create DataStorage
at org.apache.pig.parser.QueryParserDriver.parse(QueryParserDriver.java:201)
at org.apache.pig.PigServer$Graph.validateQuery(PigServer.java:1707)
at org.apache.pig.PigServer$Graph.registerQuery(PigServer.java:1680)
at org.apache.pig.PigServer.registerQuery(PigServer.java:623)
at org.apache.pig.tools.grunt.GruntParser.processPig(GruntParser.java:1082)
at org.apache.pig.tools.pigscript.parser.PigScriptParser.parse(PigScriptParser.java:505)
at org.apache.pig.tools.grunt.GruntParser.parseStopOnError(GruntParser.java:230)
at org.apache.pig.tools.grunt.GruntParser.parseStopOnError(GruntParser.java:205)
at org.apache.pig.tools.grunt.Grunt.run(Grunt.java:66)
at org.apache.pig.Main.run(Main.java:565)
at org.apache.pig.Main.main(Main.java:177)
Caused by: java.lang.RuntimeException: Failed to create DataStorage
at org.apache.pig.backend.hadoop.datastorage.HDataStorage.init(HDataStorage.java:75)
at org.apache.pig.backend.hadoop.datastorage.HDataStorage.<init>(HDataStorage.java:53)
at org.apache.pig.builtin.JsonMetadata.findMetaFile(JsonMetadata.java:109)
at org.apache.pig.builtin.JsonMetadata.getSchema(JsonMetadata.java:189)
at org.apache.pig.builtin.PigStorage.getSchema(PigStorage.java:538)
at org.apache.pig.newplan.logical.relational.LOLoad.getSchemaFromMetaData(LOLoad.java:175)
at org.apache.pig.newplan.logical.relational.LOLoad.<init>(LOLoad.java:89)
at org.apache.pig.parser.LogicalPlanBuilder.buildLoadOp(LogicalPlanBuilder.java:901)
at org.apache.pig.parser.LogicalPlanGenerator.load_clause(LogicalPlanGenerator.java:3568)
at org.apache.pig.parser.LogicalPlanGenerator.op_clause(LogicalPlanGenerator.java:1625)
at org.apache.pig.parser.LogicalPlanGenerator.general_statement(LogicalPlanGenerator.java:1102)
at org.apache.pig.parser.LogicalPlanGenerator.statement(LogicalPlanGenerator.java:560)
at org.apache.pig.parser.LogicalPlanGenerator.query(LogicalPlanGenerator.java:421)
at org.apache.pig.parser.QueryParserDriver.parse(QueryParserDriver.java:191)
... 10 more
Caused by: org.apache.hadoop.ipc.RemoteException: Server IPC version 9 cannot communicate with client version 4
at org.apache.hadoop.ipc.Client.call(Client.java:1070)
at org.apache.hadoop.ipc.RPC$Invoker.invoke(RPC.java:225)
at com.sun.proxy.$Proxy4.getProtocolVersion(Unknown Source)
at org.apache.hadoop.ipc.RPC.getProxy(RPC.java:396)
at org.apache.hadoop.ipc.RPC.getProxy(RPC.java:379)
at org.apache.hadoop.hdfs.DFSClient.createRPCNamenode(DFSClient.java:119)
at org.apache.hadoop.hdfs.DFSClient.<init>(DFSClient.java:238)
at org.apache.hadoop.hdfs.DFSClient.<init>(DFSClient.java:203)
at org.apache.hadoop.hdfs.DistributedFileSystem.initialize(DistributedFileSystem.java:89)
at org.apache.hadoop.fs.FileSystem.createFileSystem(FileSystem.java:1386)
at org.apache.hadoop.fs.FileSystem.access$200(FileSystem.java:66)
at org.apache.hadoop.fs.FileSystem$Cache.get(FileSystem.java:1404)
at org.apache.hadoop.fs.FileSystem.get(FileSystem.java:254)
at org.apache.pig.backend.hadoop.datastorage.HDataStorage.init(HDataStorage.java:70)
... 23 more
내가 '개미'를하고 시도이 문제를 해결하려면 그래서 명령을 실행할 때
bash ant -version
개미 bin 폴더에 노력하고 있습니다 하지만 난 명령을 실행하고 때
bash ant clean jar-all -Dhadoopversion=23
bin 폴더에서 작동하지 않습니다. 링크의 일부에서 나는 항아리-all 명령이없는 돼지의 새 버전을 발견 그래서 다음과 같은 명령을 시도
bash ant clean jar -Dhadoopversion=23
이 명령은 작동하지 않습니다.
해결법
from https://stackoverflow.com/questions/34254404/getting-error-as-failed-to-create-data-storage-when-trying-to-load-the-data-from by cc-by-sa and MIT license
'HADOOP' 카테고리의 다른 글
[HADOOP] (모든 솔루션을 시도한 후) 호스트 OS에서 샌드 박스에서 카프카 액세스 (0) | 2019.09.29 |
---|---|
[HADOOP] oozie를 사용하여 S3에 파일을 이동 (0) | 2019.09.29 |
[HADOOP] 퍼티 / SSH없이 파이썬을 통해 하둡 맵리 듀스 작업을 시작합니다 (0) | 2019.09.29 |
[HADOOP] 어떤는 맵리 듀스 작업에 먼저 결합기 또는 파티션 설정을 실행 (0) | 2019.09.29 |
[HADOOP] Oozie 자바 잡스 이메일 (0) | 2019.09.29 |