[HADOOP] ORC의 오류 때 java.io.IOException로 Sqoop을 가져 오기 : HCat 상태 1로 종료
HADOOPORC의 오류 때 java.io.IOException로 Sqoop을 가져 오기 : HCat 상태 1로 종료
여기에 제안 나는 ORC 형식으로 Sqoop을의 hcatlog (아래 참조)를 사용하여 Netezza를 DB에서 테이블을 가져 오기 위해 노력하고 있어요
Sqoop을 명령 :
sqoop import
-m 1
--connect <jdbc_url>
--driver <database_driver>
--connection-manager org.apache.sqoop.manager.GenericJdbcManager
--username <db_username>
--password <db_password>
--table <table_name>
--hcatalog-home /usr/hdp/current/hive-webhcat
--hcatalog-database <hcat_db>
--hcatalog-table < table_name >
--create-hcatalog-table
--hcatalog-storage-stanza 'stored as orc tblproperties ("orc.compress"="SNAPPY")';
그러나, 예외를 다음과 같이 실패했습니다. 몇 시간을 지출 후, 나는 왜 실패에 관한 단서가 없다. 어떤 도움 / 납이 많이 감사합니다.
16/04/21 19:51:22 ERROR tool.ImportTool: Encountered IOException running import job: java.io.IOException: HCat exited with status 1
at org.apache.sqoop.mapreduce.hcat.SqoopHCatUtilities.executeExternalHCatProgram(SqoopHCatUtilities.java:1148)
at org.apache.sqoop.mapreduce.hcat.SqoopHCatUtilities.launchHCatCli(SqoopHCatUtilities.java:1097)
at org.apache.sqoop.mapreduce.hcat.SqoopHCatUtilities.createHCatTable(SqoopHCatUtilities.java:644)
at org.apache.sqoop.mapreduce.hcat.SqoopHCatUtilities.configureHCat(SqoopHCatUtilities.java:340)
at org.apache.sqoop.mapreduce.hcat.SqoopHCatUtilities.configureImportOutputFormat(SqoopHCatUtilities.java:802)
at org.apache.sqoop.mapreduce.ImportJobBase.configureOutputFormat(ImportJobBase.java:98)
at org.apache.sqoop.mapreduce.ImportJobBase.runImport(ImportJobBase.java:259)
at org.apache.sqoop.manager.SqlManager.importTable(SqlManager.java:673)
at org.apache.sqoop.tool.ImportTool.importTable(ImportTool.java:497)
at org.apache.sqoop.tool.ImportTool.run(ImportTool.java:605)
at org.apache.sqoop.Sqoop.run(Sqoop.java:148)
at org.apache.hadoop.util.ToolRunner.run(ToolRunner.java:76)
at org.apache.sqoop.Sqoop.runSqoop(Sqoop.java:184)
at org.apache.sqoop.Sqoop.runTool(Sqoop.java:226)
at org.apache.sqoop.Sqoop.runTool(Sqoop.java:235)
at org.apache.sqoop.Sqoop.main(Sqoop.java:244)
최신 정보: 나는 소스 테이블이 20 만 개 기록을 가지고 있지만 빈 테이블이 생성 된 것을 볼 수 있습니다. 어떤 제안이 문제를 해결하려면?
해결법
from https://stackoverflow.com/questions/36782519/sqoop-import-as-orc-error-java-io-ioexception-hcat-exited-with-status-1 by cc-by-sa and MIT license
'HADOOP' 카테고리의 다른 글
[HADOOP] 1000 개 파일에서 문자열을 검색하고 각 파일 크기 1GB의입니다 (0) | 2019.09.23 |
---|---|
[HADOOP] gethue / 색상 고정 표시기 이미지를 사용하여 HDFS 주소를 구성 할 수 없습니다 (0) | 2019.09.23 |
[HADOOP] 감소 하둡지도를위한 파이썬에서 사용자 정의 쓰기 가능한 키 / 값 유형을 작성? (0) | 2019.09.22 |
[HADOOP] GenericUDF 기능은 구조체의 배열에서 필드를 추출하는 (0) | 2019.09.22 |
[HADOOP] 작업은 예 하둡 0.23.0에서 실행 매달려 때 (0) | 2019.09.22 |