[HADOOP] Hive 0.12 및 Hadoop 2.2.0-cdh5.0.0-beta2의 SerDe 문제
HADOOPHive 0.12 및 Hadoop 2.2.0-cdh5.0.0-beta2의 SerDe 문제
문제를 좁히는 데 어려움을 겪고 있기 때문에 제목이 조금 이상합니다. Hadoop 2.0.0-cdh4.4.0에서 솔루션을 사용하고 문제없이 0.10으로 하이브를 사용했습니다.
첫 시도:
FAILED: Execution Error, return code 1 from org.apache.hadoop.hive.ql.exec.DDLTask. org.apache.hadoop.hive.serde2.objectinspector.primitive.AbstractPrimitiveJavaObjectInspector.<init>(Lorg/apache/hadoop/hive/serde2/objectinspector/primitive/PrimitiveObjectInspectorUtils$PrimitiveTypeEntry;)V
두 번째 시도 :
FAILED: Execution Error, return code 1 from org.apache.hadoop.hive.ql.exec.DDLTask. Could not initialize class org.openx.data.jsonserde.objectinspector.JsonObjectInspectorFactory
언급 된 실행 로그 :
2014-03-11 12:13:30,331 ERROR mr.MapredLocalTask (MapredLocalTask.java:executeFromChildJVM(324)) - Hive Runtime Error: Map local work failed
org.apache.hadoop.hive.ql.metadata.HiveException: Failed with exception java.lang.ClassNotFoundException: com.cloudera.hive.serde.JSONSerDejava.lang.RuntimeException: java.lang.ClassNotFoundException: com.cloudera.hive.serde.JSONSerDe
누구든지이 문제를 해결하는 방법을 알고 있거나 문제가있는 곳을 최소한 보여 주시겠습니까?
편집 : 나는 Hadoop 2.0.0-cdh4.4.0 및 하이브 0.10에서 serde를 구축하는 것이 문제가 될 수 있습니까?
해결법
-
==============================
1.내가 본 것에서, Hive-.11 +에는 Custom SerDe와의 결합에 버그가 있습니다.
내가 본 것에서, Hive-.11 +에는 Custom SerDe와의 결합에 버그가 있습니다.
https://github.com/Esri/gis-tools-for-hadoop/issues/9
SerDe 클래스가 들어있는 JAR 파일을 $ HIVE_HOME / lib에 복사하는 방법을 시도해 볼 수 있습니다.
(귀하의 질문에 볼 수 ClassNotFoundException 모두 조인 및 다른 경우에, 지금까지 내가 조우와 같은 모든 시간이 발생했습니다.)
[편집] 또 다른 해결 방법은 HADOOP_CLASSPATH를 사용하는 것입니다.
env HADOOP_CLASSPATH = some.jar : other.jar 하이브 ...
[편집]이 문제는 Hive 버전 0.11 및 0.12에 적용됩니다. 0.13 이상은 HIVE-6670에 대한 수정을 포함합니다.
from https://stackoverflow.com/questions/22324106/serde-problems-with-hive-0-12-and-hadoop-2-2-0-cdh5-0-0-beta2 by cc-by-sa and MIT license
'HADOOP' 카테고리의 다른 글
[HADOOP] 하둡으로 Giraph 빌드하기 (0) | 2019.06.24 |
---|---|
[HADOOP] Lineage In Spark 란 무엇입니까? (0) | 2019.06.24 |
[HADOOP] 파이썬 오류로 Hadoop 스트리밍 명령 실패 (0) | 2019.06.24 |
[HADOOP] Hadoop이 시스템의 모든 코어를 사용하게 만드는 방법은 무엇입니까? (0) | 2019.06.24 |
[HADOOP] 어떻게 (Hadoop에서), 데이터를지도에 넣고 올바른 유형의 함수를 축소합니까? (0) | 2019.06.24 |