복붙노트

[HADOOP] HIVE_STATS_JDBC_TIMEOUT 및 방법에 대한 모든 업데이트는 소스 레벨에서를 건너 뛰려면

HADOOP

HIVE_STATS_JDBC_TIMEOUT 및 방법에 대한 모든 업데이트는 소스 레벨에서를 건너 뛰려면

내가 하이브에 대해 불꽃-SQL을 사용하려고 할 때, 다음과 같은 오류가 발생합니다.

Exception in thread "main" java.lang.NoSuchFieldError: HIVE_STATS_JDBC_TIMEOUT
        at org.apache.spark.sql.hive.HiveUtils$.formatTimeVarsForHiveClient(HiveUtils.scala:204)
        at org.apache.spark.sql.hive.thriftserver.SparkSQLCLIDriver$.main(SparkSQLCLIDriver.scala:90)
        at org.apache.spark.sql.hive.thriftserver.SparkSQLCLIDriver.main(SparkSQLCLIDriver.scala)

당신이있을 때 SO-JDBC-시간 초과를 위해 하이브 쿼리 -에 - 스파크 하이브 - 통계 스레드 당 andspark - 온 - 하이브-SQL 쿼리 오류 - nosuchfielderror - 하이브 - 통계 - JDBC - 시간 제한이 문제가 발생합니다 당신이 3.1.1처럼 2.4.3와 같은 최신 버전 스파크 및 최신 하이브를 사용하려는 경우, 실제로, 스파크 및 하이브의 특정 버전을 사용, 그것은 생략 할 수 없습니다.

우리는 자세한 내용은이 커뮤니티 실, https://issues.apache.org/jira/browse/SPARK-13446, Feb.2019 이후 업데이트 없음을 확인할 수 있습니다.

그래서 그래서 당신은이 문제에 대한 업데이 트를 알아? 우리는 소스 레벨에 대한 단서를 자신을 건너 뛰려면 어떻게 만들려면?

사전에 도움을 주셔서 감사합니다.

해결법

  1. ==============================

    1.단지 스파크 3.0.0에서 사용할 수 하이브 3.1.1을 사용하여 지원 (아직 발표 예정). 락스 - https://jira.apache.org/jira/browse/SPARK-24360

    단지 스파크 3.0.0에서 사용할 수 하이브 3.1.1을 사용하여 지원 (아직 발표 예정). 락스 - https://jira.apache.org/jira/browse/SPARK-24360

  2. from https://stackoverflow.com/questions/57282164/any-update-about-hive-stats-jdbc-timeout-and-how-to-skip-it-in-source-level by cc-by-sa and MIT license