[HADOOP] gethue / 색상 고정 표시기 이미지를 사용하여 HDFS 주소를 구성 할 수 없습니다
HADOOPgethue / 색상 고정 표시기 이미지를 사용하여 HDFS 주소를 구성 할 수 없습니다
나는 gethue / 색상의 색조 고정 표시기 이미지를 얻으려고하지만, 내가 그에게주는 구성을 무시하고 항상 내가 찾아달라고하는 대신 고정 표시기 용기의 로컬 호스트에 HDFS를 찾을 것으로 보인다.
여기에 몇 가지 상황은 다음과 같습니다
hdfs-namenode: image: bde2020/hadoop-namenode:1.1.0-hadoop2.7.1-java8 hostname: namenode environment: - CLUSTER_NAME=davidov ports: - "8020:8020" - "50070:50070" volumes: - ./data/hdfs/namenode:/hadoop/dfs/name env_file: - ./hadoop.env hdfs-datanode1: image: bde2020/hadoop-datanode:1.1.0-hadoop2.7.1-java8 depends_on: - hdfs-namenode links: - hdfs-namenode:namenode volumes: - ./data/hdfs/datanode1:/hadoop/dfs/data env_file: - ./hadoop.env
이것은 이미 제대로 포함하여 구성되어 BigDataEurope에서 이미지를 실행 :
- the activation of webhdfs (in /etc/hadoop/hdfs-site.xml): - dfs.webhdfs.enabled set to true - the hue proxy user (in /etc/hadoop/core-site.xml): - hadoop.proxyuser.hue.hosts set to * - hadoop.proxyuser.hue.groups set to *
제 1, 나는 그들의 지시에 따라 색조를 시작합니다 :
첫째, 나는 고정 표시기 용기 내부의 bash 프롬프트를 실행합니다 :
docker run -it -p 8888:8888 gethue/hue:latest bash
그럼, 데스크탑 / conf의가 / 의사 distributed.ini이 주소 172.30.0.2 내 경우에는 (올바른 하둡 "노드"로 고정 표시기 컨테이너를 가리 키도록 수정
[hadoop] # Configuration for HDFS NameNode # ------------------------------------------------------------------------ [[hdfs_clusters]] # HA support by using HttpFs [[[default]]] # Enter the filesystem uri fs_defaultfs=hdfs://172.30.0.2:8020 # NameNode logical name. ## logical_name= # Use WebHdfs/HttpFs as the communication mechanism. # Domain should be the NameNode or HttpFs host. # Default port is 14000 for HttpFs. ## webhdfs_url=http://172.30.0.2:50070/webhdfs/v1 # Change this if your HDFS cluster is Kerberos-secured ## security_enabled=false # In secure mode (HTTPS), if SSL certificates from YARN Rest APIs # have to be verified against certificate authority ## ssl_cert_ca_verify=True
그리고 나는 (여전히 색조 용기 내부에) 다음 명령을 사용하여 색조를 시작합니다 :
./build/env/bin/hue runserver_plus 0.0.0.0:8888
(내 경우에는 'HDFS')를 새로운 사용자를 생성, 8888을, 그리고 HDFS 파일 브라우저 모듈을 실행 : 나는 다음 로컬 호스트에 브라우저를 가리 킵니다. 그때 나는 다음과 같은 오류 메시지가 나타납니다 :
Cannot access: /user/hdfs/. HTTPConnectionPool(host='localhost', port=50070): Max retries exceeded with url: /webhdfs/v1/user/hdfs?op=GETFILESTATUS&user.name;=hue&doas;=hdfs (Caused by NewConnectionError(': Failed to establish a new connection: [Errno 99] Cannot assign requested address',))
흥미로운 비트는 아직도 내가 172.30.0.2를 가리 키도록 설정 파일을 수정하더라도 (물론 작동하지 않을 수있는) localhost에 연결을 시도하는 것입니다.
이 문제를 인터넷 검색, 나는 또 다른 설정 파일을 발견 : 바탕 화면 / conf.dist / hue.ini합니다. 나는이 하나를 수정하고 다시 색조를 시작하지만, 동일한 결과를 시도했다.
하나는 내가 제대로 내 경우에는 색상을 구성 할 수있는 방법을 알고 있나요?
당신의 도움에 미리 감사드립니다.
문안 인사,
로렌스.
해결법
-
==============================
1.귀하의 일회성 고정 표시기 실행 명령은 고정 표시기-작성 용기와 동일한 네트워크에 없습니다.
귀하의 일회성 고정 표시기 실행 명령은 고정 표시기-작성 용기와 동일한 네트워크에 없습니다.
당신은에 고정 표시기가-구성을 시작하면 폴더와 [프로젝트 이름] 교체, 같은 것을 필요
docker run -ti -p 8888:8888 --network="[projectname]_default" gethue/hue bash
나는 당신이 간단하게 지정할 수 있다는 / 또한 색조 컨테이너와 볼륨 바탕 화면 / conf의 아래에 INI 파일을 마운트 도커 작성을 사용하는 것이 좋습니다 것입니다
fs_defaultfs=hdfs://namenode:8020
(당신이 호스트 이름을 넣어부터 다음 작성 파일의 네임 노드)
변경 사항을 적용하려면를 위해 당신은 또한 WebHDFS 행의 주석을 해제해야합니다
모든 INI 파일은 색조의 conf 폴더에 병합됩니다
from https://stackoverflow.com/questions/48845801/cannot-configure-hdfs-address-using-gethue-hue-docker-image by cc-by-sa and MIT license
'HADOOP' 카테고리의 다른 글
[HADOOP] 오라클 로더를 사용하여 Oracle 테이블에 HBase와 데이터를 가져옵니다 (0) | 2019.09.23 |
---|---|
[HADOOP] 1000 개 파일에서 문자열을 검색하고 각 파일 크기 1GB의입니다 (0) | 2019.09.23 |
[HADOOP] ORC의 오류 때 java.io.IOException로 Sqoop을 가져 오기 : HCat 상태 1로 종료 (0) | 2019.09.22 |
[HADOOP] 감소 하둡지도를위한 파이썬에서 사용자 정의 쓰기 가능한 키 / 값 유형을 작성? (0) | 2019.09.22 |
[HADOOP] GenericUDF 기능은 구조체의 배열에서 필드를 추출하는 (0) | 2019.09.22 |