[HADOOP] 하둡 환경 변수
HADOOP하둡 환경 변수
내 Mac에서 단일 노드 하둡 클러스터와 몇 가지 문제를 디버깅하기 위해 노력하고있어. 모든 설정 문서에 추가 할 말합니다 :
export HADOOP_OPTS="-Djava.security.krb5.realm=OX.AC.UK -Djava.security.krb5.kdc=kdc0.ox.ac.uk:kdc1.ox.ac.uk"
이 오류를 제거합니다 :
Unable to load realm info from SCDynamicStore
이것은 작동하지만, 단지 STDOUT을 위해 작동하는 것 같다. 내 하둡은 아래 디렉토리를 기록 확인 "작업 _ ### / atempt _ ### 표준 에러 /"오류가 여전히 :
2013-02-08 09:58:23.662 java[2772:1903] Unable to load realm info from SCDynamicStore
나는 하둡 스트리밍과 루비 코드를 실행하기 위해 하둡 환경에 RVM 루비로드 큰 어려움에 봉착했습니다. STDOUT은 RVM가로드 인쇄 오른쪽 루비 / gemset하지만 내 STDERR 로그를 사용하고 있습니다 :
env: ruby_noexec_wrapper: No such file or directory
그것은 여기에 몇 가지 다른 환경을 호출 않다면 하둡 실제로 작업을 실행하는 데 사용, 또는 어떤 경로를 알아낼 수있는 방법이 있습니까?
또한 배경 :
나는 브루를 통해 설치 하둡 1.1.1을 사용하고 있습니다. 그것은 매우 유사한 방식으로 설정이 "하둡 ON MAC OSX LION 설치"하둡 작업을 실행하기위한 래퍼로 3.0.0을 wukong의 구현을 디버깅 할 수 있습니다.
해결법
-
==============================
1.다른 사람들이 찾을 수 있도록 내 자신의 질문에 대답합니다.
다른 사람들이 찾을 수 있도록 내 자신의 질문에 대답합니다.
내 하둡-ENV에 RVM을로드 할 것처럼하지만 난 그것을 추가 한 후 클러스터를 다시 시작되지해야합니다. 당신의 루비 확인하고 gemsets가로드, 표준 RVM 절은 hadoop-env.sh에 추가. 뭔가 같은 :
[[ -s "/Users/ScotterC/.rvm/scripts/rvm" ]] && source "/Users/ScotterC/.rvm/scripts/rvm"
그리고 그것을 집어 있도록 클러스터를 다시 시작해야합니다. 이상한 일이지만, 다시 시작하지 않고, 내 로그는 RVM을로드했지만 그것은 분명 그 루비 실행되지 않았 음을 볼 수 있으며, 그것은 각각의 gemfiles을합니다. 다시 시작한 후 일했다.
from https://stackoverflow.com/questions/14775459/hadoop-environment-variables by cc-by-sa and MIT license
'HADOOP' 카테고리의 다른 글
[HADOOP] 하둡 / MR 임시 디렉토리 (0) | 2019.10.10 |
---|---|
[HADOOP] 하둡 : 이상한 ClassNotFoundException가 (0) | 2019.10.10 |
[HADOOP] 하둡 매퍼에서 총 입력 경로 개수를 가져옵니다 (0) | 2019.10.10 |
[HADOOP] 창에서 MR2와 NullPointerException이 (0) | 2019.10.10 |
[HADOOP] 하둡 스트리밍과 종속성을 관리? (0) | 2019.10.10 |