[HADOOP] Hadoop에서 DataNode 시작 실패
HADOOPHadoop에서 DataNode 시작 실패
나는 우분투 11.04와 Java 6 sun에 Hadoop 설치를 시도하고있다. 나는 hadoop 0.20.203 rc1 빌드로 작업하고 있었다. 나는 Java-6-sun으로 Ubuntu 11.04에서 반복적으로 문제를 겪고있다. hadoop을 시작하려고하면 "저장소에 액세스 할 수 없습니다"라는 이유로 데이터 노드가 시작되지 않습니다.
2011-12-22 22:09:20,874 INFO org.apache.hadoop.hdfs.server.common.Storage: Cannot lock storage /home/hadoop/work/dfs_blk/hadoop. The directory is already locked.
2011-12-22 22:09:20,896 ERROR org.apache.hadoop.hdfs.server.datanode.DataNode: java.io.IOException: Cannot lock storage /home/hadoop/work/dfs_blk/hadoop. The directory is already locked.
at org.apache.hadoop.hdfs.server.common.Storage$StorageDirectory.lock(Storage.java:602)
at org.apache.hadoop.hdfs.server.common.Storage$StorageDirectory.analyzeStorage(Storage.java:455)
at org.apache.hadoop.hdfs.server.datanode.DataStorage.recoverTransitionRead(DataStorage.java:111)
at org.apache.hadoop.hdfs.server.datanode.DataNode.startDataNode(DataNode.java:354)
at org.apache.hadoop.hdfs.server.datanode.DataNode.<init>(DataNode.java:268)
at org.apache.hadoop.hdfs.server.datanode.DataNode.makeInstance(DataNode.java:1480)
at org.apache.hadoop.hdfs.server.datanode.DataNode.instantiateDataNode(DataNode.java:1419)
at org.apache.hadoop.hdfs.server.datanode.DataNode.createDataNode(DataNode.java:1437)
at org.apache.hadoop.hdfs.server.datanode.DataNode.secureMain(DataNode.java:1563)
at org.apache.hadoop.hdfs.server.datanode.DataNode.main(DataNode.java:1573)
나는 아파치에서 0.20 브랜치 버전의 두 버전으로 업그레이드하고 다운 그레이드를 시도했다. 심지어 cloudera도 삭제하고 다시 설치했다. 그러나 여전히 나는이 문제에 직면 해있다. / tmp 디렉토리에서 * .pid 파일을 삭제하는 등의 일반적인 해결 방법도 작동하지 않습니다. 아무도 나를 위해 해결책을 지적 할 수 있을까?
해결법
-
==============================
1.예, namenode의 형식을 지정했습니다. hdfs-site.xml의 hgfs-site.xml에 대한 불량 템플릿에 문제가있었습니다. dfs.data.dir 및 dfs.name.dir은 동일한 디렉토리 위치에서 잠금 저장소 오류를 가리 킵니다. 서로 다른 디렉토리 여야합니다. 불행히도, hadoop 문서는이 미묘한 세부 사항에서 충분히 명확하지 않습니다.
예, namenode의 형식을 지정했습니다. hdfs-site.xml의 hgfs-site.xml에 대한 불량 템플릿에 문제가있었습니다. dfs.data.dir 및 dfs.name.dir은 동일한 디렉토리 위치에서 잠금 저장소 오류를 가리 킵니다. 서로 다른 디렉토리 여야합니다. 불행히도, hadoop 문서는이 미묘한 세부 사항에서 충분히 명확하지 않습니다.
from https://stackoverflow.com/questions/8613112/datanode-failing-to-start-in-hadoop by cc-by-sa and MIT license
'HADOOP' 카테고리의 다른 글
[HADOOP] 하이브 - HiveQL 쿼리를 더욱 최적화 할 수있는 방법이 있습니까? (0) | 2019.06.26 |
---|---|
[HADOOP] 원인 : java.lang.ClassNotFoundException : org.apache.zookeeper.KeeperException (0) | 2019.06.25 |
[HADOOP] HDFS를 종료 한 후 데이터가 손실 되었습니까? (0) | 2019.06.25 |
[HADOOP] 쉘 스크립트를 사용하여 HiveQL 쿼리의 결과를 CSV로 출력하려면 어떻게합니까? (0) | 2019.06.25 |
[HADOOP] "hadoop fs -ls."명령이 작동하지 않습니다. (0) | 2019.06.25 |