[HADOOP] HDFS의 DFS -ls 명령의 결과
HADOOPHDFS의 DFS -ls 명령의 결과
HDFS의 DFS -ls 명령의 실행에서 나는 결과가 모든 클러스터에 저장된 파일이나이 실행되는 노드에서 단지 파티션이 있는지 알고 싶다 wuold. 나는 각 노드의 파티션을 serching 몇 가지 문제가 하둡과 미안의 뉴비입니다.
감사합니다
해결법
-
==============================
1.당신은 ls 명령에서 볼 무엇 클러스터에 저장된 모든 파일입니다. 보다 구체적으로는, 당신이 참조하는 파일 경로와 이름의 무리입니다. 이러한 정보는 네임 노드에 의해 관리되는 네임 스페이스의 일부입니다.
당신은 ls 명령에서 볼 무엇 클러스터에 저장된 모든 파일입니다. 보다 구체적으로는, 당신이 참조하는 파일 경로와 이름의 무리입니다. 이러한 정보는 네임 노드에 의해 관리되는 네임 스페이스의 일부입니다.
당신은 HDFS를 생각하면 다른 노드에서이 노드의 일부 파일 및 일부 파일을 유지합니다. 당신은 오해. 같은 건 없습니다. 네임 노드는 네임 스페이스와 blocksMap의 트랙을 유지합니다. 사실, 파일은 블록으로 구성된다. 네임 노드는 파일이 얼마나 많은 블록을 가지고 알고있는 블록이 유지 데이타 노드. 네임 노드는 블록이 유지되는 경우, 그것은 사용자에게 투명한 결정한다. 각 블록은 기본적으로 3 복제를 가지고 있으며, 각 복제 한 데이터 노드에 있습니다. 그래서, 어떤 데이터 노드는이 예에서 전체 파일 (진실을 유지하지 그것은 최대 6 DataNode에서에 위치 할 수있는, 파일이 2 개 블록을 가지고 가정하자.이 때문에 또 다른 일반적인 경우 작은 파일은 1 블록이있는 경우, 각 복제는 전체 파일입니다 ).
자세한 내용은 HDFS 디자인의 공식 문서를 살펴
from https://stackoverflow.com/questions/37381103/result-of-hdfs-dfs-ls-command by cc-by-sa and MIT license
'HADOOP' 카테고리의 다른 글
[HADOOP] 심지어 응용 프로그램 마스터 후 살해 가져 오지 원사 응용 프로그램을 종료 (0) | 2019.10.20 |
---|---|
[HADOOP] 자바 코드에서 대량로드 데이터를 사용 HBase와의 importtsv 도구 (0) | 2019.10.20 |
[HADOOP] Gradle을 함께 간단한 맵리 듀스 프로젝트를 건물 : 하둡 종속성이 매퍼 및 감속기가 없습니다 (0) | 2019.10.20 |
[HADOOP] 아파치 돼지 - 같은 관계 이상 중첩 FOREACH (0) | 2019.10.20 |
[HADOOP] 왜 oozie 발사기 2 개 실 용기를 소비 하는가? (0) | 2019.10.20 |