복붙노트

[HADOOP] 어떻게 데이터 노드에 블록 배치 정책을 선택하려면?

HADOOP

어떻게 데이터 노드에 블록 배치 정책을 선택하려면?

블록 복제 내 하둡 클러스터의 3, 모든 데이터 노드는 3 개 $ {dfs.data.dir} 디렉토리가있는 경우. 데이터 노드가 기억 부에 choosed 할 때, 블록은 3 direcoties 스토리지 또는 그들 중 하나?

대답은 후자의 경우, 어떻게 $ {dfs.data.dir} 디렉토리를 선택?

해결법

  1. ==============================

    1.블록은 데이터 노드에 도착했을 때 올바른 디렉토리는 라운드 로빈 방식을 선택한다. 당신은 org.apache.hadoop.hdfs.server.datanode.fsdataset.AvailableSpaceVolumeChoosingPolicy에 dfs.datanode.fsdataset.volume.choosing.policy 변경하여이 동작을 변경할 수 있습니다, 다음 오른쪽 디렉토리 선택 (그에서 사용할 수있는 공간을 기준으로 할 것 여기 구성을 참조하십시오 https://hadoop.apache.org/docs/r2.4.1/hadoop-project-dist/hadoop-hdfs/hdfs-default.xml)

    블록은 데이터 노드에 도착했을 때 올바른 디렉토리는 라운드 로빈 방식을 선택한다. 당신은 org.apache.hadoop.hdfs.server.datanode.fsdataset.AvailableSpaceVolumeChoosingPolicy에 dfs.datanode.fsdataset.volume.choosing.policy 변경하여이 동작을 변경할 수 있습니다, 다음 오른쪽 디렉토리 선택 (그에서 사용할 수있는 공간을 기준으로 할 것 여기 구성을 참조하십시오 https://hadoop.apache.org/docs/r2.4.1/hadoop-project-dist/hadoop-hdfs/hdfs-default.xml)

  2. from https://stackoverflow.com/questions/27057518/how-to-select-policy-of-block-placement-in-the-datanode by cc-by-sa and MIT license