[HADOOP] 하둡 의도 된 메모리 사용량
HADOOP하둡 의도 된 메모리 사용량
hadoop 네임 노드 메모리 문제로 혼동됩니다.
매우 감사합니다!
해결법
-
==============================
1.네임 노드는 기본적으로 블록으로 HashMap을 관리하는 RPC 서버이므로 두 가지 주요 메모리 문제가 있습니다.
네임 노드는 기본적으로 블록으로 HashMap을 관리하는 RPC 서버이므로 두 가지 주요 메모리 문제가 있습니다.
이것이 네임 노드에 많은 메모리가 필요한 이유입니다.
What determines namenode'QPS (Query Per Second) ?
아직 벤치마킹하지 않았으므로 이에 대한 유용한 팁을 드릴 수 없습니다. 핸들러의 미세 조정은 병렬 + 추측 실행으로 실행될 수있는 작업 수보다 더 높게 계산됩니다. 작업을 제출하는 방법에 따라 다른 자산도 미세 조정해야합니다.
물론 네임 노드에 항상 충분한 메모리를 제공해야하므로 전체 가비지 콜렉션주기에 빠지지 않는 헤드 룸이 있습니다.
from https://stackoverflow.com/questions/13192835/hadoop-namenode-memory-usage by cc-by-sa and MIT license
'HADOOP' 카테고리의 다른 글
[HADOOP] HBase에서 rowkey-search와 일치하는 COUNT 개의 행이 있습니까? (0) | 2019.09.09 |
---|---|
[HADOOP] Hadoop MapReduce 스크립트에서 외부 라이브러리 가져 오기 (0) | 2019.09.09 |
[HADOOP] Hive2 & JDBC-필수 필드 'serverProtocolVersion'이 설정되지 않았습니다. (0) | 2019.09.09 |
[HADOOP] 기본 디렉토리가 변경 될 때 Hive 테이블이 자동으로 업데이트 될 수 있습니까 (0) | 2019.09.09 |
[HADOOP] HBase 단일 행 트랜잭션 지원에서의 행 잠금 (0) | 2019.09.09 |