복붙노트

[HADOOP] FILE 채널을 사용하여 수로의 여러 소스를 구성하는 동안 잠금 오류 채널

HADOOP

FILE 채널을 사용하여 수로의 여러 소스를 구성하는 동안 잠금 오류 채널

나 FILE 채널을 사용하여 오류를 고정 던지고 에이전트에 대한 여러 소스를 구성. 아래 내 설정 파일입니다.

a1.sources = r1 r2
a1.sinks = k1 k2
a1.channels = c1 c3

#sources
a1.sources.r1.type=netcat
a1.sources.r1.bind=localhost
a1.sources.r1.port=4444

a1.sources.r2.type=exec
a1.sources.r2.command=tail -f /opt/gen_logs/logs/access.log

#sinks
a1.sinks.k1.type=hdfs
a1.sinks.k1.hdfs.path=/flume201
a1.sinks.k1.hdfs.filePrefix=netcat-
a1.sinks.k1.rollInterval=100
a1.sinks.k1.hdfs.fileType=DataStream
a1.sinks.k1.hdfs.callTimeout=100000


a1.sinks.k2.type=hdfs
a1.sinks.k2.hdfs.path=/flume202
a1.sinks.k2.hdfs.filePefix=execCommand-
a1.sinks.k2.rollInterval=100
a1.sinks.k2.hdfs.fileType=DataStream
a1.sinks.k2.hdfs.callTimeOut=100000

#channels
a1.channels.c1.type=file
a1.channels.c1.checkpointDir=/home/cloudera/alpha/001
a1.channels.c3.type=file
a1.channels.c3.checkpointDir=/home/cloudera/beta/001

#bind r1 c1 k1
a1.sources.r1.channels=c1
a1.sinks.k1.channel=c1

a1.sources.r2.channels=c3
a1.sinks.k2.channel=c3

나는 오류가 아래에 무엇입니까

Channel closed [channel=c3]. Due to java.io.IOException: Cannot lock /home/cloudera/.flume/file-channel/data. The directory is already locked. [channel=c3]

하지만 난 메모리 채널을 사용하고 있습니다 때. 그 작업을 잘.

해결법

  1. ==============================

    1.내 생각 엔 당신이 그들 모두 기본값을 사용 원인, 각 채널에 대해 서로 다른 데이터 DIRS 속성을 지정할 필요가있다

    내 생각 엔 당신이 그들 모두 기본값을 사용 원인, 각 채널에 대해 서로 다른 데이터 DIRS 속성을 지정할 필요가있다

  2. ==============================

    2.워드 프로세서

    워드 프로세서

    채널의 구성이되어야

    #channels
    a1.channels.c1.type=file
    a1.channels.c1.checkpointDir=/home/cloudera/alpha/001
    a1.channels.c1.dataDirs=/mnt/alpha_data/
    
    a1.channels.c3.type=file
    a1.channels.c3.checkpointDir=/home/cloudera/beta/001
    a1.channels.c3.dataDirs=/mnt/beta_data/
    

    /home/user/.flume/file-channel/data 경로에 dataDirs 속성 기본 설정됩니다.

  3. from https://stackoverflow.com/questions/41983979/channel-lock-error-while-configuring-flumes-multiple-sources-using-file-channel by cc-by-sa and MIT license