복붙노트

[HADOOP] 읽기 및 JAVA에서 HDFS에 쓸 수있는 기존의 API가 있습니까

HADOOP

읽기 및 JAVA에서 HDFS에 쓸 수있는 기존의 API가 있습니까

읽기 / 그것을 구현하는 방법의 모범 사례와 함께, HDFS에서 쓸 수있는 기존의 API가있다.

해결법

  1. ==============================

    1.아래는 코드입니다

    아래는 코드입니다

    import org.apache.hadoop.conf.Configuration;
    import org.apache.hadoop.fs.FileSystem;
    import org.apache.hadoop.fs.Path;
    import org.apache.hadoop.io.IOUtils;
    import org.apache.hadoop.util.Progressable;
    
    
    
    String Dest = "/user/pkumar/test.xml";
    
     Configuration conf = new Configuration();
           FileSystem fs = FileSystem.get(URI.create(Dest),conf);
            Path path = new Path(Dest);
    
        if(!fs.exists(path)){
            OutputStream out = fs.create(path, new Progressable(){
                public void progress(){
                    System.out.print(".");
                }
            });
            System.out.println();
            IOUtils.copyBytes(connect, out, 4096, true);
        }
    

    당신의 pom.xml에 아래의 종속성을 사용

    <dependencies>
    <dependency>
         <groupId>org.apache.hadoop</groupId>
         <artifactId>hadoop-common</artifactId>
         <version>2.3.0-cdh5.1.3</version>
    </dependency>
    <dependency>
         <groupId>org.apache.hadoop</groupId>
         <artifactId>hadoop-client</artifactId>
         <version>2.3.0-cdh5.1.3</version>
    </dependency>
    <dependency>
        <groupId>org.apache.httpcomponents</groupId>
        <artifactId>httpcore</artifactId>
        <version>4.3.2</version>
    </dependency>
    <dependency>
        <groupId>org.apache.httpcomponents</groupId>
        <artifactId>httpclient</artifactId>
        <version>4.3.2</version>
    </dependency>
    
    </dependencies>
    
  2. from https://stackoverflow.com/questions/33872904/is-there-any-existing-api-to-read-and-write-to-hdfs-from-java by cc-by-sa and MIT license