本地文件合并后传至HDFS文件
发布日期:2021-06-29 12:30:29
浏览次数:2
分类:技术文章
本文共 1864 字,大约阅读时间需要 6 分钟。
代码如下:
package hdfs;import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.fs.FSDataInputStream; import org.apache.hadoop.fs.FSDataOutputStream; import org.apache.hadoop.fs.FileStatus; import org.apache.hadoop.fs.FileSystem; import org.apache.hadoop.fs.Path; public class HDFSFileMeger { /** * * @param srcFiles 要合并的源文件 * @param targetFile 目标文件 * @throws Exception */ public static void fileMeger(String srcFiles,String targetFile) throws Exception{ Configuration conf=new Configuration(); //conf.addResource(new Path("home/xm/hadoop-2.7.1/etc/hadoop/core-site.xml")); FileSystem localFs=FileSystem.getLocal(conf);//获取本地系统 FileSystem tarFs=FileSystem.get(conf);//获取HDFS文件系统 Path localPath=new Path(srcFiles);//获取本地文件路径 Path targetPath=new Path(targetFile);//获取hdfs文件路径 FileStatus[] fileStatus=localFs.listStatus(localPath);//本地系统中指定的所有的目录 FSDataOutputStream dataOutputStream=tarFs.create(targetPath);//打开 中的输出流 for(FileStatus status:fileStatus){ //遍历本地文件中所有的目录 Path path=status.getPath(); System.out.println("文件为:"+path.getName()); FSDataInputStream dataInputStream=localFs.open(path);//打开文件的输入流 byte[] buffer=new byte[1024]; int len=0; while((len=dataInputStream.read(buffer))>0){ dataOutputStream.write(buffer, 0, len); } dataInputStream.close(); } dataOutputStream.close(); } public static void main(String[] args) throws Exception{ String l = "/home/xm/a/"; String f = "hdfs://master:9000/input/input1.txt"; fileMeger(l,f); }}
如果出现
Exception in thread "main" java.lang.IllegalArgumentException: Wrong FS: hdfs://master:9000/input
那么请参照
转载地址:https://bupt-xbz.blog.csdn.net/article/details/79168686 如侵犯您的版权,请留言回复原文章的地址,我们会给您删除此文章,给您带来不便请您谅解!
发表评论
最新留言
很好
[***.229.124.182]2024年04月28日 23时52分28秒
关于作者
喝酒易醉,品茶养心,人生如梦,品茶悟道,何以解忧?唯有杜康!
-- 愿君每日到此一游!
推荐文章
在图像变换中用最小二乘法求解仿射变换参数
2019-04-29
软件包应用分享|基于RT-Thread的百度语音识别(一)
2019-04-29
12月8日 RCEA - RT-Thread能力认证考试考前通知
2019-04-29
论坛热贴 | RT-Thread音频驱动开发(一)
2019-04-29
基于 Keil MDK 移植 RT-Thread Nano
2019-04-29
【报名截至今晚】12月14日深圳嵌入式与音频开发专题会议预告
2019-04-29
移植 RT-Thread Nano 到 RISC-V
2019-04-29
软件包应用分享|基于RT-Thread的百度语音识别(二)
2019-04-29
在 RT-Thread Nano 上添加控制台与 FinSH
2019-04-29
一站式开发工具:RT-Thread Studio 正式发布
2019-04-29
留言有礼|谢谢你悄悄点了小星星,让我们跃居GitHub RTOS Star榜第一
2019-04-29
功能更新!C 函数也能在 MicroPython 中被调用啦
2019-04-29
东软载波携ES32+RT-Thread走进海尔集团
2019-04-29
今晚8点直播预告:RT-Thread Studio等相关主题答疑
2019-04-29
物联网 20 年简史大揭秘!
2019-04-29
开源项目|RT-Thread 软件包应用作品:水墨屏桌面台历
2019-04-29
珠联璧合!基于i.MX RT和RT-Thread的物联网云接入方案
2019-04-29
基于RTT-MicroPython制作自带BGM的新型肺炎晴雨表
2019-04-29