大数据_Spark_VS_Hadoop_框架---Spark工作笔记0002
发布日期:2021-06-29 17:46:58
浏览次数:2
分类:技术文章
本文共 258 字,大约阅读时间需要 1 分钟。
技术交流QQ群【JAVA,C++,Python,.NET,BigData,AI】:170933152
然后我们继续比较一下spark和hadoop
我们知道hadoop,属于一次性数据计算模型
计算模型只有mapper和reducer
他只有mapper,以及reducer,mapper负责把数据打散,reducer负责把数据聚合,
但是数据要先从磁盘上读取,然后mapper打散,然后聚合reducer,然后再把处理后的数据进行写入到磁盘中去.
这样一个一次的数据处理过程,而且这个过程涉及到磁盘读写数据比较慢.
转载地址:https://credream.blog.csdn.net/article/details/113135410 如侵犯您的版权,请留言回复原文章的地址,我们会给您删除此文章,给您带来不便请您谅解!
发表评论
最新留言
关注你微信了!
[***.104.42.241]2024年04月21日 19时58分51秒
关于作者
喝酒易醉,品茶养心,人生如梦,品茶悟道,何以解忧?唯有杜康!
-- 愿君每日到此一游!
推荐文章
基于http搭建本地yum仓库
2019-04-29
常规邮件基础
2019-04-29
邮件基础之 -- SMTP协议
2019-04-29
Java设计模式--责任链模式
2019-04-29
OpenCV的cvLoadImage函数
2019-04-29
OpenCV中与matlab中相对应的函数
2019-04-29
C/C++中二维数组作函数形参时,调用函数时,可传递的实参类型的小结
2019-04-29
cvGetSubRect与cvMul用法
2019-04-29
opencv图像处理梯度边缘和角点
2019-04-29
Caffe源码中blob文件分析
2019-04-29
OpenCV 图像采样 插值 几何变换
2019-04-29
图像处理-仿射变换 AffineTransform
2019-04-29
图像二值化----otsu(最大类间方差法、大津算法)
2019-04-29
图像二值化----otsu(最大类间方差法、大津算法)(二)
2019-04-29
OpenCV编程案例:使用轮廓函数检测连通区域
2019-04-29
opencv使用cvFindContours提取联通域
2019-04-29
C++中MessageBox的常见用法
2019-04-29
ordfilt2函数功能说明
2019-04-29
在图像变换中用最小二乘法求解仿射变换参数
2019-04-29
软件包应用分享|基于RT-Thread的百度语音识别(一)
2019-04-29