2020-09-16 16:11发布
思想：
小表复制到各个节点上，并加载到内存中；大表分片，与小表完成连接操作。
这种方法有明显的局限性：
有一份数据比较小，在map端，（ujiuye）能够把它加载在内存，并进行join操作。
map端按照连接字段进行hash，reduce端完成连接操作
这种方法有2个问题：
map阶段没有对数据瘦身，shuffle的网络传输和排序性能很低。
reduce端对2个集合做乘积计算，很耗内存，容易导致OOM。
最多设置5个标签!
{var%20f='http://v.t.sina.com.cn/share/share.php?appkey=1515056452',u=z||d.location,p=['&url=',e(u),'&title=',e(t||d.title),'&source=',e(r),'&sourceUrl=',e(l),'&content=',c||'gb2312','&pic=',e(p||'')].join('');function%20a(){if(!window.open([f,p].join(''),'mb',['toolbar=0,status=0,resizable=1,width=440,height=430,left=',(s.width-440)/2,',top=',(s.height-430)/2].join('')))u.href=[f,p].join('');};if(/Firefox/.test(navigator.userAgent))setTimeout(a,0);else%20a();})(screen,document,encodeURIComponent,'','','/static/images/logo.png', '推荐 宝藏秦公子 的问题《mapjoin和reduce join哪种方式更好》','http://www.shouhuola.com/answer/29388/65405.html','页面编码gb2312|utf-8默认gb2312'));){kind=link}
MapJoin和ReduceJoin区别
1 Map-side Join（Broadcast join）
思想：
这种方法有明显的局限性：
有一份数据比较小，在map端，（ujiuye）能够把它加载在内存，并进行join操作。
2 Reduce-side Join（shuffle join）
思想：
这种方法有2个问题：
map阶段没有对数据瘦身，shuffle的网络传输和排序性能很低。
reduce端对2个集合做乘积计算，很耗内存，容易导致OOM。
一周热门 更多>