美团是如何应用Spark处理大数据的?
发布时间:2019-05-30 10:27:22 所属栏目:教程 来源:大数据资讯平台
导读:媒介 美团最初的数据处理赏罚以Hive SQL为主,底层计较引擎为MapReduce,部门相对伟大的营业会由工程师编写MapReduce措施实现。跟着营业的成长,纯真的Hive SQL查询可能MapReduce措施已经越来越难以满意数据处理赏罚和说明的需求。 一方面,MapReduce计较模子对多
开拓职员提供的特性数据,必要凭证平台提供的设置文件名目添加到特性库,好比在图团购的设置文件中,团购营业中有一个用户24小时时段付出的次数特性,输入就是一个天生好的特性表,开拓职员通过测试验证无误之后,即完成了数据上线;其它对付有些特性,只必要从现有的表中提取部门特性数据,开拓职员也只必要简朴的设置即可完成。 ![]() (编辑:湖南网) 【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容! |