加入收藏 | 设为首页 | 会员中心 | 我要投稿 湖南网 (https://www.hunanwang.cn/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 大数据 > 正文

操作UDW构建企业级数据客栈和BI体系

发布时间:2021-01-10 12:44:38 所属栏目:大数据 来源:网络整理
导读:配景 跟着大数据应用的成长与遍及,越来越多的企业熟悉到企业运行中所发生数据自己也是一种高代价资产。而且,贸易智能在企业的策划与决定中所饰演的脚色,既可所以操纵层中的数据指导,也可所以战术层与计谋层上的决定参谋。 贸易智能——即Business Intell

产物运营说明:产物存量、增添率、数据量等

数据源
  • 营业数据库:计费体系、账户体系、贩卖体系、买卖营业体系等营业数据库数据

  • CMDB体系:机房、机架、物理机、假造机、收集等资源信息,名目化的数据

  • 日记体系:API日记、ngnix日记,日记总量20T,天天新增50G

    API日记名目如下:

    操作UDW构建企业级数据客栈和BI体系

    ngnix日记名目如下:

    操作UDW构建企业级数据客栈和BI体系


  • 监控数据:各个产物的监控指标数据,监控数据总量10T,天天新增数据30G,名目化数据。

  • 产物运营数据:UHost、UDB等各个产物数据,各个产物的数据不同一,著名目化数据,有JSON名目标数据。

题目说明

数据源来历多

数据有来自营业数据库,有来自CMDB数据,有监控数据,尚有日记体系内里的数据。

数据名目多样化

除了布局化数据,照旧半布局化数据,尚有json名目标数据

即时查询多

70%以上为姑且性的统计说明,许多需求无法提前预知。

产物运营数据平台不同一

各个产物各自打点本身的运营数据、办理方案各自差异(Hive、MySQL、Mongodb、Elasticsearch等),打点伟大。

基于UDW的方案

如下图所示,是基于UDW数据客栈的一个办理方案架构图。

操作UDW构建企业级数据客栈和BI体系

图3 基于UDW数据客栈办理方案架构

大都据源的数据导入

通过mysql2udw器材,按时增量的把营业数据导入到UDW;通过rsyslog把日记体系、监控体系的数据及时同步到Kafka,每隔一分钟把Kafka中最新的数据举办加工处理赏罚,然后导入到UDW中;CMDB内里的数据按期dump成CSV文件然后导入UDW;各个营业发生的运营数据通过UDW接话柄时的写入UDW。

JSON名目数据

UDW已经支持JSON数据范例,可以在建设的表格的时行使JSON名目范例,很利便的处理赏罚JSON范例数据,如下所示。?

操作UDW构建企业级数据客栈和BI体系

通过下面临JSON数据查询可以很利便的查察一个哀求返回是否正常。

操作UDW构建企业级数据客栈和BI体系

操作UDW构建企业级数据客栈和BI体系

当差异的范例的数据通过按期可能及时的导入到UDW之后,可以很利便的满意上述数据说明需求,为公司同一的数据平台做有力的支撑。

(编辑:湖南网)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

热点阅读