开发者社区 > 博文 > 轻量级BDP知多少
分享
  • 打开微信扫码分享

  • 点击前往QQ分享

  • 点击前往微博分享

  • 点击复制链接

轻量级BDP知多少

  • 蓝小方
  • 2021-01-13
  • IP归属:未知
  • 64120浏览

什么是轻量级BDP

轻量级BDP,又称轻量级大数据平台,是在Hadoop体系基础上研发的大数据平台系统,结合业务需求场景快速部署,具备多租户、组件化、私有化部署能力,可提供轻量级数据平台产品解决方案。

需求背景

1)集团现有BDP规模较大,耦合性比较强,是通过硬编码来实现底层的一些技术和功能,组件化程度低,不够灵活,无法按需求解耦。举个例子,现有的BDP20个组件,我们需要其中的3个或者5个组件就可满足需求,但现有的BDP不能对组件解耦重组形成轻量级数据底座。

2)成本控制方面,在节点部署上现有的BDP平台,由于无法组件化解耦可能需要30或者50个节点, 但是针对小公司小企业,它只需要满足自己需求条件下进行节点部署,可能10个节点就满足需求。

3)技术开源是一个强诉求,很多项目需要源代码,在源代码基础上进行二次开发。但现有的BDP不能提供开源。

我们需要打造一款轻量级组件化可扩展的BDP平台,提升供应链对外大数据中台建设能力。

现有主流的几类BDP技术平台应用场景:

 侧重集计算、分析、服务为一体的,可视化解决方案

 

侧重应用于搜索和营销场景,提供数据处理和分析服务的技术平台。

 


京东物流轻量级BDP

轻量级BDP定位:垂直物流领域,主流大数据技术(支持开源),敏捷开发与快速响应(组件化、易部署)。


其主要特征:

1轻量级BDP可作为独立产品部署,支持云端及Docker容器多种方式私有化部署,最低仅需5个节点就可以实现数据开发和运维的完整功能,服务器需求量小,可快速部署,这使得客户使用大数据的资源门槛大幅度低;

2面向物流领域的解决方案,组件化可根据业务实际需求灵活选择。可快速高效定制化开发,新功能新需求支持敏捷开发,短时间内即可完成产品方案的快速交付,有良好的、完整的技术保障。

l  主要组件:数据同步,调度系统,数据开发IDE,用户权限,元数据管理,OLAP,监控预警,分布式存储,自定义函数管理组件等

3) 作为数据底座,可配合多个智能产品应用对外销售,减少对外项目中大数据PaaS的研发成本、或大数据平台的外购成本;

  

4) 运用主流和最新的大数据技术,支持开源,便于业务实际需求扩展和二次开发。如外接业务系统SAP hanaOracle, SQLServer,需要打通数据共享,通过模块化敏捷开发快速实现;对于京慧产品算法函数特殊需求支持,快速迭代Hadoop最新版本,进行源码二次开发。 

5) 对内部相关应用,可提供大数据开发集成环境、数据测试环境,避免数据直接上线到生产环节,可成为T-PaaS通用组件,提升内部项目产研开发效率和质量。

项目成果

京东物流轻量级BDP平台已作为价值供应链京慧产品的数据底座对外销售3个项目,对内支持1个项目。

了解更多,点击轻量级BDP平台:http://jdl-bdp.jd.com/


共0条评论
文章数
1
阅读量
1603

作者其他文章