什么是轻量级BDP
轻量级BDP,又称轻量级大数据平台,是在Hadoop体系基础上研发的大数据平台系统,结合业务需求场景快速部署,具备多租户、组件化、私有化部署能力,可提供轻量级数据平台产品解决方案。
需求背景
1)集团现有BDP规模较大,耦合性比较强,是通过硬编码来实现底层的一些技术和功能,组件化程度低,不够灵活,无法按需求解耦。举个例子,现有的BDP有20个组件,我们需要其中的3个或者5个组件就可满足需求,但现有的BDP不能对组件解耦重组形成轻量级数据底座。
2)成本控制方面,在节点部署上现有的BDP平台,由于无法组件化解耦可能需要30或者50个节点, 但是针对小公司小企业,它只需要满足自己需求条件下进行节点部署,可能10个节点就满足需求。
3)技术开源是一个强诉求,很多项目需要源代码,在源代码基础上进行二次开发。但现有的BDP不能提供开源。
我们需要打造一款轻量级组件化可扩展的BDP平台,提升供应链对外大数据中台建设能力。
侧重集计算、分析、服务为一体的,可视化解决方案
侧重应用于搜索和营销场景,提供数据处理和分析服务的技术平台。
京东物流轻量级BDP
轻量级BDP定位:垂直物流领域,主流大数据技术(支持开源),敏捷开发与快速响应(组件化、易部署)。
其主要特征:
1)轻量级BDP可作为独立产品部署,支持云端及Docker容器多种方式私有化部署,最低仅需5个节点就可以实现数据开发和运维的完整功能,服务器需求量小,可快速部署,这使得客户使用大数据的资源门槛大幅度低;
2)面向物流领域的解决方案,组件化可根据业务实际需求灵活选择。可快速高效定制化开发,新功能新需求支持敏捷开发,短时间内即可完成产品方案的快速交付,有良好的、完整的技术保障。
l
3) 作为数据底座,可配合多个智能产品应用对外销售,减少对外项目中大数据PaaS的研发成本、或大数据平台的外购成本;
4) 运用主流和最新的大数据技术,支持开源,便于业务实际需求扩展和二次开发。如外接业务系统SAP hana,Oracle, SQLServer,需要打通数据共享,通过模块化敏捷开发快速实现;对于京慧产品算法函数特殊需求支持,快速迭代Hadoop最新版本,进行源码二次开发。
5) 对内部相关应用,可提供大数据开发集成环境、数据测试环境,避免数据直接上线到生产环节,可成为T-PaaS通用组件,提升内部项目产研开发效率和质量。
项目成果
京东物流轻量级BDP平台已作为价值供应链京慧产品的数据底座对外销售3个项目,对内支持1个项目。
了解更多,点击轻量级BDP平台:http://jdl-bdp.jd.com/