深圳之声_打造深圳最全面的企业资讯平台
您当前的位置 : 深圳之声  >  游戏
惟客数据解读:数据湖、数据仓库、数据中台究竟区别在哪儿?
2021-10-20 15:06:47 来源:互联网 阅读:-

      数字化转型浪潮卷起各种新老概念满天飞,数据湖、数据仓库、数据中台轮番在朋友圈刷屏,有人说“数据中台算个啥,数据湖才是趋势”,有人说“再见了数据湖、数据仓库,数据中台已成气候”……

      企业还没推开数字化大门,先被各种概念绊了一脚。那么它们3者究竟有啥区别?别急,先跟大家分享两个有趣的比喻。


      1、图书馆VS地摊

      如果把数据仓库比喻成“图书馆”,那么数据湖就是“地摊”。去图书馆借书(数据),书籍质量有保障,但你得等,等什么?等管理员先查到这本书属于哪个类目、在哪个架子上,你才能精准拿到自己想要的书;而地摊上没有人会给你把关,什么书都有,你自己翻找、随用随取,流程上比图书馆便捷多了,但大家找书的过程是没有经验可复用的,偶尔多拿少拿咱们可能也不知道。


      2、升级版银行

      假定数据仓库、数据湖、数据中台都是银行,可以提供现金、黄金等多种服务。过去大家进银行前都得先问门卫,里面每个门牌上的数字对应哪个服务呢?是现金还是黄金呢?然后推开对应的门把东西取出来。而有了“数据中台”这个银行,大家一进来就能看到标着“现金”、“黄金”汉字的窗口,一目了然,你只需要走到窗口前,就有专人帮你办理。

      以上两个例子不一定全面,但基本能解释三者的优劣势。数据仓库具备规范性,但取数用数流程长;数据湖取数用数更实时、存储量大,但数据质量难以保障;数据中台能精准快速地响应业务需求,离业务侧最近。

      为了更清晰地区别三者,接下来咱们再来看看它们各自的定义以及应用区别:


      ·数据湖、数据仓库、数据中台概念浅析

      1、数据湖是什么?

      数据湖,最早由Pentaho的创始人兼CTO James Dixon提出,维基百科对它的定义是一类存储数据自然/原始格式的系统或存储,通常是对象块或者文件,包括原始系统所产生的原始数据拷贝以及为了各类任务而产生的转换数据。

      简单来说,数据湖一个大型的基于对象的存储库,以数据的原始格式保存数据。它的显著特点在于,像湖泊一样没有固定形态和边界,能“容纳”各种数据,加入数据就扩大,移除数据会缩小,灵活性和包容性很高。


      2、数据仓库是什么?

      数据仓库诞生于1990年,绝对算得上是“老前辈”了,它是一个相对具体的功能概念。目前对数据仓库的主流定义是位于多个数据库上的大容量存储库,它的作用在于存储大量的结构化数据,并能进行频繁和可重复的分析,帮助企业构建商业智能(BI)。

      需要注意的是,数据仓库对数据格式是有要求的,只有符合标准的数据才能入库哦。


      3、数据中台又是什么?

      广义上理解,数据中台包含了顶层数据战略、数据治理体系以及数据管理及运营、数据文化培养和组织架构支撑,是一套持续管理和运营的体系。

      狭义上看,数据中台是通过数据技术,对海量、多源、多样的数据进行采集、处理、存储、计算,统一标准和口径,并以标准形式存储,形成大数据资产层,以满足前台数据分析和应用的需求。

      单从定义来看,可以发现数据湖、数据仓库、数据中台三者并不是非此即彼的关系,在数据来源、建设目标、数据应用几个方面它们存在一定差异。


      ·数据来源、建设目标、数据应用的差异

      1、数据来源

      数据湖包含原始系统所产生的原始数据拷贝以及为了各类任务而产生的转换数据,包括来自于关系型数据库中的结构化数据、半结构化数据、非结构化数据和二进制数据。

      数据仓库则以业务数据库的结构化数据为主,也就是由二维表结构来逻辑表达和实现的数据。

      数据中台是一套体系,既不是工具又不是存储,它可以包含数据湖和数据仓库。

      这里做个简单说明,具备行和列结构的就是结构化数据,比如表格;CSV、日志、XML、JSON属于半结构化数据;而咱们工作中最常用到的Email、文档、PDF等,属于非结构化数据;每天浏览的图像、视频,听的音频都属于二进制数据。


      2、建设目标

      数据湖能实现数据的集中式管理,为企业提供全局的、统一的企业级数据概览视图,让人人了解、分析数据,提供自助式探索数据的可能。

      数据仓库则以输出某个业务主题的BI报表和决策为主,目的性单一。

      数据中台主张打通全域数据孤岛,消除数据标准和口径不一致的问题,释放业务方数据应用价值。


      3、数据应用

      数据湖能结合不同的工具做数据处理和分析,不止于输出报表,也同样适合数据探索和发现,能够为企业挖掘新的运营需求。

      数据仓库主要针对管理决策等分析类场景,在其他方面则存在局限性,比如数据建模、数据追踪与探查、深度挖掘等。

      数据中台通过将数据服务化之后提供给业务系统,在数据应用上不仅限于分析型场景,也适用于交易类场景,比如营销推荐、风险评估等。

      总体来说,数据中台是加速企业从数据到业务价值的过程的中间层,可以建立在数据仓库和数据湖之上。

      至于企业处于什么阶段建数据仓库、什么阶段建数据湖、什么阶段建数据中台,还得看企业现阶段的具体情况,比如数据量、数据分析维度及要求、数据应用场景、预算等等,总之只有把工具和需求匹配起来,才能真正解决企业业务诉求。

推荐阅读:仍湉

频道推荐
  • 真香定律全球通用!Epic独占《无主之地 3》销量惊人
    真香定律全球通用!Epic独占《无主之地 3

    在 Steam 讨论一款 Epic Games Store 限时独占的游戏是一种怎样的体验?「我在 Epic Games Store 无法成功购买《无主之地 3...

    2019-09-19
  • 向死还生:游戏里的死亡惩罚(下)
    向死还生:游戏里的死亡惩罚(下)

    原文再续,书接上回。在上篇中我们讲了如何刻画死亡细节来引起玩家的共情,进而让大家对失败/死亡感到厌恶或恐惧。这一次我们聊聊更多元的死亡惩罚机制,看看游戏制作者是...

    2019-09-19