构建逻辑数据平台,DataFabric在金融、能源等行业的落地实践

原创 爱分析ifenxi 2024-04-02 19:42




应对业务用数敏捷和数据管理有序,本次分享结合在能源企业和证券公司的实际应用案例,就如何构建企业级逻辑数据平台进行分享。

分享嘉宾|余俊 Aloudata合伙人兼技术副总监

内容已做精简,如需获取专家完整版视频实录和课件,请扫码领取。


01

企业数据开发面临的问题和挑战

近10-20年,大量企业都在做自己的大数据平台,随着历史发展和技术的不断创新,企业内部可能同时存在不止一套大数据平台,数据孤岛化趋势明显,导致用户取数、用数成本激增,传统数据解决方案存在的数据时效问题、数据权责问题均难以解决。

数据湖与整个数仓的技术发展在近些年来迭代更新非常之快,随着企业大数据发展进程,数据孤岛问题随之产生。
首先,数据孤岛导致取数工作非常困难,尤其是不同数仓体系或者数据服务体系,不同产品访问、取数、用数、接口、语法都会不太一样,导致我们很难把这些数据真的用好,用户的学习成本非常高。
其次,业务用数时一旦涉及到一些全局业务,数据不在一个平台里面去使用,这些业务用数就非常难,典型的像业务360数据、集团财务看板这样一些数据。
最后,数据孤岛里面的数据也很难去做一些全域的数据治理,比如盘清楚企业真正的核心资产有哪些,有多少重复,这些问题都会面临挑战,这里包括数据安全管控问题等等。
面对这些问题,如果采取传统数据解决方案,通常做法是去搭建一个集中式的仓库,把所有的这些数据汇集到一起,然后再去做业务的实现。这样仍然面临几个很严峻的问题。一个是数据时效性的问题,因为数据如果提前同步好,是否所有数据都要提前同步进去?如果不是提前同步好,那么只有当业务用数的时候,你再去同步的话很可能面临一个滞后性的问题。除去时效性,另外一个问题是成本。数据权责的问题,数仓中加工出来的数据,同步出去之后,数据谁来维护?从生产者角度来讲,这个数据同步出去之后可能他的工作就结束了,从使用者角度来讲,又很在意数据的质量问题。

不同于ETL人工数据管理,Data Fabric利用数据虚拟化,无需复制数据,逻辑化实现任何来源、任何格式数据的集成整合,将正确的数据,在正确的时间,给到正确的人。

但数据虚拟化之后如何解决性能问题,是企业面临落地中一个非常大的挑战。

02

企业级逻辑数据平台构建与优势

面对企业数据孤岛,基于数据虚拟化引擎之上一整个逻辑数据研发平台。其中包含了数据逻辑集成、逻辑数据整合等多个维度。

逻辑数据平台的优势在于以销定产,业务按需进行逻辑集成和逻辑整合数据,业务使用数据按需做数据加速,同时也能轻松集成全域数据资产。

此外,逻辑数据平台也可以创建逻辑视图,分层加工数据,自动生成ETL任务和回收物理表,借由逻辑数据内置/外接数据构建+OLAP查询双引擎,BI工具直连逻辑数仓进行消费,数据处理和消费统一一套SQL语法,管理企业所有数据资产;逻辑数仓架构和底层大数据引擎解耦,底层技术组件升级不影响业务。

03
指标平台企业落地案例
基于企业数据孤岛,搭建逻辑层,有几个比较经典的架构。

一是数据的链接层,提供统一的数据逻辑整合能力,在此基础上做整个企业的统一资产管理。

二是统一的数据服务,包括统一的数据治理及统一的资产目录管理,对外访问的时候,只连接逻辑层,通过逻辑层实现所有消费端的对接。

案例一

某国有能源企业建有多套数仓,数据规模较大,数据分散,难以统一分析和使用。采用数据虚拟化构建逻辑层可以实现统一的数据查询和访问入口,统一集团所有数据权限管控和审计;同时也能统一数据服务,实现集团所有业务访问数据的集中管理;此外,在统一资产管理方面也有成效。

该国企最早使用的是基于Hana至少搭建BW数仓,之后又购买了国内大厂的一些数仓,因为其业务特性,各个分公司里面存在海量数据,这些数据有存在于另一个数据湖里面。整个数据中台,有BW仓的数据,也有新建数仓的数据,还有数据湖的数据。

像Mongo这种数据面临很多痛点,BW数据如果全部迁到新的数仓里面,无论重构还是新建,对于业务影响巨大,组织协同等各种原因导致无法做到统一,无法都搭到一个新的数仓里面去,但是从业务视角,有需要使用这些数据。同时集团子分公司非常多,每个子分公司又都有自己的数据,这些数据如何整合?最终采用的方案,在所有数据源之上构建一个虚拟化逻辑层,通过提供一个统一的数据访问服务,包括资产管理、安全管控。

实施过程中,按业务场景或是按业务线逐步去做,实现所有用数用户在逻辑数据平台这层可以看到企业所有有效数据,实现了整个数据查询访问的统一入口。

案例二

某传统券商公司要新建一个数仓以解决取数的问题,如果采用传统数仓体系搭建,公司内部原因IT人员无法完全支持且项目投入成本巨大。逻辑数仓搭建,采用RP(Relational Projection)策略,数据交付时长可以从两周缩短到几小时,数据开发管理工作量减少30%,数据存储计算成本节约70%。

该券商公司如果采用传统数仓体系搭建,很多IT层面的工作需要靠外包来解决,评估来看投入成本非常大,包括各种数仓技术组件、引擎搭建成本,IT运维成本等。基于逻辑化,低成本解决方案,源头有很多个数据源,因其各种各样的业务系统,离散在MySQL、Oracle、SQL Server,基于这些业务系统的数据,抽出一个PDS层,之上做一个DWD层,能有一个数据的历史链路去做沉淀,可以用于数据回溯,这是在该层实现的一个特点。
以上是本次分享的全部内容,如需获取专家完整版视频实录和课件可扫码领取。

长按二维码,领取完整版视频实录和课件

18年互联网技术和大数据平台相关架构经验,曾任蚂蚁集团大数据研发平台技术负责人。从零主导完成蚂蚁第一和第二代数据研发平台产品体系的建设,涵盖数据集成、研发、运维、质量基线及资产平台等完整数据研发平台产品体系,搭建了蚂蚁面向金融行业的逻辑化智能数据研发平台,有丰富的海量数据及智能化数仓的落地实践经验。

注:点击左下角“阅读原文”,领取专家完整版实录和分享课件


爱分析ifenxi 爱分析是一家中国领先的数字化市场研究与咨询机构。
评论 (0)
  • 二位半 5线数码管的驱动方法这个2位半的7段数码管只用5个管脚驱动。如果用常规的7段+共阳/阴则需要用10个管脚。如果把每个段看成独立的灯。5个管脚来点亮,任选其中一个作为COM端时,另外4条线可以单独各控制一个灯。所以实际上最多能驱动5*4 = 20个段。但是这里会有一个小问题。如果想点亮B1,可以让第3条线(P3)置高,P4 置低,其它阳极连P3的灯对应阴极P2 P1都应置高,此时会发现C1也会点亮。实际操作时,可以把COM端线P3设置为PP输出,其它线为OD输出。就可以单独控制了。实际的驱
    southcreek 2025-05-07 15:06 115浏览
  • 浪潮之上:智能时代的觉醒    近日参加了一场课题的答辩,这是医疗人工智能揭榜挂帅的国家项目的地区考场,参与者众多,围绕着医疗健康的主题,八仙过海各显神通,百花齐放。   中国大地正在发生着激动人心的场景:深圳前海深港人工智能算力中心高速运转的液冷服务器,武汉马路上自动驾驶出租车穿行的智慧道路,机器人参与北京的马拉松竞赛。从中央到地方,人工智能相关政策和消息如雨后春笋般不断出台,数字中国的建设图景正在智能浪潮中徐徐展开,战略布局如同围棋
    广州铁金刚 2025-04-30 15:24 351浏览
  • 这款无线入耳式蓝牙耳机是长这个样子的,如下图。侧面特写,如下图。充电接口来个特写,用的是卡座卡在PCB板子上的,上下夹紧PCB的正负极,如下图。撬开耳机喇叭盖子,如下图。精致的喇叭(HY),如下图。喇叭是由电学产生声学的,具体结构如下图。电池包(AFS 451012  21 12),用黄色耐高温胶带进行包裹(安规需求),加强隔离绝缘的,如下图。451012是电池包的型号,聚合物锂电池+3.7V 35mAh,详细如下图。电路板是怎么拿出来的呢,剪断喇叭和电池包的连接线,底部抽出PCB板子
    liweicheng 2025-05-06 22:58 235浏览
  • 随着智能驾驶时代到来,汽车正转变为移动计算平台。车载AI技术对存储器提出新挑战:既要高性能,又需低功耗和车规级可靠性。贞光科技代理的紫光国芯车规级LPDDR4存储器,以其卓越性能成为国产芯片产业链中的关键一环,为智能汽车提供坚实的"记忆力"支持。作为官方授权代理商,贞光科技通过专业技术团队和完善供应链,让这款国产存储器更好地服务国内汽车厂商。本文将探讨车载AI算力需求现状及贞光科技如何通过紫光国芯LPDDR4产品满足市场需求。 车载AI算力需求激增的背景与挑战智能驾驶推动算力需求爆发式
    贞光科技 2025-05-07 16:54 84浏览
  • 某国产固态电解的2次和3次谐波失真相当好,值得一试。(仅供参考)现在国产固态电解的性能跟上来了,值得一试。当然不是随便搞低端的那种。电容器对音质的影响_电子基础-面包板社区  https://mbb.eet-china.com/forum/topic/150182_1_1.html (右键复制链接打开)电容器对音质的影响相当大。电容器在音频系统中的角色不可忽视,它们能够调整系统增益、提供合适的偏置、抑制电源噪声并隔离直流成分。然而,在便携式设备中,由于空间、成本的限
    bruce小肥羊 2025-05-04 18:14 163浏览
  • UNISOC Miracle Gaming奇迹手游引擎亮点:• 高帧稳帧:支持《王者荣耀》等主流手游90帧高画质模式,连续丢帧率最高降低85%;• 丝滑操控:游戏冷启动速度提升50%,《和平精英》开镜开枪操作延迟降低80%;• 极速网络:专属游戏网络引擎,使《王者荣耀》平均延迟降低80%;• 智感语音:与腾讯GVoice联合,弱网环境仍能保持清晰通话;• 超高画质:游戏画质增强、超级HDR画质、游戏超分技术,优化游戏视效。全球手游市场规模日益壮大,游戏玩家对极致体验的追求愈发苛刻。紫光展锐全新U
    紫光展锐 2025-05-07 17:07 96浏览
  • 多功能电锅长什么样子,主视图如下图所示。侧视图如下图所示。型号JZ-18A,额定功率600W,额定电压220V,产自潮州市潮安区彩塘镇精致电子配件厂,铭牌如下图所示。有两颗螺丝固定底盖,找到合适的工具,拆开底盖如下图所示。可见和大部分市场的加热锅一样的工作原理,手绘原理图,根据原理图进一步理解和分析。F1为保险,250V/10A,185℃,CPGXLD 250V10A TF185℃ RY 是一款温度保险丝,额定电压是250V,额定电流是10A,动作温度是185℃。CPGXLD是温度保险丝电器元件
    liweicheng 2025-05-05 18:36 216浏览
  • 想不到短短几年时间,华为就从“技术封锁”的持久战中突围,成功将“被卡脖子”困境扭转为科技主权的主动争夺战。众所周知,前几年技术霸权国家突然对华为发难,导致芯片供应链被强行掐断,海外市场阵地接连失守,恶意舆论如汹涌潮水,让其瞬间陷入了前所未有的困境。而最近财报显示,华为已经渡过危险期,甚至开始反击。2024年财报数据显示,华为实现全球销售收入8621亿元人民币,净利润626亿元人民币;经营活动现金流为884.17亿元,同比增长26.7%。对比来看,2024年营收同比增长22.42%,2023年为7
    用户1742991715177 2025-05-02 18:40 196浏览
  • 5小时自学修好BIOS卡住问题  更换硬盘故障现象:f2、f12均失效,只有ESC和开关机键可用。错误页面:经过AI的故障截图询问,确定是机体内灰尘太多,和硬盘损坏造成,开机卡在BIOS。经过亲手拆螺丝和壳体、排线,跟换了新的2.5寸硬盘,故障排除。理论依据:以下是针对“5小时自学修好BIOS卡住问题+更换硬盘”的综合性解决方案,结合硬件操作和BIOS设置调整,分步骤说明:一、判断BIOS卡住的原因1. 初步排查     拔掉多余硬件:断开所有外接设备(如
    丙丁先生 2025-05-04 09:14 95浏览
  • ‌一、高斯计的正确选择‌1、‌明确测量需求‌‌磁场类型‌:区分直流或交流磁场,选择对应仪器(如交流高斯计需支持交变磁场测量)。‌量程范围‌:根据被测磁场强度选择覆盖范围,例如地球磁场(0.3–0.5 G)或工业磁体(数百至数千高斯)。‌精度与分辨率‌:高精度场景(如科研)需选择误差低于1%的仪器,分辨率需匹配微小磁场变化检测需求。2、‌仪器类型选择‌‌手持式‌:便携性强,适合现场快速检测;‌台式‌:精度更高,适用于实验室或工业环境。‌探头类型‌:‌横向/轴向探头‌:根据磁场方向选择,轴向探头适合
    锦正茂科技 2025-05-06 11:36 326浏览
我要评论
0
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦