随着信息技术的不断涌现和普及,业务发展加快了数据膨胀的速度 , 行业内衍生了较多的新名词 , 如数据治理、数据管理、数据资源管理、数据资产管理等名词的定义很多 , 概念容易混淆,本文对这些名词术语及内涵进行系统的解析,便于读者对数据相关的概念有全面的认识 。
一、数据与数据管理
1、数据
数据(Data)是指所有能输入到计算机并被计算机程序处理的符号的介质的总称,是用于输入电子计算机进行处理,具有一定意义的数字、字母、符号和模拟量等的通称,是组成信息系统的最基本要素 。
未来是智能时代,企业的决策机制将发生巨大变化,谁最先拥抱数据,谁就拥有更多智慧,谁就拥有更强竞争力,大数据技术将会推动人类无所不知、无所不晓、无所不能,助力无所不能的是无所不包的数据,未来十年,只有拥抱数据技术才是唯一选择 。
2、数据管理
数据管理(Data Management)的概念是伴随上世纪八十年代数据随机存储技术和数据库技术的使用,计算机系统中的数据可以方便地存储和访问而提出的 。
2015年 , 国际数据管理协会(DAMA , Data Management Association International)在DBMOK2.0知识领域将其扩展为11个管理职能,分别是数据架构、数据模型与设计、数据存储与操作、数据安全(Data Security)、数据集成与互操作性、文件和内容、参考数据和主数据(Master Data)、数据仓库(Data Warehouse)和商务智能(BI,Business Intelligence)、元数据(Metadata)、数据质量(Data quality)等 。
数据管理(Data Management)是指通过规划、控制与提供数据和信息资产职能,包括开发、执行和监督有关数据的计划、政策、方案、项目、流程、方法和程序,以获取、控制、保护、交付和提高数据和信息资产价值 。
【数据中台vs 湖仓一体 数据湖治理数据代表什么意思】
表1.各大机构对数据管理的定义一览表机构名称二、数据治理
1、数据治理的定义
数据治理(Data Governance)是一个正在不断发展的新兴学科,与众多新兴学科一样,目前数据治理存在多种定义,各大机构对数据治理的定义 , 如下表所示:
表2. 各大机构对数据治理的定义一览表
2、狭义的数据治理
狭义的数据治理的驱动力最早源自两个方面:
(1)内部风险管理的需要,包括:财务做假、敏感数据涉密、数据质量差影响关键决策等 。
(2)为了满足外部监管和合规的需要 , 比如萨班斯-奥克斯利法案、巴塞尔I/巴塞尔协议、健康保险流通与责任法案(HIPAA)等 。
但随着全球越来越多的企业了解到信息资产的重要性和价值 , 在过去几年中,数据治理的目标也在发生些转变 。除满足监管和风险管理外,如何通过数据治理来创建业务价值备受关注 。
3、广义的数据治理
广义的数据治理是对数据资产管理行使权力和控制的活动集合(规划、监控和执行),指导其他数据管理职能如何执行,在高层次上执行数据管理制度 。组织为实现数据资产价值最大化所开展的一系列持续工作过程,明确数据相关方的责权、协调数据相关方达成数据利益一致、促进数据相关方采取联合数据行动 , 数据治理与数据管理的关系如下图所示:
图1.数据治理与数据管理关系
数据治理的全过程:
从范围来讲,数据治理涵盖了从前端事务处理系统、后段业务数据库到终端的数据分析,从源头到终端再回到源头形成一个闭环负反馈系统(控制理论中趋稳的系统),从目的来讲,数据治理就是对数据的获取、处理、使用进行监督(监管就是我们在执行层面对信息系统的负反?。喙艿闹澳苤饕ü甯龇矫娴闹葱辛幢Vぁ⑾帧⒓喽健⒖刂啤⒐低ā⒄?。
数据治理的目标:共同保证“正确的信息,以正确的形式 , 在正确的时候,交付给正确的人” 。
3、数据治理的重要性
高质量的数据对任何企业都是战略性资产,随着企业推进数字化转型的进程,有效数据正迅速成为一个关键的业务差异,但要使数据具有价值,需确保数据的可信任、安全性、可访问性、准确性、共享性和及时性 。数据治理有助于增强企业灵活性以最小化决策相关成本和风险,特别在数字经济中 , 数据治理比以往任何时候都显得尤为重要 。
缺乏企业高层领导的支持、系统间的数据壁垒和整个治理项目缺乏明确的流程和数据模板、数据所有权和问责机制不清等因素是导致项目失败或者治理结果不理想的主要原因 。涉及到企业中所有跨功能和跨业务的决策机制 。数据治理具有战略性、长期性、艰巨性、系统性、持续企业内部数据环境优化治理工作,因此数据治理是一个漫长而持续的过程,没有一针顶破天的诀窍,也没有立竿见影的捷径,要避免对数据治理工作粗浅的认识 。
三、数据资源管理
数据资源管理(Data Resource Management)是应用数据库管理、数据仓库等信息系统技术和其他数据管理工具,完成组织数据资源管理任务,满足企业信息需求的管理活动 。
数据资源管理(Data Resource Management)是应用信息技术和软件工具完成组织数据资源管理采用文件处理方法 , 在这种方法中,数据根据特定的组织应用程序的处理要求被组织成特定的数据记录文件,只能以特定的方式进行访问 。这种方法在为现代企业提供流程管理、组织管理信息时显得过于麻烦,成本过高并且不够灵活 。因此出现了数据库管理办法,它可以解决文件处理系统存在的问题 。
全业务域数据资源中心为企业提供完整的数据中心解决方案,提升企业管理和运营效率,实现数据采集管理、标准规范管理、元数据管理、主数据管理、数据协同与追溯管理、调度管理,数据反捕、BI决策分析等 , 通过体系化的数据资源管理中心的建设,可有效打通企业内部之间的数据流通渠道,解决企业管理信息化在数据层面的核心问题 , 形成横向集成、纵向贯通的高效、有序的信息流,发挥数据信息的基础支撑作用,满足企业对信息和数据的需求,帮助企业解决数据集成和共享、盘活数据资产和有效规避信息孤岛等问题 。
四、数据资产与数据资产管理
1、数据资产的定义
数据资产(Data Asset)是指由企业拥有或者控制的,能够为企业带来未来经济利益的,以物理或电子的方式记录的数据资源,如文件资料、电子数据等 。在企业中,并非所有的数据都构成数据资产,数据资产是能够为企业产生价值的数据资源 。
2、数据资产的属性
数据资产具有无形资产的属性,从这个角度出发,我们可以发现数据资产主要有以下特性:无消耗性、增值性、依附性、价值易变性、战略性 。
- 无消耗性:数据资产的每次使用只需要花费很低的成本 , 不会因为使用频率的增加而磨损、消耗,与其他传统无形资产有相似性 。
- 增值性:企业通过稳定发展,会促使数据资产在原有的基础上,数据规模和数据维度的不断积累 , 整体价值进一步提升 。
- 依附性:与其他无形资产类似,数据资产不能独立发挥作用,其发挥作用和效应往往依附于相应的软件、硬件 。
- 价值易变性:数据资产时刻受到数据容量、数据时效程度、应用场景等因素的影响,与其他无形资产相比 , 其价值更易发生变化 。
- 战略性:一切数据业务化,一切业务数据化,具有战略性 。
数据资产管理(Data Asset Management)是指规划、控制和提供数据及信息资产的一组业务职能,包括开发、执行和监督有关数据的计划、政策、方案、项目、流程、方法和程序,从而控制、保护、交付和提高数据资产的价值 。数据资产管理需要充分融合业务、技术和管理,以确保数据资产保值增值 。
数据资产管理(Data Asset Management)一般来说包括统筹规划、管理实施、稽核检查和资产运营四个主要阶段,贯穿数据采集、存储、应用和销毁整个生命周期全过程 。企业管理数据资产就是对数据进行全生命周期的资产化管理,促进数据在“内增值,外增效”两方面的价值变现,同时控制数据在整个管理流程中的成本消耗 。
图2.数据资产管理过程
数据资产管理(Data Asset Management)包括两个重要方面,一是数据资产管理的核心管理职能;二是确保这些管理职能落地实施的保障措施,包括战略规划、组织架构、制度体系等 。
五、数据管理、数据资产管理与数据资产管理内涵的演进
数据管理、数据资源管理与数据资产管理有着密切关系和关联,但随着现代数字技术的高速发展,三者在内涵、侧重、延伸等方面存在差异 。
图3.数据管理、数据资源管理与数据资产管理的关系
1、数据资产内涵
在数据资产化的大背景下,数据资产管理是在数据管理基础上的进一步发展,可以视作数据管理的升级版,主要区别在以下三个方面:
一是数据管理的视角不同 , 数据资产管理强调数据是一种资产,基于数据资产的价值、成本、收益开展全生命周期的管理 。
二是管理职能有所不同,数据资产管理包含数据模型、元数据、数据质量、参考数据和主数据、数据安全等传统数据管理职能,同时整合数据架构、数据存储与操作等内容,将数据标准管理纳入管理职能,并针对当下应用场景、平台建设情况,增加了数据价值管理职能 。
三是管理要求有所升级,在“数据资源管理转向数据资产管理”的理念影响下,相应的组织架构和管理制度也有所变化,需要有更专业的管理队伍和更细致的管理制度来确保数据资产管理的流程性、安全性和有效性 。
2、三者的关系
- 数据管理指利用计算机硬件和软件技术对数据进行有效的收集、存储、处理和应用的过程 。数据管理目标:在于充分有效地发挥数据的作用 。
- 数据资源管理致力于发展处理企业数据生命周期的适当的建构、策略、实践和程序 。数据资源目标:去寻找手段 , 以有效的控制数据资源,并提升数据资源的利用率 。
- 数据资产管理的核心思路是把数据对象作为一种全新的资产形态 , 并且以资产管理的标准和要求来加强相关体制和手段 。从经济角度,满足对资产运营的各类管理要求 。
- 数据与企业设备、软件、人才一样成为企业的重要资产,可以从多个角度和多个层面为企业带来价值收益 。
- 数据资产管理除了包含传统以数据质量提升为目标的数据治理外 , 还包括挖掘数据价值的数据运营 。
- 数据资产管理不能仅仅依靠信息部门开展,需要企业自上而下各个部门之间的分工协作 。
本文对数据、数据管理、数据治理、数据资源管理、数据资产管理等内涵作了详细说明,便于读者更好的理解和掌握数据领域相关概念 , 最后总结两点:
一、数据资源将成为战略资产,而有效的数据治理才是数据资产形成的必要条件 。
二、有效的数据治理是一个持续性的过程,也是逐步实现数据价值的过程 。所以数据治理是企业信息化的基石 , 数据资产是企业战略发展的核心价值,数据管理为企业赋能 。(鸣谢:蔡春久先生给予专业指导)
随着企业的发展,企业的数据不断增多,数据重要性逐渐浮出水面,企业开始数字化转型,推动数字化转型时候我们经常听到数据管理,数据治理,数据中心 , 数据中台,数据湖这些词语,下面会分别介绍这些词语的含义并介绍他们关联关系 。
数据湖:就是一个大的存储站,这个存储是分布式可无限扩展的,存储过来的数据也不会去清洗和加工,尽量保持原样 。
数据管理:通过一系列标准进行数据的增删改查操作,遵循一定的流程,一定的组织角色分工,而这些内容就必须先通过数据治理定义清楚,而这些内容就必须先通过数据治理定义清楚 。
数据治理:数据治理分为主数据治理和业务数据治理,数通畅联推荐采用MDM基础数据管理平台进行数据住主数据的治理、使用DAP数据分析平台进行业务数据治理 。
数据中心:数通畅联的解决方案是通过DAP数据分析平台结合ESB数据总线从各系统进行数据抽取、加工、转换,并汇聚存储到数仓中 , 构建企业的数据中心 。
数据中台:数通畅联推荐基于平台构建中台,通过DAP+MDM+ESB这三种产品构建数据中台 , 通过MDM进行企业基础数据管理(也是数据管理一种),进行基础数据治理、从业务系统到ODS中间库,ODS转换到数仓(到维度表、基础事实表)清洗数据,汇总加工处理 , 采用的是湖(湖就代表着数据湖的概念)仓一体的模式存储的数据中心,然后把处理后的数仓中存储的数据构建分析模型,进行可视化展现配置和提供数据服务,从而提升企业数据价值,加快企业数字化转型 。