技术
首页  >  技术  >  技术要闻

大数据和“三只小猪”

2014-09-29  来源:中国信息产业网  作者:Renato Manongdo

我最近为客户提供项目咨询服务,帮助他们管理企业数据资产。咨询服务始终围绕同一个问题——怎样灵活、积极地应对商业分析需求,并保持数据完整性和可靠性。此外,客户还面临数据供应中提取、转换和加载(ETL)成本激增的问题。

在讨论中,大数据问题尤为突出,客户意识到他们需要驯服大数据这头“怪兽”的能力,同时不断满足传统企业级结构化关系数据的需求。我的解决方案是根据数据预期用途设置其完整性和可靠性级别。金牌、银牌或铜牌是我们经常听到的数据价值分类方式。而实际上,我更喜欢使用“三只小猪盖房子”(分别使用稻草、木头和砖头)的故事来说明,这个故事能更形象地反映数据存储环境下与交付服务(成本)相对应的不同保护级别(完整性和可靠性)。

财务数据、对外报告和法规遵从性数据需在“砖房”(BRICKS)环境中存储处理。这些数据需要可靠的硬件基础设施,并与其原始来源保持一致。企业中多个职能部门使用产品服务定价决策、销售业绩及分析以及至关重要的员工/管理层薪酬激励机制计算等财务数据,这是很常见的情况。

精心设计的“木房”(STICK)环境可确保存储数据牢固耐用。该环境专用于应用程序,而并非针对企业级使用和跨职能部门数据共享而设计。该数据类型可专门用于数据转换,通常包括大量营销数据集市。仅数据转换、协调及沿袭等必要功能即可满足特定商业用途。与上述“砖房”相比,“木房”从本质上讲,成本更低,速度更快。

最后介绍“草房”(HAY)。“草房”实际上是指在需要使用数据的特定日期对数据进行转换、分组及汇总。其中,数据可能以原始来源的数据格式存在,几乎不需要任何数据结构。用户可任意调整数据格式。虽然 “草房”设计无法轻易复制或纵向扩展,却适用于应对非特定、非重复性商业问题。该方案对数据协调及复制的需求低。

使用“三只小猪”的类比相当直观,但具体解决方案应参考数据管控(Data Governance)方针。如能应对自如,业务部门希望快速获得低成本解决方案;而IT部门则需要依托可靠的解决方案,提供健全、可靠的服务。这也是业务及IT部门大多数讨论中的固有矛盾。

由于部署迅速、成本低且失败的代价低,“草房”解决方案备受关注。在新的经济机制下,特别是在自助式环境下用户对数据(包括大数据)价值的认可,是数据实验室和探索环境快速发展的原因。因此,业务部门选择快速、低成本的解决方案也不足为奇。

但将“草房”方案升级为“木房”或“砖房”环境时,IT部门的成本令人非常震惊。“为什么他们不能使用我们两周内设计的解决方案?”他们可以。但在“草房”的基础上部署“砖房”甚至是“木房”方案都行不通。利用“草房”的设计方案部署“木房”及“砖房”方案,将浪费IT部门大量预算。其主要价值在于确定将提供信息的有效性。

Teradata天睿公司基于对数据不同用途的理解,实现企业级信息管理,旗下各种平台解决方案可迎合“砖房”(整合数据仓库)、“木房”(数据专用平台)和“草房”(Teradata Aster、Hadoop)的各种需求。其主要挑战是识别数据重要性的数据管控策略和过程。在“草房”环境中设计出的“创意”方案需迁移至更稳定的环境时,参与数据管理方式(草房、木房还是砖房)决策的相关负责人需要全面了解下游数据的重要性。

在“三只小猪”的类比中当然少不了大灰狼,更多信息请关注未来的文章。

Renato Manongdo是Teradata天睿公司澳大利亚和新西兰地区金融服务业高级咨询顾问兼亚太地区商业价值评估实践负责人。

关键词:数据资产 大数据