核算大数据真实成本

可喜的是,大数据的“4V”理念volume、variety、velocity(容量、类型和速度)、value(在前三者基础上实现收集、存储、管理、分析而产生的数据价值)已经获得市场认可,正在赢得更多的商业价值。但问题也随之而生。如此广泛的定义意味着不同的需求,不同参与者带来的不同界定。比如,volume方面,不同的组织定义显然不同。有些人认为,在相关BI环境中或其他系统中,超过10TB需要决策的数据就可以称为大数据,而另一些人认为至少要到PB。velocity也是如此。数以亿元的记录流入到企业内部和外部传输中。但是每个业务情况完全不同,不仅是规模和传输角度,还有BI商业用例和需求也不同。比如一个大银行大数据的问题显然与电商或航空公司完全不同。再如对比医院试图收集并分析所背有传感器的病人的数据,显然也与来自公共事业供应商运行智能电网或电信运营商完全不同。是的,即使是被归类于机器生成或者原始数据,但这些数据类型并不相同,更不用说数量或者增长速率。但是他们也有唯一的一个共同特点,在上述所有行业中每个人的数据都需要长期保存,即使是最为细节数据也不能随意丢弃。

重新分配的预算

在如今的经济环境下,企业显然不会投入新的预算给到大数据,最可能的方案,是将现有IT预算重新分配。比如将原先分配在传统数据仓库或者设备上的预算调配到成本更低、更易于扩展的开源项目上,比如能够为管理和分析数据集提供最优方案的Hadoop架构等。而这样带来的问题是如何将新的Hadoop系统与旧有的更受喜爱和支持的BI或DW环境相整合或者并存?

新旧系统兼容并不容易

假设下你已经有了一个数据仓库或者数据集市,并已经开始使用各种ETL或数据移动工具及BI仪表盘,分析和报告工具,那么你肯定不想打扰那些不仅担心影响性能水平而且需要培训新工具培训的商业用户。

但事实是,针对各类商业报告和KPI,长期以来你已经习惯依赖于严格的SLA。但是,在同一时间,业务需要获得新的数据集,以便获得更好的分析,无论是直接数据源还是混合现有的客户数据。也许是来自各种互动网站的网络日志,点击流数据或社会媒体的数据被利用并且用来追踪。事实上,在追求利润和竞争优势的环境中,这样的数据竞争是无法避免的。

我们都知道,传统的关系型或柱状数据库不能处理非结构数据库类型,所以需要不同的解决方案来满足这方面的业务需求。也许有多种形式,但是在开始的时候,更多还是选择Hdoop架构,NoSQL或NewSQL数据库,以及除了MapReduce之外的一些查询工具。这不是很容易的事情,因为市场上现在有相对多的技术方案。这些方案往往声称可以在Hadoop中运行或提供类似MapReduce或者SQL-like的能力的来管理大量非结构化数据。有些是比较成熟的,但是也有些并非所标榜的低成本。开源表面上看成本较低,但是往往需要一定程度的支持,这也是为什么商业环境很重要的原因,而这些投入显然需要预算。大数据并非一个项目,其包含为了满足业务需求而正确部署大数据的所有组件。就像其他IT换将中所包含的一样:软件许可和支持、硬件资源、专业技能、专业服务以及培训和特定时间段企业用户对于输入关键要求如指定类型的报告、查询、分析等在不同时间内的需求的变换。

大数据成本快速转变

从大数据集的硬件支出管理方面来看,最初可能只需要10节点的Hadoop集群,但是如果你对数据速度要求很高,那么这个集群会很快增加到100+节点。届时,你需要面对的是大量的支出:额外的人员和技术资源用以管理整体环境,比如系统管理及监控,通过不同业务系统而来的附加软件,管理集群的工具等。但是如果需要对数据流进行实时分析,要检测欺诈或有不同寻常的地方,则需要一个商业工具来提供前端GUI控制台来跟踪特殊的KPIs或者数据可视化工具。这样商业用户可以很快了解相关情况,将重点放到通过最新收集的数据带来更多价值,减少非重点数据带来的存储硬件与软件的成本。

不可否认,大数据带来了新的机遇,这一点在一个量化的ROI中仍然是一个非常现实的挑战。每个人都在谈论如何通过大数据和创新技术来获得成功,但是相关成功案例并不多见。也许大数据并不成熟,但是好消息是,其发展速度比IT历史上的任何其他项目都快,这也受益于在过去的20年里,数据仓库和BI已经积累了足够的经验和教训。

以案例审核应用

想要更仔细地审查大项目主要应用领域,最好是通过特定的业务类型与案例。 以大型金融机构为例,其已经拥有了一批传统的数据仓库和BI系统,由于金融不能丢弃任何数据(法令法规对其的要求),但现在企业希望对特定的数据集进行目前形势下的趋势分析。如审查问题,“在特定时间段内,什么构成了低风险客户的消费模式(可参照消费者特征)”以帮助企业在细分市场获得更好的业绩。

显然,IT预算不会随着数据的增长而增长,相反,很大程度上需要降低成本,为此,很多企业选择了拥有更低组建成本,并可深入了解客户应用模式,捕捉半结构和非结构数据的Hadoop平台。前端数据仓库采用专用的Hadoop集群是首选方案,但是很多商业用户仍然希望能够同时通过Hdaoop环境和现有的传统数据仓库环境来访问。鉴于我们谈论的是金融机构,对有效性和安全性的要求都最高。要实现更多新需求,就需要更多技能和尽量避免重复工作。

下面是一个关于主要成本因素和评论集的快速表,可以帮助用户降低成本:

大数据基本上是一个商业问题。在你开始思考“什么业务能帮助企业收集、存储和分析新的数据集等”,就已经踏上了应用之路。无论你是否考虑主动引入外部顾问还是供应商来做相关项目,都要面对与现有环境相融合等问题。此外,大部分方案商都爱承诺,但新的创新技术包括Hadoop和MapReduce是否能够达到你的测试标准,是否可以与现有系统融合,都是问题。我们都知道,商业客户购买仅代表了成功的一半,而另一半是部署。

时间: 2024-10-27 07:28:23

核算大数据真实成本的相关文章

解决20%的大数据问题

一个采用模块化设计的大数据平台可以解决80%的大数据问题,而解决另外20%的问题就要靠大数据平台厂商结合行业客户的特殊需求进行定制化开发.中兴通讯DAP 2.0大数据平台就具备了这方面的能力,能够为行业客户带来实实在在的价值. 大数据的本质在于,可以提升人类活动的准确性,减少传统方式下的试错成本,从而提升社会的整体效率.比如,现在热门的精准营销就是通过大数据提高广告的准确性,减少对无效客户的推送,以提高信息传播的效率.中兴通讯股份有限公司(以下简称中兴通讯)中心研究院副总裁陈坚表示:"归根结底,

关于大数据的思考

关于大数据的思考 <大数据思维与决策>读后感 “21世纪的竞争是数据的竞争,谁掌握数据,谁就掌握未来.”——马云 不难理解大数据在我们生活的重要性.随着科技发展,网络无处不在,存储信息的本质是数字0和1(至少目前的计算机是如此),因而可以说数据无处不在. 在<大数据思维与决策>中,作者采用大量例子说明近20年来大数据对传统行业.传统思维的冲击,从医学到教育领域到金融行业再到互联网,大数据思维的冲击是史无前例的. 一.回归方程带来的冲击 从前人们的决策几乎全靠人为经验判断,作者在这个

大数据运营之孕育小结局:凡事预则立,不预则废

[文摘自:李福东<大数据运营>第3章内容回顾?,了解更多请关注微信公号:李福东频道] 编者按 "孕育"意味着埋下一颗希望的种子,要想让这个"种子"满足预期要求,必须从全局和长远考虑,对于设计大数据服务这颗高科技"种子",还应当具备正确的思维方式,具备面向服务.面向过程.全生命周期.数据即资产的观念,将大数据作为服务或者产品来对待,以价值创造为衡量大数据服务的原则,整合企业内部及社会数据,充分挖掘大数据的潜力. 文章正文 不同于面向操作

谈谈大数据在硅谷真实的应用案例

我在国内看到的那些大数据文章好像都比较空洞,我来写点硅谷正发生的真实应用案例.这些应用已基本解释清楚大数据如何提供决策参考,以及我们作为普通老百姓如何和它发生关系. 医疗领域 我要说的第一个案例是大数据如何减少美国医院急救数量. 因为美国急救价格很贵,而很多需要急救的病人没有医疗保险,美国政府在支付急救费用上承担着大量花费,但是最近一个非营利性组织 Code for America 发现:其实美国医院急救问题的症结不在于有很多人打急救电话,而在于总是有一部分人一次又一次打急救电话. 他们给我举的

大型企业级云产品-亿级数据统计分析系统(真实大数据应用,代码企业可直接复用)

本套教程为真实的大数据实战案例,适合有大数据基础的学员学习,熟练掌握本套大数据案例,完全可以胜任企业级的大数据开发.祝愿各位转型的大数据学子拿到自己理想的收入. 网盘地址:https://pan.baidu.com/s/1cpTZKGjsUkTt5Sk3Uuii6g 提取码:upzq 原文地址:https://blog.51cto.com/13890029/2377242

大数据带给我们的是真实的价值

大数据可以告诉你,你缺什么 大数据可以告诉你,你想要什么 大数据可以告诉你,你是谁 大数据可以告诉你,别人缺什么 大数据可以告诉你,别人想要什么 大数据可以告诉你,别人是谁 大数据带给我们的是更精确的投资,更高效收益,更少的浪费! 大数据拥有无限潜力,值得我们去挖掘!

大数据告诉你真实车价:哪月哪天买车最便宜?

什么时候买车最便宜,来来,让大数据掐指给你算算…… “想买一辆车,希望在一年中,有这么一个月的那样一天,它的价格是全年中最便宜的.”这不是逗比的许愿节目,而每个人是否确实有过这样的心愿. 于是上网查,听各种专家说,然后中国的专家蜀黍告诉我们的一个答案是12月,更有意思的是来自于大洋彼岸的洋蜀黍们也这么说. 为 什么是12月,中国的专家蜀黍是这样解释的:12月份是私人购车的传统最高峰,也是政府和效益好的企业突击花钱的最高峰,厂家为了抢这个大蛋糕和向年度销 售目标冲击,都会较大幅度降价,因此这时候买

论大数据的十大局限

“忽如一夜春风来,千树万树梨花开”,似乎在一夜之间,大数据就红遍了南北半球,,大数据被神化得无处不在,无所不包,无所不能.这里面有认识上的原因,也有故意忽悠的成份.笔者以为,越是在热得发烫的时候,越是需要有人在旁边吹吹冷风.在这里谈大数据的十大局限性,并非要否定其价值.相反,只有我们充分认识了大数据的特点和优劣势,才能更加有效地对其进行采集.加工.应用,充分挖掘和发挥其价值.         1.数据噪声:与生俱来的不和谐 大数据之所以为大数据,首先是因为其数据体量巨大.然而,在这海量的数据中,

大数据应用案例

2012年大数据公司Splunk公司成功上市,对风投机构价格向大数据领域投资力度起到推波助澜的作用,数据分析和商业智能等与大数据有关的其他版块也将获得发展机会. Splunk的技术方案在于帮组IT部门监控并分析来自不同来源.设备或机器的数据,其中包括日志.性能指标.事件等等. Splunk只是是运营比较成功的大数据公司之一,还有其它更多的大数据应用在各行各业发挥其巨大的作用. 例如: 1. 梅西百货的实时定价机制.根据需求和库存的情况,该公司基于SAS的系统对多达7300万种货品进行实时调价.