纸牌屋与大数据.ppt

《纸牌屋与大数据.ppt》由会员分享，可在线阅读，更多相关《纸牌屋与大数据.ppt（24页珍藏版）》请在优知文库上搜索。

1、大数据大数据“大数据” “大数据”这个术语最早期的引用可追溯到apache org的开源项目Nutch。当时，大数据用来描述为更新网络搜索索引需要同时进行批量处理或分析的大量数据集。战略意义 大数据技术的战略意义不在于掌握庞大的数据信息，而在于对这些含有意义的数据进行专业化处理。换言之，如果把大数据比作一种产业，那么这种产业实现盈利的关键，在于提高对数据的“加工能力”，通过“加工”实现数据的“增值”。结构 从技术上看，大数据与云计算的关系就像一枚硬币的正反面一样密不可分。大数据必然无法用单台的计算机进行处理，必须采用分布式架构。它的特色在于对海量数据进行分布式数据挖掘（SaaS），但它必须依托

2、云计算的分布式处理、分布式数据库（PaaS）和云存储、虚拟化技术（IaaS）。4个基本特征 一、数据体量巨大。 二、数据类型多样。现在的数据类型不仅是文本形式，更多的是图片、视频、音频、地理位置信息等多类型的数据。 三、处理速度快。数据处理遵循“1秒定律”，可从各种类型的数据中快速获得高价值的信息。 四、价值密度低。以视频为例，一小时的视频，在不间断的监控过程中，可能有用的数据仅仅只有一两秒。大数据的作用 第一，对大数据的处理分析正成为新一代信息技术融合应用的结点。移动互联网、物联网、社交网络、数字家庭、电子商务等是新一代信息技术的应用形态，这些应用不断产生大数据。云计算为这些海量、多样化的大

3、数据提供存储和运算平台。通过对不同来源数据的管理、处理、分析与优化，将结果反馈到上述应用中，将创造出巨大的经济和社会价值。大数据的作用 第二，大数据是信息产业持续高速增长的新引擎。面向大数据市场的新技术、新产品、新服务、新业态会不断涌现。在硬件与集成设备领域，大数据将对芯片、存储产业产生重要影响，还将催生一体化数据存储处理服务器、内存计算等市场。在软件与服务领域，大数据将引发数据快速处理分析、数据挖掘技术和软件产品的发展。大数据的作用 第三，大数据利用将成为提高核心竞争力的关键因素。各行各业的决策正在从“业务驱动” 转变“数据驱动”大数据的作用 第四，大数据时代科学研究的方法手段将发生重大改变

4、。大数据的处理 1. 采集 大数据的采集是指利用多个数据库来接收发自客户端（Web、App或者传感器形式等）的数据，并且用户可以通过这些数据库来进行简单的查询和处理工作。大数据的处理 2. 导入/预处理 虽然采集端本身会有很多数据库，但是如果要对这些海量数据进行有效的分析，还是应该将这些来自前端的数据导入到一个集中的大型分布式数据库，或者分布式存储集群，并且可以在导入基础上做一些简单的清洗和预处理工作。大数据的处理 3. 统计/分析 统计与分析主要利用分布式数据库，或者分布式计算集群来对存储于其内的海量数据进行普通的分析和分类汇总等，以满足大多数常见的分析需求，在这方面，一些实时性需求会用到E

5、MC的GreenPlum、Oracle的Exadata，以及基于MySQL的列式存储Infobright等，而一些批处理，或者基于半结构化数据的需求可以使用Hadoop。大数据的处理 4. 挖掘 与前面统计和分析过程不同的是，数据挖掘一般没有什么预先设定好的主题，主要是在现有数据上面进行基于各种算法的计算，从而起到预测（Predict）的效果，从而实现一些高级别数据分析的需求。大数据的处理 整个大数据处理的普遍流程至少应该满足以上四个方面的步骤，才能算得上是一个比较完整的大数据处理。人们对大数据的认识误区 一、数据不等于信息 经常有人把数据和信息当作同义词来用。其实不然，数据指的是一个原始的数

6、据点（无论是通过数字，文字，图片还是视频等等），信息则直接与内容挂钩，需要有资讯性（informative）。数据越多，不一定就能代表信息越多，更能不能代表信息就会成比例增多。人们对大数据的认识误区 二、信息不等于智慧（Insight） 现在我们去除了数据中所有重复的部分，也整合了内容类似的数据，现在我们剩下的全是信息了，这对我们就一定有用吗？不一定，信息要能转化成智慧，至少要满足一下三个标准： 可破译性、关联性、新颖性。案例1. 大数据应用案例之：医疗行业1 Seton Healthcare是采用IBM最新沃森技术医疗保健内容分析预测的首个客户。该技术允许企业找到大量病人相关的临床医疗信息，

7、通过大数据处理，更好地分析病人的信息。2 加拿大多伦多一家医院，针对早产婴儿，每秒钟有超过3000次的数据读取。通过这些数据分析，医院能够提前知道哪些早产儿出现问题并且有针对性地采取措施，避免早产婴儿夭折。3 它让更多的创业者更方便地开发产品，比如通过社交网络来收集数据的健康类App。也许未来数年后，它们搜集的数据能让医生给你的诊断变得更为精确，比方说不是通用的成人每日三次一次一片，而是检测到你的血液中药剂已经代谢完成会自动提醒你再次服药。案例2. 大数据应用案例之：能源行业1 智能电网现在欧洲已经做到了终端，也就是所谓的智能电表。在德国，为了鼓励利用太阳能，会在家庭安装太阳能，除了卖电给你，

8、当你的太阳能有多余电的时候还可以买回来。通过电网收集每隔五分钟或十分钟收集一次数据，收集来的这些数据可以用来预测客户的用电习惯等，从而推断出在未来23个月时间里，整个电网大概需要多少电。有了这个预测后，就可以向发电或者供电企业购买一定数量的电。因为电有点像期货一样，如果提前买就会比较便宜，买现货就比较贵。通过这个预测后，可以降低采购成本。2 维斯塔斯风力系统，依靠的是BigInsights软件和IBM超级计算机，然后对气象数据进行分析，找出安装风力涡轮机和整个风电场最佳的地点。利用大数据，以往需要数周的分析工作，现在仅需要不足1小时便可完成。案例3. 大数据应用案例之：通信行业1 XO Com

9、munications通过使用IBM SPSS预测分析软件，减少了将近一半的客户流失率。XO现在可以预测客户的行为，发现行为趋势，并找出存在缺陷的环节，从而帮助公司及时采取措施，保留客户。2 电信业者透过数以千万计的客户资料，能分析出多种使用者行为和趋势，卖给需要的企业，这是全新的资料经济。3 中国移动通过大数据分析，对企业运营的全业务进行针对性的监控、预警、跟踪。系统在第一时间自动捕捉市场变化，再以最快捷的方式推送给指定负责人，使他在最短时间内获知市场行情。4 NTT docomo(日本最大的移动通信运营商，拥有超过6千万的签约用户)把手机位置信息和互联网上的信息结合起来，为顾客提供附近的餐

10、饮店信息，接近末班车时间时，提供末班车信息服务。案例4. 大数据应用案例之：零售业1 我们的某个客户，是一家领先的专业时装零售商，通过当地的百货商店、网络及其邮购目录业务为客户提供服务。公司希望向客户提供差异化服务，如何定位公司的差异化，他们通过从 Twitter 和 Facebook 上收集社交信息，更深入的理解化妆品的营销模式，随后他们认识到必须保留两类有价值的客户：高消费者和高影响者。希望通过接受免费化妆服务，让用户进行口碑宣传，这是交易数据与交互数据的完美结合，为业务挑战提供了解决方案。Informatica的技术帮助这家零售商用社交平台上的数据充实了客户主数据，使他的业务服务更具有目

11、标性。2 零售企业也监控客户的店内走动情况以及与商品的互动。它们将这些数据与交易记录相结合来展开分析，从而在销售哪些商品、如何摆放货品以及何时调整售价上给出意见，此类方法已经帮助某领先零售企业减少了17%的存货，同时在保持市场份额的前提下，增加了高利润率自有品牌商品的比例。纸牌屋“可能会动摇美国传统电视产业，传统电视产业的变革即将从纸牌屋开始”福布斯纸牌屋 这部改编自同名英国政治惊悚小说的电视剧，讲述的是一个老谋深算的美国国会议员与其野心勃勃的妻子在华盛顿政治圈“运作权力”的故事。但是，这部标准的政治剧最特别的地方在于，不是传统意义上由制片人制作好再出售，而是由视频网站Netflix投资并制作；不在电视台播放，而只在网络上播放。纸牌屋 有趣的是，这部电视剧的导演和男主角都是被“算”出来的。Netflix在美国有接近2700万的订阅用户，这些人每天在Netflix上产生3000多万个网络点击行为，例如暂停、回放或者快进，并且用户每天还会给出400万个评分，以及300万次搜索请求根据数据，点击率非常高的鬼才导演大卫芬奇和男演员凯文史派西，成为了主创的选择。纸牌屋 大数据就这样注入了电视剧行业。纸牌屋被誉为电视剧行业通过互联网挖掘用户行为数据分析结果的第一次战略运用，这似乎给电视剧、视频网站从业者带来了一种新思路。