首家大数据培训挂牌机构 股票代码:837906 | EN CN
阿里巴巴菜鸟级数据产品经理半年回顾总结篇
干货教程:如何绘制业务流程图(二)
干货教程:如何绘制业务流程图(一)
技术贴:如何在数据库中秘密地查询隐私数据
攻略教程:信息图(infographic)是怎么做出来的?
分析师一定要看!用数据讲故事的五个步骤
技术篇:怎样玩转千万级别的数据?
北漂书生:大数据时代SEO数据如何搜集和分析
干货,从十大问题重新认识并读懂互联网
相似图片搜索、算法、识别的原理解析(下)
相似图片搜索、算法、识别的原理解析(上)
制作信息图时请遵循这10条原则
提高表格可读性的一些技巧,适用于Excel、PPT等数据报表
实用教程:如何让Excel图表更具“商务气质”?
一张数据信息图是这样制作完成的
菜鸟读财报,如何从上市公司财报中挖情报?
北大数据分析老鸟写给学弟们一封信
如何一步一步制作出高品质数据信息图?
总结:海量数据分析处理的十个方法
【实战经验】数据分析师如何了解老板真正想法?
零售业数据分析那些事儿
数据分析时l常用电子表格公式【大全】
用数据来告诉你 上市公司财报的秘密
这12个数据能 帮你搞定淘宝店铺
首席工程师揭秘:LinkedIn大数据后台是如何运作的?(四)
首席工程师揭秘:LinkedIn大数据后台是如何运作的?(三)
首席工程师揭秘:LinkedIn大数据后台是如何运作的?(二)
首席工程师揭秘:LinkedIn大数据后台是如何运作的?(一)
淘宝网店从激活到挽留,4步走玩转数据营销
文案怎样写才有意思、不空洞、打动人?
入门级扫盲贴:数据分析的步骤有哪些?
关系即数据,论社交媒体的关系转换
数据的力量,苹果教你用数据鄙视竞争对手
谁说文科生不能做数据分析?数据分析入行→技能提升→优势
产品运营数据分析——SPSS数据分组案例
如何追踪iPhone和iPad等移动设备的用户行为数据?
阿里巴巴中国站:用户满意度指标权重计算方法
广告中的AdNetwork、AdExchange、DSP、SSP、RTB和DMP是什么?
信息图制作教程:关于数值的表现
为什么大数据会如此轰动?(值得深度的文章)
多图技术贴:深入浅出解析大数据平台架构
面板数据分析中标准误的估计修正——根据Peterson (2009)的归纳
财务官、投资人、CIO看过来:给企业数据定价
推荐系统中常用算法 以及优点缺点对比
探索Weotta搜索引擎背后的大数据技术
如何识别虚假数据?
为什么我们像驯化小狗那样驯化算法
程序员必须知道的10大基础实用算法及其讲解
电子商务:最影响转化率的九大要素
如何迅速成为一名数据分析师?
想从事大数据、海量数据处理相关的工作,如何自学打基础?
如何用亚马逊弹性MapReduce分析大数据?
译文:机器学习算法基础知识
给hadoop新手的一封信:Hadoop入门自学及对就业的帮助
从入门到精通,我是这样学习算法的
小商家,从老客户身上获取的数据才更有意义
13页PPT讲述:大数据下网站数据分析应用
40页PPT详解:京东大数据基础构架与创新应用
67页PPT解密搜索引擎背后的大技术:知识图谱,大数据语义链接的基石
营销洞察力——10个营销度量指标
技术篇:前端数据之美如何展示?
董飞:美国大数据工程师面试攻略【PPT】
easel:如何制作好的信息图——来自专家的顶级技巧
大数据实操:以3D打印机为例,如何知道卖点有没有市场需求?
大数据建模 需要了解的九大形式
用户画像数据建模方法
从规划开始,公司or企业如何入手和实施大数据?
干货:商品信息数据分析和展现系统的设计与开发
高手教你用Excel制作百度迁徙数据地图
50篇干货:淘宝店/电子商务如何玩转数据分析?
精华索引:大数据实际应用案例50篇
验证最小化可行产品 (MVP) 的 15 种方法
干货:数据分析师的完整知识结构
大数据技术Hadoop面试题,看看你能答对多少?答案在后面
用SPSS做数据分析?先弄懂SPSS的基础知识吧
怎样做出优秀的扁平化设计风格PPT? 扁平化PPT设计手册#3
解答│做大数据过程中遇到的13个问题
40页PPT│社交网络发展的新动力:大数据与众包
以Amazon、豆瓣网为例,探索推荐引擎内部的秘密#1
怎样做出优秀的扁平化设计风格PPT?#2
怎样做出优秀的扁平化设计风格PPT?#1
36页PPT│大数据分析关键技术在腾讯的应用服务创新
如何丰满地做SWOT分析?
【35页PPT】TalkingData研发副总阎志涛:移动互联网大数据处理系统架构
27页PPT|以珍爱网为例,如何构建有业务价值的数据分析系统?
国外数据新闻资源分享
21页PPT重磅发布:Mariana——腾讯深度学习平台的进展与应用
从0到100——知乎架构变迁史
PPT解读:百度大数据质量保障方案探索
45页PPT|大数据环境下实现一个O2O通用推荐引擎的实践
从数据看豆瓣兴衰
深度学习系列:解密最接近人脑的智能学习机器——深度学习及并行化实现(四)
重磅推荐:129页PPT讲述移动时代创业黄金法则 via:腾讯企鹅智酷
重磅推荐:大数据工程师飞林沙的年终总结&算法数据的思考
OpenKN——网络大数据时代的知识计算引擎
大数据下城市计算的典型应用
技术贴:大数据告诉你,如何给微信公众号文章取标题?
你的QQ暴露了你的心——QQ大数据及其应用介绍PPT
如何从企业报表看企业的生存能力?
实用的大数据技巧合集
技术帝揭秘:充电宝是如何盗取你的个人隐私的?
重磅!50页PPT揭秘腾讯大数据平台与推荐应用架构
原创教程:饼图之复合饼图与双层饼图(1)
PPT:大数据时代的设计特点——不了解这个你做不了今天的设计
教程贴:如何用方程式写春联?
原创教程:如何用Excel制作简易动态对比图
深度译文:机器学习那些事
教程帖:数学之美——手把手教你用Excel画心(动态图)
董老师走进斯坦福,聊聊硅谷创业公司和大数据的事儿(附课件PPT下载)
【限时】年度钜献,108个大数据文档PDF开放下载
董飞专栏:大数据入门——大数据相关技术、Hadoop生态、LinkedIn内部实战
亿级用户下的新浪微博平台架构
一张图了解磁盘里的数据结构
浅析数据化设计思维在阿里系产品的应用
美团推荐算法实践
一个P2P创业公司有哪些部门,都是做什么的?
一个P2P平台的详细运营框架是怎样的?
机器学习中的算法——决策树模型组合之随机森林与GBDT
神经网络简史
58页PPT看懂互联网趋势,大数据/物联网/云计算/4G都有了
广点通背后的大数据技术秘密——大规模主题模型建模及其在腾讯业务中的应用(附PPT)
微信红包之CBA实践PPT——移动互联网海量访问系统设计
一文读懂机器学习,大数据/自然语言处理/算法全有了……
搜狐新闻客户端的背后大数据技术原理——推荐系统(PPT)
原创教程:用Excel做动态双层饼图
半小时读懂PMP私有广告交易市场
怎样分析样本调研数据(译)
PPT:支付宝背后的大数据技术——DataLab、Higo的实践及应用
大数据技术人员的工具包——开源大数据处理工具list(限时下载)
计算机视觉:随机森林算法在人体识别中的应用
24页PPT:机器学习——支持向量机SVM简介(附下载)
互联网高手教你如何搜集你想要的信息
深度:对地观测大数据处理、挑战与思考
原创教程:用Excel做饼图之复合饼图与双层饼图(2)
移动大数据时代: 无线网络的挑战与机遇(附pdf下载)
Excel使用技巧——25招必学秘技
【年度热门】加上这些 Excel 技能点,秒杀众人(多图)
原创教程:用Excel做纵向折线图
知识图谱——机器大脑中的知识库
何明科专栏:用数据化的方式解析投资条款
DT时代,如何用大数据分析创造商业价值(23页PPT)
MIT牛人梳理脉络详解宏伟现代数据体系
你的老婆是怎么算出来的?揭秘佳缘用户推荐系统
飞林沙:商品推荐算法&推荐解释
PPT:如何成为真正的数据架构师?(附下载)
开源大数据查询分析引擎现状
董飞专栏:打造数据产品必知秘籍
译文:如何做强大又漂亮的信息图
如何使用Amazon Machine Learning构建机器学习预测模型
如何运用数据协助货架管理(内附26张PPT)
SVM算法
主流大数据系统在后台的层次角色及数据流向
PPT:阿里全息大数据构建与应用
人脸识别技术大总结——Face Detection & Alignment
教程:用Excel制作成对条形图
易观智库:大数据下的用户分析及用户画像(18页PPT附下载)
技术向:如何设计企业级大数据分析平台?
电商数据分析基础指标体系
IBM SPSS Modeler 决策树之银行行销预测应用分析
拓扑数据分析与机器学习的相互促进
基于 R 语言和 SPSS 的决策树算法介绍及应用
用php做爬虫 百万级别知乎用户数据爬取与分析
另类新浪微博基本数据采集方法
以10万+阅读的文章为例 教你做微信公众号的运营数据分析
破解数据三大难题:变现?交易?隐私?
微店的大数据平台建设实践与探讨
阿里巴巴PPT:大数据基础建议及产品应用之道
基于社会媒体的预测技术
人工智能简史
技巧:演讲中怎样用数据说话
马云和小贝选谁做老公?写给非数据人的数据世界入门指南
掘金大数据产业链:上游资源+中游技术+下游应用
原创教程:手把手教你用Excel做多层折线图
销售分析:如何从数据指标发现背后的故事
如何一步步从数据产品菜鸟走到骨干数据产品
也来谈谈微博的用户画像
行走在网格之间:微博用户关系模型
如何拍出和明星一样美爆的自拍照?斯坦福大学用卷积神经网络建模告诉你
运营商如何玩转大数据? 浙江移动云计算和大数据实践(PPT附下载)
大数据分析的集中化之路 建设银行大数据应用实践PPT
腾讯防刷负责人:基于用户画像大数据的电商防刷架构
创业提案的逻辑
友盟分享 | 移动大数据平台架构思想以及实践经验
寻路推荐 豆瓣推荐系统实践之路
“小数据”的统计学
重磅!8大策略让你对抗机器学习数据集里的不均衡数据
小团队撬动大数据——当当推荐团队的机器学习实践
微博推荐架构的演进
科普文 手把手教你微信公众号数据分析
信息图制作的六个注意点
【权利的游戏】剧透新玩法:情理之中?意料之外
推荐系统(Recommender System)的技术基础
核心算法 谷歌如何从网络的大海里捞到针
Quora数据科学家和机器学习工程师是如何合作的
阿里巴巴PPT:大数据下的数据安全
数据建模那点事儿
全民拥抱Docker云–Lhotse系统经验分享
实时股票分析系统的架构与算法
架构师必看 京东咚咚架构演进
什么叫对数据敏感?怎样做数据分析?
推荐系统基础知识储备
刘德寰:数据科学的整合与细分 数据科学的七个危险趋势(视频)
实际工作中,如何做简单的数据分析?
分布式前置机器学习在威胁情报中的应用(附PPT下载)
数据科学 怎样进行大数据的入门级学习?
扛住100亿次请求 如何做一个“有把握”的春晚红包系统?(PPT下载)
从 LinkedIn 的数据处理机制学习数据架构
大数据会如何改变管理咨询公司(I)
优秀大数据GitHub项目一览
生硬的数字和数据新闻:这么近,那么远
经典大数据架构案例:酷狗音乐的大数据平台重构(长文)
揭秘中兴大数据在银行领域的系统部署
基于大数据的用户画像构建(理论篇)
【R】支持向量机模型实现
数据图处处有陷阱?五个例子教你辨真伪
如何用R绘制地图
你确定你真的懂用户画像?
数据模型需要多少训练数据?
【接地气】01 数据报表的颜色怎么配
游戏价值和数据分析新思路
【R】异常值检测
快的打车架构实践
豆瓣还是朋友圈:大数据、新方法和日常问
PPT数据图表,怎么做才好看?
大道至简的数据体系构建方法论
数据的误区及自身业务
新浪微博的用户画像是怎样构建的?
面试干货!21个必知数据科学面试题和答案part1(1-11)
易观智库:中国大数据产业生态图谱2016(附下载)
Airbnb的数据基础架构
50PB海量数据排序,谷歌是这么做的
大数据时代工程师如何应对–今日头条走进硅谷技术讲座
D3.js教学记(下)
D3.js教学记(上)
飞林沙:企业级服务公司如何赚钱?只有平台级产品才有大数据的理论
一个母婴电子商务网站的大数据平台及机器学习实践
7大板块 组成数据分析师的完整知识结构
干货:SaaS领域如何分析收入增长?
学术 | 词嵌入的类比特性有实用意义吗?
6个用好大数据的秘诀
一个数据库外行眼中的微信优化 (附专家补充)
大数据调研,如何实现快全准?
数据大师Olivier Grisel给志向高远的数据科学家的指引
数据堂肖永红:数据交易的是使用权或数据的增值,而不是数据本身(PPT附下载)
淘宝商品详情平台化思考与实践
刘译璟:百分点大数据理念和实践(图文+PPT下载)
如何快速搞定一份看起来还不错的演示文档?
【BABY夜谈大数据】决策树
数据驱动设计:数据处理流程、分析方法和实战案例
美图数据总监:Facebook的法宝,我们在产品中怎么用?
树的内核:量化树结构化数据之间的相似性
拿到用户数据之后,LinkedIn怎么赚钱?
GrowingIO张溪梦:增长黑客的核心 企业应该重视产品留存率(附PPT下载)
[译]Airbnb是如何使用数据理解用户旅行体验的?
微博推荐数据服务代理: hyper_proxy的设计和实现
星图数据谷熠:消费领域DaaS 大数据重构未来商业游戏规则(附PPT下载)
鲍忠铁:TalkingData大数据技术与应用实践(PPT下载)
【干货教材】数据分析VS业务分析需求
九枝兰专访:数字营销的核心—企业如何使用数据管理平台(DMP)进行精准营销
我们的应用系统是如何支撑千万级别用户的
R应用空间数据科学
Excel进行高级数据分析(上)
Excel进行高级数据分析(下)
国内各大互联网公司2.0版技术站点收集
网站数据分析思路导图
大数据分析报表设计开发要素
大数据需要的12个工具 推荐
YARN/MRv2 Resource Manager深入剖析—NM管理
YARN/MRv2 Resource Manager深入剖析—RMApp状态机分析
Hadoop 1.0与Hadoop 2.0资源管理方案对比
Hadoop 2.0中单点故障解决方案总结
Hadoop 2.0 (YARN)中的安全机制概述
Hadoop 新特性、改进、优化和Bug分析系列1:YARN-378
Hadoop 新特性、改进、优化和Bug分析系列2:YARN-45
Hadoop 新特性、改进、优化和Bug分析系列3:YARN-392
Hadoop版本选择探讨
探究提高Hadoop稳定性与性能的方法
《Effective C++》读书笔记(第一部分)
Hadoop分布式环境下的数据抽样
Hadoop计算能力调度器算法解析
如何编写Hadoop调度器
数据结构之红黑树
Hadoop pipes设计原理
《C++ Primer plus》学习笔记之”类”
《C++ Primer plus》学习笔记之”类继承”
《C++ Primer plus》学习笔记之”C++中的代码重用”
《C++ Primer plus》学习笔记之”异常”
《C++ Primer plus》学习笔记之”RTTI”
Hadoop pipes编程
Hadoop Streaming高级编程
《C++ Primer plus》学习笔记之”标准模板库”
《C++ Primer plus》学习笔记之”输入输出库”
Linux Shell 命令总结
算法之图搜索算法(一)
awk使用总结
素数判定算法
《C++ Primer plus》学习笔记之“函数探幽”
使用Thrift RPC编写程序
如何在Hadoop上编写MapReduce程序
怎样从10亿查询词找出出现频率最高的10个

数据堂肖永红:数据交易的是使用权或数据的增值,而不是数据本身(PPT附下载)

于2017-04-01由小牛君创建

分享到:


3月6日下午14:00,由大数据培训,就上小牛学堂主办『大数据应用与实践』主题沙龙在北京中关村创业大街3W咖啡成功举行。来自国内外上百家大数据企业代表参加了本次活动,并针对大数据商业应用问题展开了激励的讨论。

活动现场,数据堂联合创始人/副总裁肖永红先生为大家分享《数据服务平台建设实践》的主题。据他介绍,目前数据堂的市值已达到25亿人民币。在数据源方面,数据堂已获取45000套,1200TB以上规模的数据,每天数据访问量在1亿次以上。关于数据服务平台建设,肖永红强调:直接的数据交易平台是无法实现的 ,因为其中涉及到原始数据安全及个人隐私问题。数据交易不是直接卖数据本身,而是数据使用权或数据的增值。在肖永红看来,大数据产业是否真正建立的起来的核心还是技术。

数据堂

下面是现场的演讲图文直播,另外,我们将在位置末尾放出演讲PPT的下载:

数据堂联合创始人/副总裁肖永红先生:

谢谢大家,很高兴今天来参加大数据培训,就上小牛学堂举办的《大数据应用与实践》的沙龙。

首先和大家说一个我看到的变化。我今年过年回老家看春晚,发现没有人看春晚,都在抢红包。这说明移动互联网已经占据了人们的日常生活,不断改变着大家的生活方式和工作方式。今天我们来讲大数据,其实对于我们原来做数据分析师和数据挖掘的这一群来人来说,变化也很大,似乎睡了一觉了起来我们这个行业叫大数据了。生活中这些小的变化正在演变大的变革。

数据堂

回到我们今天的主题沙龙,我今天的演讲主题为《数据服务平台建设实践 》,主要和大家分享一下数据堂在这方面的探索过程。最开始云计算出来的时候大家对它有误解,我们不知道它怎么落地。实际上大数据这几年也有这个问题,我们看成熟的商业模式或者是成熟的应用。幸运的是大数据在这块走的比较扎实,比较快。从2010年大数据概念起来到现在2016年,我们经过这么几年的发展,看到在这个领域已经有新的大数据应用或者是大数据的商业模式在我们身边一一爆发出来,我们看到了它的价值。

数据堂:一家找到了商业模式并实现盈利的大数据企业

今天我要讲的是数据堂所做的事情,我们做的是数据源,因为数据源相比数据应用是在下面的。我们为什么要做数据源呢?一方面我们看到我们生活的社会和生活的时代,确实是由于云计算技术带来的生存和计算成本的降低,使得大量的数据得以保存。我们每天的轨迹,我们每天的点菜记录,包括你今天在3W打开微博和微信这种数据记录越来越多。

另外一方面我们看到一个问题,很多想用数据的人,比如说张总(指的是GrowingIO公司CEO张溪梦先生)他们对用户的数据分析,对他们自己平台上的用户行为,包括增加和减少的功能,带来用户留存率或者是提高这方面的机会,他们用的是内部数据。你做自身业务优化需要拿到大量的外部数据,目前的状态,经常提一点,我们好像有很多的数据,但是我们确实又拿不到这些数据,所以这里面有数据这一方想变现,没有数据的想找数据,其实中间是有鸿沟的。

数据堂

数据堂这几年一直想做一个事情,就是想把这个鸿沟填起来,把有数据和要数据的人对接起来。其实数据堂还是一家相对比较新的公司,是2011年成立的,当时我们做数据堂的基本初衷或者是当时的情怀,现在互联网都喜欢讲情怀,如果没有情怀逼格就不高。我们当时为什么干这个事情,当时我们在中科院,我们的合伙人他们在NEC的研发部门,他们平常都跟数据打交道,我当时做科研数据的分析,什么专利分析、学科前沿的分析,我们会用到大量的数据做趋势的分析判断。我们当时找数据非常困难,我经常要跑到斯坦福大学实验室网站上,也有可能跑到UCI的网站上看他们的数据。所以当时就感觉大家找数据非常难,所以我们最早做了一个科研数据的共享平台,想把世界和国内不同地方的科学数据汇到这里。至少我们找数据不用东奔西跑,这是我们做这个事的初衷,没有运气挺好赶上了大数据,我们自然而然做了大数据服务的事情,这是公司成立的背景。

数据堂

经过几年的发展,我们在新三板是做纯正的大数据挂牌的比较早的一家,市值是25亿到28亿。目前因为数据堂的定位,在整个大数据价值链上,我们知道几个基本的模块。

一是数据的采集和获取,首先你得有数据。

第二块是大数据不同于一般的商品,它是非标准化的,从数据到最终产生价值,中间要经过数据加工和清理处理的环节。

第三块是你要通过数据分析、可视化和各种手段让数据产生价值就是数据分析。

第四块是数据应用,数据堂整个业务定位是定位于大数据价值链上的围绕数据资源的采集处理和服务。所以我们核心资源是在数据这块现在包括科技、信用、交通、医疗、卫生、通信各种各样的数据资源,我们会通过很多手段把它汇集在一块产生价值。

我们数据堂在A轮拿到了1300万,这几年大数据行业或者是大数据创业企业的融资情况,尽管我们在资本方听到一种说法叫寒冬。实际上我们看到在大数据正好是相反的景象热火朝天,大家拿到的资本在PK,我拿一个亿,他要拿八个亿,说明在大数据行业是比较好的态势。

数据堂所做的业务,我用一张图概括,我们把它叫数据银行。提到银行,很多人眼里都放光,因为银行有几个基本的职能,一方面它吸纳各种存款。比如说我跟企业、政府、机构合作,跟你商量,你能不能把你们发工资和各种钱放到我这里,银行拿了钱以后做各种各样的理财产品让钱生钱,银行基本干的事情是这样的。我们为什么提数据银行呢?

其中有一个基本的概念,数据的资产化现在越来越普及,而且大家也越来越认可,数据是一种很有价值的资产。在这种情况下,我们做一个事情,想把这些数据一方面汇集,因为我刚才讲到有数据的人现在脑子里面想到两个字就是变现,我的数据除了支撑自身的业务之外,能不能发生其他的价值。其实TalkingData做的很好,他们把其他的价值已经产生出来了,这是很多数据应用方想的一件事情。

但是现在我们碰到的问题是,今天在座的因为大部分还是对大数据行业比较理解,甚至拥有一定的大数据技术手段,可以做到自我有数据,并且把价值实现闭环。但是我们所碰到的现象,我举另外一个例子,今年过年我回老家,我看丈母娘她玩QQ,她们有一帮老年人QQ群,她们每天在上面唱歌,我原来想象不到有这样一个应用场景,我也想象不到有这么多人用,她能在这上面花半天的时间,别人唱歌她送个花,她自己唱歌别人点个赞,很多应用场景是我们搞数据分析的人是不知道的,你以为世界是这样的,其实世界是那样的。

因为今天来的人大部分都有数据的意识和数据的思维,你能想到这些。但是现在我们接触到很多客户,他们有数据,但是确实没有技术,他们也不知道数据怎么变现,他们不知道怎么提升业务。所以在数据应用方面,我们看到有大量的人有数据,但是不知道怎么玩,这是一个现状。

数据堂

另一方面我们看到数据需求方,现在大概的状态是这样的,互联网公司、高科技公司,他们走在大数据应用的前面,因为他们在这方面有积累。比如说阿里的淘宝,淘宝有海量的用户数据积累,他们会慢慢找出基于大数据的模式,比如说阿里小贷,基于商品数据、交易数据、评论数据、买家和卖家互相沟通的数据,他们做了一个很好的画像,实际上他们毫无成本可以快速为商家贷款。所以他们已经做到了对自有数据商业模式的闭环。但是很多企业,即使如此,大家都想象BAT他们也需要大量的外部数据,再优化自身的业务。因为百度有大量的自身搜索数据,阿里有大量的电商数据,腾讯有大量的社交数据。实际上BAT三家都是互相基于对方的数据,理论上是这样的。但是由于现实社会和商业价值问题,他们很难融合到一起。

我举这个例子的意思是,像BAT这样的企业他们需要大量的外部数据优化和支撑自己的业务。所以在这一块数据需求也是很大的,我刚才讲到你要把这两个对比起来,它不是快递小哥我从A地方拿到标准化的地方到B地,数据不是这样的。现在我们经常碰到一个状态,数据应用方和数据需求方很难对到一起,中间需要有一些环节帮他们做服务和增值的过程。所以我们干的事情就是把两端对起来,中间做几个事情。一个事情就是跟银行一样,数据的存储和获取。另外一方面数据来了以后,既然看成是一种资产,你怎么把这个资产存在数据银行以后让它升值和增值,这里面你要对数据资产做处理和分析。数据怎么以某种恰当的形式服务出去让它产生价值,这是我们干的事情,就是数据银行。

具体把这个环节描述一下,首先从数据获取来说,因为现在我们看到各种各样的数据每天都在产生。

我们把它分成四类,第一类是线下大数据,所谓的线下大数据。比如说我们今天来3W咖啡,你会感受到3W的若干数据。到前台可能会看3W今天拿铁是多少钱,实际上它是线下的价值数据。但是这些数据你可能很难在线上获取到,因为3W网站上好像没有公布它的咖啡价格,但是你来到以后,人是移动数据传感器。你看到咖啡的价格数据,所以我举个例子,实际上我们在线下有很多类似于咖啡价格分散的数据到处都有,这种数据需要通过发动线下的众包人员采集,所以我们做了众包数据的采集平台,通过平台经常发布一些数据采集任务,包括我们最近还发布了大家帮我传一段方言的语音,金玲的方言很符合要求。我们最近采集四川、云南、湖南,你的数据很快可以通过我们的平台上来。

包括我们最近发布一些人脸图片,这些数据采集上来以后可以用于像BAT做人脸识别和语音识别的方式。所以通过众包的方式,让线下的大众贡献它的力量,把它所能感知到的数据传上来,这是一种方式,这是线下获取的方式。

数据堂

包括公司、政府部门和个人,他们手上有一些自主版权的数据可以谈合作。有一些版权可以卖给我们,还有一些他们不愿意卖版权的,我们联合开发数据,开一种新的服务出来。线上的互联网大数据,实际上互联网大的平台泥沙俱下,有好的数据,也有坏的数据,就看你怎么分析利用。比如说像京东、淘宝上面的商品数据非常全,你通过爬虫可以爬到一整套非常完整的数据,甚至它的评论和价值。但是爬进去并不是一个门槛,今天在座的随便都可以用一个爬虫或者写一个爬虫爬数据,这里面最关键的是张总提到的非结构化数据。因为你从京东、阿里、头条别的东西爬下来大量的文本数据是半结构化的,你怎么里面的语义快速提取出来,这个是有难度的,这个要用到自然语言处理的技术。我们一方面爬取大量的网上数据,我们会对爬下来的数据做特别的提取。

大家都知道政府的数据现在开放的趋势越来越明显,尽管目前看到的节奏不是我们想象的那么快。但是总的趋势,去年国务院发了文,政府数据逐步公开是大趋势,政府的数据到底能产生多大的价值,现在还没有看到特别明显的情形。至少它已经存在在那里,但是通过这种方式我们可以获取到大量所谓的大数据,有了这些数据,最后我们有一个很好的厨房,也有很好的厨艺,但是你要先有菜,通过发挥各种数据分析和挖掘的功利把菜做成满汉全席、黄太吉和雕爷牛腩。

数据堂

我刚才讲到数据交易,大家现在也看到了非常多,包括各地也在推交易所,现在我们的平台还挂了大数据交易和服务平台。但是交易这个词现在我们提的越来越少,一方面我们感觉数据拥有方和数据需求方很难对接,并不是通过物流和传递就可以产生交易。实际上有数据和需要数据的是两方,中间要经过很多才能把他们的需求对接起来,这是数据处理。因为我们知道很多数据我们拿到的是很原始的数据集,甚至不同的部门、公司和不同的机构他们的数据格式也不太一样。所以我们拿到数据以后首先要做数据清洗,这是很累的活。

所以数据清洗是很重要的,包括脱敏、去躁,你拿到大量企业和个人的数据,甚至是国家部门的数据还涉及到去隐私。现在我们碰到一个更复杂的环节,非结构化和半结构化的数据大量存在。其中有一个很重要的原因,因为我们现实中产生了80%以上的数据是半结构化和非结构化的数据,大家每天要发多少语音、多少视频,实际上它都是半结构化和非结构化的数据,这些海量的数据收集起来以后,你怎么利用爬虫把它快速提取出来。

数据关联方面,大数据有一个典型的思路或者是原则,A来源的数据和B来源的数据叠加以后,可以产生1+1大于2的效果。现在我们为什么提倡做数据融汇和数据关联。假如说我们从公安部拿到一套数据,它是关于人的身份信息,可能我们又从住建部拿到一套数据是人的房产信息,我们把人的基本纬度关联以后,你发现它的价值会大很多。这种典型的案例越来越多,应用也非常多。

所以这块是我们重点干的事情,就是把数据关联起来。当然这块需要的是你对一般数据价值理解,再加上你对行业应用深刻的理解才能把这块做的比较好。今年有一个数据科学家的基本要求,那个要求非常高,你既要对数据敏感还要对数据产生的价值的场景敏感。

数据堂

把这些基础工作做完以后才是数据服务,你是开一个加油站把数据你用92号、95号形式的汽油输出出去,还是你用一个小桶把油送到家里面,那是另外一个形态。

具体的方面,围绕大数据价值链,包括数据的采集、获取、交易服务,我们专门从美国买了一个域名,其实就是做一些数据的展示和直接在线交易的事情。我们把很多数据分装以后做成活的API,就像大家在用自来水一样,我一拧开水龙头就可以用自来水,你可以用实时数据流的服务。

整个数据堂的业务是ToB的业务,我们拥有数据分析能力和数据处理、数据应用的能力大部分的客户还是在B端,我们目前主要还是向这类客户提供服务。包括像BAT、360等等这些都是我们的客户。

刚才我们大致把数据堂,包括数据采集、数据处理、数据服务若干的事情跟大家交代了一下。最后强调一点,因为在政府这块,实际上在行业大数据这方面已经有很多成熟的商业案例或者是成熟的应用。大家看的相对比较清楚,目前有一大块政府的大数据,现在我们看到政府有开放数据的决心和信念,但是他们确实不太知道数据到底怎么开放,开放以后能产生多大的价值。我们最近跟政府部门一起在试点和讨论,通常政府拥有一些数据,但是它自己没有数据的运营能力,数据堂会帮助他们做数据的获取、处理、整合。

我觉得回到我们今天的主题大数据的应用,实际上大数据的应用是涉及的范围非常广的概念。包括数据堂做了很多基础数据采集处理服务以后,我们自己并没有做应用。为什么?一方面我们考虑到很多数据应用,比如说医疗数据的应用和石油数据的应用完全是两个不同的体系和行业,你只有在这个行业深深扎根可能五年、十年以上,你拥有一批数据你才能分析出里面深刻的价值,你才能做应用。所以数据堂还是在前两个环节,把数据收集、处理、整理好以后做成一个标准化的产品放在那里,后面的应用交给各行各业,他们基于这些标准化的数据接口开发各种各样的应用,面向政府部门和传统行业、面向C端的消费者提供服务。所以在数据应用这一端应该是百花齐放和开放的生态。

数据堂

因为我们这几年围绕行业和政府也做了一些事情,在建设大数据共享,包括融汇服务的过程中有一点感触。一个是直接的数据交易平台,不能叫无法实现,确实很难实现。数据拥有方和数据需求方他们之间很难对接起来,由于大数据的发展已经涉及到各类隐私的问题,大家已经很关注这方面的问题。最近我们联合几家大数据公司,会出一个大数据服务公约。这个公约的核心就是在大数据应用过程中怎么保持好个个人隐私和数据应用的平衡。既让大家感受到大数据带来的便利,但是又不能太多的泄露隐私。

比如说今天大家来3W咖啡,可能会用大众点评,你参加完这个会可能在附近吃饭,你会用大众点评选择附近的餐馆,你首先把你自己的位置隐私贡献出来,他知道你在哪里才能推送周边好的饭馆,你要贡献隐私才能获取个性化的服务。现在确实有一个问题,大数据各种各样的服务商在服务的过程中,怎么样为个人提供个性化的服务角度下才能很好的保护个人隐私,这是我们现在在考虑的事情。

另外,小麦和面粉,因为数据堂做的事情,我们自己也生产小麦,把原始数据当成一种小麦。我们也去别人家田间地头谈合作,小麦到我这里,我有一个面粉加工厂把小麦加工成面粉,我们做到这里为止,至于说基于面粉做面条、馒头、包子那是其他的事情。有的人可能要求比较高,光面粉还不够,我要饺子,你再给我加工一层,我们也做这方面的处理。

数据堂

刚才我已经讲到了数据交易和服务的过程,实际上交易的不是数据本身,可能初期会有一些原始的数据交易或者你去军博那里,要不要北京企业老板的信息,尽管这种赤裸裸的数据交易存在,但是它的比例越来越降低。未来在大数据交易和服务这块,一定是数据交易的使用权和数据增值的东西,而不是数据本身。

我刚才已经讲到,围绕今天的主题大数据的应用和实践,有一个基础工作,一定要把底层的数据源问题解决好。把数据源汇集问题解决好以后,数据的应用是百花齐放,各种各样对行业理解比较深的人基于数据开发各种各样的应用,它是百花齐放的状态。

数据堂

尽管我们今天讲的没有提到太多的技术,但是我还是想强调技术。我们现在看起来听到一种说法,大数据并不是一种新的技术变革或者是新的革命时代的到来。但是这里面还是有很多地方,其实技术还是非常重要的。特别是我们自己做的大数据产业分布图谱,上面是各种数据应用,这里面技术占据了很多成分。尽管我们今天讲更多的商业模式,但是我们需要强调一下技术。在座的今天可能都具有一定的技术基础。但是这个社会上70%到80%的传统企业,以及政府部门和其他的机构,我们最近走了很多机构看起来非常高大上,但是真正了解里面的大数据人才发现是很薄弱的。未来我们大数据的人才其实是比较紧缺的。

目前包括个人隐私、大数据应用落地的情况怎么样,是不是还在初期的阶段。从趋势上来说,整个大数据的产业发展毋庸置疑。还有一个作证,刚才讲大数据圈的融资情况,那都是投资人真金白银拿出来的钱投资大数据产业的。我们知道投资人是世界上最聪明的人群之一,他们的钱不是白投的,他们一定对商业领域和价值分析的最清楚的。所以我讲整个大数据产业发展的态势非常好,当然也有很多问题,大家还是以宽容的心态和发展的心态来看待这个产业。我相信整个大数据产业,包括我们大数据的应用和实践在未来两到三年内会有更快和更好的发展,谢谢。

完整版PPT下载:肖永红 数据堂数据服务介绍.pptx

End.