大数据培训新三板挂牌机构 股票代码:837906 | EN CN
阿里巴巴菜鸟级数据产品经理半年回顾总结篇
干货教程:如何绘制业务流程图(二)
干货教程:如何绘制业务流程图(一)
技术贴:如何在数据库中秘密地查询隐私数据
攻略教程:信息图(infographic)是怎么做出来的?
分析师一定要看!用数据讲故事的五个步骤
技术篇:怎样玩转千万级别的数据?
北漂书生:大数据时代SEO数据如何搜集和分析
干货,从十大问题重新认识并读懂互联网
相似图片搜索、算法、识别的原理解析(下)
相似图片搜索、算法、识别的原理解析(上)
制作信息图时请遵循这10条原则
提高表格可读性的一些技巧,适用于Excel、PPT等数据报表
实用教程:如何让Excel图表更具“商务气质”?
一张数据信息图是这样制作完成的
菜鸟读财报,如何从上市公司财报中挖情报?
北大数据分析老鸟写给学弟们一封信
如何一步一步制作出高品质数据信息图?
总结:海量数据分析处理的十个方法
【实战经验】数据分析师如何了解老板真正想法?
零售业数据分析那些事儿
数据分析时l常用电子表格公式【大全】
用数据来告诉你 上市公司财报的秘密
这12个数据能 帮你搞定淘宝店铺
首席工程师揭秘:LinkedIn大数据后台是如何运作的?(四)
首席工程师揭秘:LinkedIn大数据后台是如何运作的?(三)
首席工程师揭秘:LinkedIn大数据后台是如何运作的?(二)
首席工程师揭秘:LinkedIn大数据后台是如何运作的?(一)
淘宝网店从激活到挽留,4步走玩转数据营销
文案怎样写才有意思、不空洞、打动人?
入门级扫盲贴:数据分析的步骤有哪些?
关系即数据,论社交媒体的关系转换
数据的力量,苹果教你用数据鄙视竞争对手
谁说文科生不能做数据分析?数据分析入行→技能提升→优势
产品运营数据分析——SPSS数据分组案例
如何追踪iPhone和iPad等移动设备的用户行为数据?
阿里巴巴中国站:用户满意度指标权重计算方法
广告中的AdNetwork、AdExchange、DSP、SSP、RTB和DMP是什么?
信息图制作教程:关于数值的表现
为什么大数据会如此轰动?(值得深度的文章)
多图技术贴:深入浅出解析大数据平台架构
面板数据分析中标准误的估计修正——根据Peterson (2009)的归纳
财务官、投资人、CIO看过来:给企业数据定价
推荐系统中常用算法 以及优点缺点对比
探索Weotta搜索引擎背后的大数据技术
如何识别虚假数据?
为什么我们像驯化小狗那样驯化算法
程序员必须知道的10大基础实用算法及其讲解
电子商务:最影响转化率的九大要素
如何迅速成为一名数据分析师?
想从事大数据、海量数据处理相关的工作,如何自学打基础?
如何用亚马逊弹性MapReduce分析大数据?
译文:机器学习算法基础知识
给hadoop新手的一封信:Hadoop入门自学及对就业的帮助
从入门到精通,我是这样学习算法的
小商家,从老客户身上获取的数据才更有意义
13页PPT讲述:大数据下网站数据分析应用
40页PPT详解:京东大数据基础构架与创新应用
67页PPT解密搜索引擎背后的大技术:知识图谱,大数据语义链接的基石
营销洞察力——10个营销度量指标
技术篇:前端数据之美如何展示?
董飞:美国大数据工程师面试攻略【PPT】
easel:如何制作好的信息图——来自专家的顶级技巧
大数据实操:以3D打印机为例,如何知道卖点有没有市场需求?
大数据建模 需要了解的九大形式
用户画像数据建模方法
从规划开始,公司or企业如何入手和实施大数据?
干货:商品信息数据分析和展现系统的设计与开发
高手教你用Excel制作百度迁徙数据地图
50篇干货:淘宝店/电子商务如何玩转数据分析?
精华索引:大数据实际应用案例50篇
验证最小化可行产品 (MVP) 的 15 种方法
干货:数据分析师的完整知识结构
大数据技术Hadoop面试题,看看你能答对多少?答案在后面
用SPSS做数据分析?先弄懂SPSS的基础知识吧
怎样做出优秀的扁平化设计风格PPT? 扁平化PPT设计手册#3
解答│做大数据过程中遇到的13个问题
40页PPT│社交网络发展的新动力:大数据与众包
以Amazon、豆瓣网为例,探索推荐引擎内部的秘密#1
怎样做出优秀的扁平化设计风格PPT?#2
怎样做出优秀的扁平化设计风格PPT?#1
36页PPT│大数据分析关键技术在腾讯的应用服务创新
如何丰满地做SWOT分析?
【35页PPT】TalkingData研发副总阎志涛:移动互联网大数据处理系统架构
27页PPT|以珍爱网为例,如何构建有业务价值的数据分析系统?
国外数据新闻资源分享
21页PPT重磅发布:Mariana——腾讯深度学习平台的进展与应用
从0到100——知乎架构变迁史
PPT解读:百度大数据质量保障方案探索
45页PPT|大数据环境下实现一个O2O通用推荐引擎的实践
从数据看豆瓣兴衰
深度学习系列:解密最接近人脑的智能学习机器——深度学习及并行化实现(四)
重磅推荐:129页PPT讲述移动时代创业黄金法则 via:腾讯企鹅智酷
重磅推荐:大数据工程师飞林沙的年终总结&算法数据的思考
OpenKN——网络大数据时代的知识计算引擎
大数据下城市计算的典型应用
技术贴:大数据告诉你,如何给微信公众号文章取标题?
你的QQ暴露了你的心——QQ大数据及其应用介绍PPT
如何从企业报表看企业的生存能力?
实用的大数据技巧合集
技术帝揭秘:充电宝是如何盗取你的个人隐私的?
重磅!50页PPT揭秘腾讯大数据平台与推荐应用架构
原创教程:饼图之复合饼图与双层饼图(1)
PPT:大数据时代的设计特点——不了解这个你做不了今天的设计
教程贴:如何用方程式写春联?
原创教程:如何用Excel制作简易动态对比图
深度译文:机器学习那些事
教程帖:数学之美——手把手教你用Excel画心(动态图)
董老师走进斯坦福,聊聊硅谷创业公司和大数据的事儿(附课件PPT下载)
【限时】年度钜献,108个大数据文档PDF开放下载
董飞专栏:大数据入门——大数据相关技术、Hadoop生态、LinkedIn内部实战
亿级用户下的新浪微博平台架构
一张图了解磁盘里的数据结构
浅析数据化设计思维在阿里系产品的应用
美团推荐算法实践
一个P2P创业公司有哪些部门,都是做什么的?
一个P2P平台的详细运营框架是怎样的?
机器学习中的算法——决策树模型组合之随机森林与GBDT
神经网络简史
58页PPT看懂互联网趋势,大数据/物联网/云计算/4G都有了
广点通背后的大数据技术秘密——大规模主题模型建模及其在腾讯业务中的应用(附PPT)
微信红包之CBA实践PPT——移动互联网海量访问系统设计
一文读懂机器学习,大数据/自然语言处理/算法全有了……
搜狐新闻客户端的背后大数据技术原理——推荐系统(PPT)
原创教程:用Excel做动态双层饼图
半小时读懂PMP私有广告交易市场
怎样分析样本调研数据(译)
PPT:支付宝背后的大数据技术——DataLab、Higo的实践及应用
大数据技术人员的工具包——开源大数据处理工具list(限时下载)
计算机视觉:随机森林算法在人体识别中的应用
24页PPT:机器学习——支持向量机SVM简介(附下载)
互联网高手教你如何搜集你想要的信息
深度:对地观测大数据处理、挑战与思考
原创教程:用Excel做饼图之复合饼图与双层饼图(2)
移动大数据时代: 无线网络的挑战与机遇(附pdf下载)
Excel使用技巧——25招必学秘技
【年度热门】加上这些 Excel 技能点,秒杀众人(多图)
原创教程:用Excel做纵向折线图
知识图谱——机器大脑中的知识库
何明科专栏:用数据化的方式解析投资条款
DT时代,如何用大数据分析创造商业价值(23页PPT)
MIT牛人梳理脉络详解宏伟现代数据体系
你的老婆是怎么算出来的?揭秘佳缘用户推荐系统
飞林沙:商品推荐算法&推荐解释
PPT:如何成为真正的数据架构师?(附下载)
开源大数据查询分析引擎现状
董飞专栏:打造数据产品必知秘籍
译文:如何做强大又漂亮的信息图
如何使用Amazon Machine Learning构建机器学习预测模型
如何运用数据协助货架管理(内附26张PPT)
SVM算法
主流大数据系统在后台的层次角色及数据流向
PPT:阿里全息大数据构建与应用
人脸识别技术大总结——Face Detection & Alignment
教程:用Excel制作成对条形图
易观智库:大数据下的用户分析及用户画像(18页PPT附下载)
技术向:如何设计企业级大数据分析平台?
电商数据分析基础指标体系
IBM SPSS Modeler 决策树之银行行销预测应用分析
拓扑数据分析与机器学习的相互促进
基于 R 语言和 SPSS 的决策树算法介绍及应用
用php做爬虫 百万级别知乎用户数据爬取与分析
另类新浪微博基本数据采集方法
以10万+阅读的文章为例 教你做微信公众号的运营数据分析
破解数据三大难题:变现?交易?隐私?
微店的大数据平台建设实践与探讨
阿里巴巴PPT:大数据基础建议及产品应用之道
基于社会媒体的预测技术
人工智能简史
技巧:演讲中怎样用数据说话
马云和小贝选谁做老公?写给非数据人的数据世界入门指南
掘金大数据产业链:上游资源+中游技术+下游应用
原创教程:手把手教你用Excel做多层折线图
销售分析:如何从数据指标发现背后的故事
如何一步步从数据产品菜鸟走到骨干数据产品
也来谈谈微博的用户画像
行走在网格之间:微博用户关系模型
如何拍出和明星一样美爆的自拍照?斯坦福大学用卷积神经网络建模告诉你
运营商如何玩转大数据? 浙江移动云计算和大数据实践(PPT附下载)
大数据分析的集中化之路 建设银行大数据应用实践PPT
腾讯防刷负责人:基于用户画像大数据的电商防刷架构
创业提案的逻辑
友盟分享 | 移动大数据平台架构思想以及实践经验
寻路推荐 豆瓣推荐系统实践之路
“小数据”的统计学
重磅!8大策略让你对抗机器学习数据集里的不均衡数据
小团队撬动大数据——当当推荐团队的机器学习实践
微博推荐架构的演进
科普文 手把手教你微信公众号数据分析
信息图制作的六个注意点
【权利的游戏】剧透新玩法:情理之中?意料之外
推荐系统(Recommender System)的技术基础
核心算法 谷歌如何从网络的大海里捞到针
Quora数据科学家和机器学习工程师是如何合作的
阿里巴巴PPT:大数据下的数据安全
数据建模那点事儿
全民拥抱Docker云–Lhotse系统经验分享
实时股票分析系统的架构与算法
架构师必看 京东咚咚架构演进
什么叫对数据敏感?怎样做数据分析?
推荐系统基础知识储备
刘德寰:数据科学的整合与细分 数据科学的七个危险趋势(视频)
实际工作中,如何做简单的数据分析?
分布式前置机器学习在威胁情报中的应用(附PPT下载)
数据科学 怎样进行大数据的入门级学习?
扛住100亿次请求 如何做一个“有把握”的春晚红包系统?(PPT下载)
从 LinkedIn 的数据处理机制学习数据架构
大数据会如何改变管理咨询公司(I)
优秀大数据GitHub项目一览
生硬的数字和数据新闻:这么近,那么远
经典大数据架构案例:酷狗音乐的大数据平台重构(长文)
揭秘中兴大数据在银行领域的系统部署
基于大数据的用户画像构建(理论篇)
【R】支持向量机模型实现
数据图处处有陷阱?五个例子教你辨真伪
如何用R绘制地图
你确定你真的懂用户画像?
数据模型需要多少训练数据?
【接地气】01 数据报表的颜色怎么配
游戏价值和数据分析新思路
【R】异常值检测
快的打车架构实践
豆瓣还是朋友圈:大数据、新方法和日常问
PPT数据图表,怎么做才好看?
大道至简的数据体系构建方法论
数据的误区及自身业务
新浪微博的用户画像是怎样构建的?
面试干货!21个必知数据科学面试题和答案part1(1-11)
易观智库:中国大数据产业生态图谱2016(附下载)
Airbnb的数据基础架构
50PB海量数据排序,谷歌是这么做的
大数据时代工程师如何应对–今日头条走进硅谷技术讲座
D3.js教学记(下)
D3.js教学记(上)
飞林沙:企业级服务公司如何赚钱?只有平台级产品才有大数据的理论
一个母婴电子商务网站的大数据平台及机器学习实践
7大板块 组成数据分析师的完整知识结构
干货:SaaS领域如何分析收入增长?
学术 | 词嵌入的类比特性有实用意义吗?
6个用好大数据的秘诀
一个数据库外行眼中的微信优化 (附专家补充)
大数据调研,如何实现快全准?
数据大师Olivier Grisel给志向高远的数据科学家的指引
数据堂肖永红:数据交易的是使用权或数据的增值,而不是数据本身(PPT附下载)
淘宝商品详情平台化思考与实践
刘译璟:百分点大数据理念和实践(图文+PPT下载)
如何快速搞定一份看起来还不错的演示文档?
【BABY夜谈大数据】决策树
数据驱动设计:数据处理流程、分析方法和实战案例
美图数据总监:Facebook的法宝,我们在产品中怎么用?
树的内核:量化树结构化数据之间的相似性
拿到用户数据之后,LinkedIn怎么赚钱?
GrowingIO张溪梦:增长黑客的核心 企业应该重视产品留存率(附PPT下载)
[译]Airbnb是如何使用数据理解用户旅行体验的?
微博推荐数据服务代理: hyper_proxy的设计和实现
星图数据谷熠:消费领域DaaS 大数据重构未来商业游戏规则(附PPT下载)
鲍忠铁:TalkingData大数据技术与应用实践(PPT下载)
【干货教材】数据分析VS业务分析需求
九枝兰专访:数字营销的核心—企业如何使用数据管理平台(DMP)进行精准营销
我们的应用系统是如何支撑千万级别用户的
R应用空间数据科学
Excel进行高级数据分析(上)
Excel进行高级数据分析(下)
国内各大互联网公司2.0版技术站点收集
网站数据分析思路导图
大数据分析报表设计开发要素
大数据需要的12个工具 推荐
YARN/MRv2 Resource Manager深入剖析—NM管理
YARN/MRv2 Resource Manager深入剖析—RMApp状态机分析
Hadoop 1.0与Hadoop 2.0资源管理方案对比
Hadoop 2.0中单点故障解决方案总结
Hadoop 2.0 (YARN)中的安全机制概述
Hadoop 新特性、改进、优化和Bug分析系列1:YARN-378
Hadoop 新特性、改进、优化和Bug分析系列2:YARN-45
Hadoop 新特性、改进、优化和Bug分析系列3:YARN-392
Hadoop版本选择探讨
探究提高Hadoop稳定性与性能的方法
《Effective C++》读书笔记(第一部分)
Hadoop分布式环境下的数据抽样
Hadoop计算能力调度器算法解析
如何编写Hadoop调度器
数据结构之红黑树
Hadoop pipes设计原理
《C++ Primer plus》学习笔记之”类”
《C++ Primer plus》学习笔记之”类继承”
《C++ Primer plus》学习笔记之”C++中的代码重用”
《C++ Primer plus》学习笔记之”异常”
《C++ Primer plus》学习笔记之”RTTI”
Hadoop pipes编程
Hadoop Streaming高级编程
《C++ Primer plus》学习笔记之”标准模板库”
《C++ Primer plus》学习笔记之”输入输出库”
Linux Shell 命令总结
算法之图搜索算法(一)
awk使用总结
素数判定算法
《C++ Primer plus》学习笔记之“函数探幽”
使用Thrift RPC编写程序
如何在Hadoop上编写MapReduce程序
怎样从10亿查询词找出出现频率最高的10个

深度:对地观测大数据处理、挑战与思考

于2017-04-01由小牛君创建

分享到:


大数据

何国金*, 王力哲, 马艳, 张兆明, 王桂周, 彭燕, 龙腾飞, 张晓美

中国科学院遥感与数字地球研究所, 北京100094

* 联系人, E-mail: hegj@radi.ac.cn

2014-08-28收稿, 2014-10-29 接受, 2015-01-20 网络版发表

国家自然科学基金(60972142)和中国科学院遥感与数字地球研究所空间数据快速加工与综合服务技术研究规划项目资助

摘要

通过航天航空飞行器搭载的传感器对地球进行观测可以获得地球全面而系统的信息. 随着空间信息技术的高速发展, 对地观测领域步入了大数据时代. 在分析对地观测数据处理与服务的全流程及其算法的基础上, 总结出“大数据时代”对地观测数据处理面临的挑战——“数据密集型计算”问题, 并指出解决这一问题应该在系统平台、处理算法和服务模式3个方面开展创新性的研究工作.

人类借助航天、航空对地观测平台实施对地球不间断地观测, 通过信息处理快速再现和客观反映地球表层的状况、现象、过程及其空间分布和定位, 服务于经济建设和社会发展. 21世纪以来, 以对地观测技术为核心的空间地球信息科技已经成为一个国家科技水平、经济实力和国家安全保障能力的综合体现.

遥感技术、通讯技术及计算机技术的快速发展, 带来了对地观测数据的爆炸性增长和广泛应用. 尤其随着高分辨率对地观测时代的到来, 通过机载和卫星传感器等不同途径获取的遥感数据正以每日太比特(TB, 1 TB=1024 GB)级的速度增长, 其中单个遥感图像数据集的数据量就可达几十吉比特(GB). 据统计[1], 单个数据应用中心将可提供数百个TB的遥感图像, 国家遥感数据存档量将达拍比特(PB, 1 PB= 1024 TB)级, 而全球的遥感数据量将达到艾比特(EB, 1 EB=1024 PB)级. 海量遥感数据有待及时、有效地处理与分析.

与此同时, 遥感数据处理算法的“数据密集型计算”特性也日渐凸显. 在遥感数据处理的全流程中, 遥感数据处理速率一般远低于遥感数据获取与记录码速率, 两者之间存在较大的数据吞吐性能差距. 卫星数据中心通常需要在一天内完成几百GB遥感图像的各级数据处理以及各类遥感信息的提取与分析. 全球变化等复杂遥感应用则有必要建立高质量、连续、均一和综合的对地观测系统[2]. 为实现全球变化关键参数和过程的多变量联合观(监)测, 往往需要对大区域甚至覆盖全球的多时相、多平台、多波段和多空间分辨率的遥感图像进行处理. 而及时准确的海上溢油轨迹预测、泥石流滑坡监测等突发性应急遥感应用通常对处理时效性要求很高, 需在几小时或几十分钟内完成大量的多源遥感图像处理运算.

因此, 有必要深入分析对地观测数据的特点以及大数据背景下对地观测处理所面临的问题与挑战, 并探讨可能的对策与解决方案.

1 对地观测领域进入大数据时代

21世纪人类对地球进行多尺度、全方位实时动态监测的能力进一步增强, 获取全球对地观测信息的遥感和定位卫星系统迅速发展, 遥感数据获取的技术和能力全面提高, 可以说对地观测领域进入了以高精度、全天候信息获取和自动化快速处理为特征的新时代.

自1964年8月28日发射第一颗对地观测卫星Nimbus以来, 到2011年12月全球共发射了514颗对地观测卫星. 美国地球观测系统(Earth Ob servatio n System, EOS)计划的提出和实施带动了新一轮对地观测技术发展的浪潮, 而地球科学事业(ESE)战略计划是对EOS的提升与延续, 将地球系统科学的概念引入到计划中, 把对地观测技术与面临的科学问题紧密结合起来(http://science.nasa.gov/about-us/science- strategy/past-strategy-documents/earth-science-enterprise- plans/); 欧洲太空局以遥感卫星1号、2号以及环境卫星等而立足于世界对地观测技术前列; 法国的高分辨率SPOT卫星系列在世界对地观测领域占据一席之地; 加拿大则以雷达卫星系列为其对地观测技术的特色发展战略; 日本制定了未来对地观测基本策略, 并给出了未来卫星研制和发射计划日程; 发展中国家印度也非常重视对地观测技术的发展, 其成就已经引起世界广泛关注[3]. 从图1可以发现, 进入21世纪后, 全球对地观测进入了高速发展阶段, 人类的生存、发展越来越依赖于对地观测技术. 如图2所示, 在未来的20年中, 全球对地观测卫星发射计划将持续发展, 我国所占发射份额快速增加[4].

政府间对地观测协调组织(Group on Earth Observ- ations, GEO)已于2005年2月16日正式成立. 2014年1月15~17日, GEO在瑞士日内瓦召开了第10次全会和第三次部长级峰会. 会议一致认为要继续推动《GEOSS十年执行计划》的实施. 此计划致力于提高全球人类的生活质量. 目标是建立一个综合、协调和持续的全球综合地球观测系统, 同时在灾害、健康、能源、气候、天气、水、生态系统、农业和生物多样性等9个社会发展领域开展应用和信息服务, 为各国决策者提供从初始观测数据到专门产品的信息服务(http://www.earthobservations.org/).

大数据培训,就上小牛学堂 大数据培训,就上小牛学堂

1986年中国遥感卫星地面站的建立标志着中国的遥感应用进入了新的纪元. 在过去的30年间, 中国遥感卫星地面站先后接收了包括Landsat, SPOT, JERS, Radarsat, ERS, Envisat, CBERS, HJ, ZY和GF等国内外系列卫星数据, 截止2013年存档各类对地观测卫星数据资料达330余万景, 是我国最大的陆地观测卫星数据历史档案库. 其中, 仅美国陆地卫星Landsat TM和ETM影像就有63万景左右, 时间跨度为1986~2011年. Landsat 8也于2013年发射升空. 这些卫星数据以合适的空间分辨率记录着人类活动和自然变化, 成为最长时间系列的星载陆地观测数据集. 特别是我国陆地观测卫星数据全国接收站网建成以后, 密云、喀什和三亚3个接收站实现了覆盖我国全部领土和亚洲70%陆地区域卫星数据的接收(图3). 正在建设的极地站将进一步扩展我国卫星数据的接收范围. 另外, 气象和海洋等卫星系列也为人类认知地球提供了时空动态数据. 近年来, 随着城市地理信息系统发展和新一代高分辨率卫星系统相继投入应用, 数据的年增量加速提高, 每年约递增30~50 TB. “十二五”期间, 我国计划发射5~6颗地球观测卫星, 建成高空间分辨率、高时间分辨率和高光谱分辨率的对地观测系统, 数据量将大幅增加. 作为高分辨率对地观测系统的首发星, 高分一号卫星突破了高空间分辨率、多光谱与宽覆盖相结合的光学遥感等关键技术, 分辨率可达2 m, 经过相机多角度视场拼接, 优于16 m分辨率的视场可达800 km以上, 4天即可完成一次重访, 在分辨率和幅宽的综合指标上达到了目前国内外民用光学遥感卫星的领先水平(http://www.cnsa.gov.cn/n1081/n7634/n516721/n516736/611179.html). 而2012年升空的ZY-3卫星, 每天获取的数据量就在10 TB以上. 到2020年, 高分系统与其他观测手段相结合, 将形成具有时空协调、全天时、全天候和全球范围观测能力的稳定运行系统. 可以说对地观测领域已经正式步入了大数据时代.

2 对地观测大数据处理与服务面临的挑战

2.1 对地观测大数据特点分析

从所涉及和应用的数据来看, 对地观测大数据具有鲜明的大数据“4V”特征. 对地观测不仅记录地球现状, 而且可以展现地球演变历史和预测未来发展, 数据体量十分巨大, 规模已达到EB级. 在数据类型上, 对地观测大数据包括文档、视频、图片和地理位置信息等, 涉及对地观测、科学模型、社会和经济等多种数据, 类型繁多. 对地观测大数据的数据来源多样, 不仅有大量的高分辨率遥感卫星数据, 基于有线或无线传感器的地基观测技术也迅速发展, 来自各种地基观测系统的数据量呈指数递增. 此外, 对地观测大数据处理系统具有对海量数据进行快速处理、实现数据到信息快速转化的能力, 能够为人类可持续发展面临的环境、灾害和生态等问题提供第一时间的信息服务支持[5,6].

对地观测数据已成为空间地球信息科学研究的基础资料. 但是, 对地观测大数据的机理模型及其在科学发现中的理论与方法仍有待深入研究. 不仅要关注对地观测大数据所具有的大数据“4V”特征, 也要重视对地观测大数据的其他本质特性.

对地观测数据的“4V”特征:

(1) 海量. 对地观测大数据具有海量数据特点, 高分辨率、高动态的新型卫星传感器不仅波段数量多、光谱和空间分辨率高、数据速率高、周期短, 而且数据量特别大, 仅EOS-AM和PM每日获取的遥感数据量就达TB级, 全球对地观测数据已经达到EB级.

(2) 多源. 对地观测大数据的多源性, 一方面表现在数据来源和获取手段多样, 既有来自于分布全球的观测网络实时接收的大量遥感数据, 也有通过航空拍摄获得的遥感数据, 还包括大众用户通过互联网和带有地理信息的手持终端设备提供的个性化信息. 而且, 主、被动遥感在成像机理和成像模型等方面也存在巨大的差异.

(3) 多时相. 遥感图像是某一时刻传感器对地观测的记录, 卫星通常按固定的轨道周期对地球进行重复观测. 单颗卫星时间分辨率的提高和在轨卫星数量的不断增加使得对地观测的采样间隔在缩短, 数据获取的频率大幅度增加. 通过地面传感网等手段获取数据的频率则更高.

大数据

(4) 高价值. 对地观测数据的价值体现在商品价格和应用价值两个方面. 虽然中低分辨率卫星数据已经逐步实现共享, 但国际上高分辨率卫星遥感数据的价格仍然不菲, 按数据种类的不同, 每平方千米的价格在几十元到几百元人民币不等; 实际上, 对地观测数据的应用价值更为可观. 对地观测数据不仅在科学研究、生态环境、土地资源、自然灾害和重大工程的监测与评估等方面得到广泛应用, 而且也在数字地球、智慧城市建设中发挥着重要作用, 并逐步深入到大众生活, 产生了巨大的经济价值和社会价值.

其他特征:

(1) 异构. 对地观测大数据的异构性

一方面表现为系统异构, 即数据生产所依赖的业务应用系统存在差异, 如数据来自不同的数据中心; 另一方面表现为模式异构, 数据的逻辑结构或组织方式不同.

(2) 多尺度. 多尺度是对地观测大数据的重要特征, 这是由于对地观测系统是由不同级别的子系统组成, 各个系统都有各自的时空尺度, 因而对地观测大数据也具有空间多尺度和时间多尺度的特点, 在不同的观察层次上所遵循的规律和体现的特征不尽相同.

(3) 非平稳. 对地观测大数据因为具有广泛的获取方式和物理意义, 因此从信息理论来说是典型的非平稳信号, 即分布参数或者分布规律随时间发生变化, 非平稳性正是经典遥感数据挖掘与分析理论所忽视的.

2.2 对地观测大数据处理面临“数据密集型计算”问题

对地观测大数据处理是整个对地观测系统的重要组成部分. 一个全流程的对地观测数据处理过程涉及从数据接收和记录、数据传输、数据预处理(辐射校正、系统几何校正)、深加工处理(精校正、正射校正、图像融合、图像变换)、数据产品存档与发布、信息提取与参数反演、以及专题应用(资源环境调查、灾害监测、全球变化)等多个环节. 中国遥感卫星地面站目前接收13颗国内外卫星(表1), 在数据接收、记录与传输环节, 2012年单颗卫星的数据下传码速率高达320 MB/s, 多颗卫星的总码速率可达1.5 GB/s; 密云、喀什和三亚各卫星接收站每天接收的单颗卫星数据为10~187.5 GB. 目前, 在数据接收、数据记录和数据传输环节具备实时的数据处理能力, 基本能与卫星数据下传的码速率同步. 但是, 据地面站运行处理系统的统计数据显示, 在预处理环节的整体数据处理速度普遍小于2 MB/s, 深加工处理环节的数据处理速度则小于1 MB/s, 而信息提取及专题遥感应用的数据处理速率也小于1 MB/s. 因此, 在遥感数据预处理及后续处理环节的数据处理速率远远落后于数据接收、记录与传输的速率[7].

截止到2012年, 3个接收站每天接收的总数据量为993.16 GB, 每年接收的总数据量约为354 TB. 在传统的服务模式中, 卫星地面数据处理系统常采用订单任务方式, 只对少量用户请求的卫星数据进行处理, 而大部分卫星数据则直接保存在数据存档系统中. 随着我国卫星接收站网布局的扩大以及数据中继卫星的发展, 卫星下行数据量将大幅提高, 将给对地观测数据处理的全流程带来巨大的数据吞吐压力, 尤其是对于数据处理速率低且相当费时的深加工、信息提取以及应用处理等环节. 庞大的数据吞吐压力使得这些处理环节往往面临着“数据密集型计算”挑战性问题[7].

表2给出了对地观测数据处理全流程中各个数据处理环节算法复杂度的分析结果. 从表中可以看出数据预处理算法的复杂度相对较低, 而后续的信息提取与参数反演类算法以及深加工算法的复杂度相对较高[7].

大数据

大数据

右键点击查看大图

图4以CBERS-02和LANDSAT5为例, 对整个数据处理流程的数据吞吐率进行对比分析. 对地观测数据处理全流程包括从数据接收(RC)、数据记录(RD)、数据传输(TR), 数据预处理-零级处理(L0)、辐射校正(L1)、几何校正(L2), 深加工处理-精校正(L3)、正射校正(L4)、镶嵌(MO), 信息提取-以图像分类(CL)、气溶胶反演(AQ)为例, 专题应用-以海上溢油(OS)为例等[7].

从图4可以看出, 在整个对地观测数据处理流程中, 卫星数据在接收、记录和传输阶段基本具备实时处理能力, 因为其处理速度与卫星下行码速率基本一致. 但是, 在数据预处理、深加工处理、信息提取以及专题应用等环节中, 其数据吞吐速率直线下降, 只有卫星下行码速率的1%~30%. 因此, 后续的数据处理环节无法满足实时的数据处理需求. 而且, 越往后的数据处理环节, 其数据吞吐速率也越低.

2.3 对地观测数据增值服务需求日益旺盛

进入21世纪以来, 各种商业卫星遥感数据不断涌现, 高分辨率卫星影像的应用日益广泛, 卫星遥感增值服务市场欣欣向荣. 特别是美国国家航空航天局(NASA)和欧洲空间局(ESA)实行的卫星遥感数据共享以及低价商业分发政策, 进一步推动了世界卫星遥感增值服务市场的快速发展.

大数据

由于原始数据销售的利润越来越低, 世界卫星运营商已调整其发展战略以适应这种形势, 即把增值服务作为获取新的利润增长点的一个最重要战略加以重视和发展. 法国SPOTImage把“大力发展经加工处理的‘增值产品’和归档的、可多次销售的现成品”作为提高竞争力和获取利润的手段之一. Digital Global在不同的场合宣传自己“不仅仅是卫星数据提供商, 同时也是信息的服务商”. 增值服务已成为相关遥感机构关注的焦点, 也将成为其获取利润的有效举措. 实际上, 行业应用也对遥感数据增值产品有广泛的需求.

Forecast International在《2013~2022年全球民用&商业遥感卫星市场》报告中预测, 2013~2022年全球将发射113颗遥感卫星, 市场规模将达到196亿美元. 报告认为, 尽管军队和政府仍然是遥感卫星数据的主要用户, 但商业市场发挥着越来越重要的作用. 对于非专业用户, 卫星运营商将更多地提供经过深加工处理后的信息, 而不是原始数据, 以进一步扩大市场[8]

正如Frost & Sullivan公司2011年发布的“亚太地区卫星对地观测市场”研究报告中指出的那样: 遥感市场的未来依赖于增值服务, 该领域的竞争非常激烈. 到2020年, 卫星图像作为一种商品, 从卫星图像提取有用信息的增值服务将决定商品的价值. 对于相关企业来说, 未来发展的方向将是从卫星图像供应商转变为信息服务商(http://www.researchandmarkets.com/reports/1803560/asia_pacific_satellitebased_earth_ observation).

旺盛的对地观测数据增值服务需要“数据密集型计算”的技术支撑. 举例来说, 利用Landsat数据生成一幅30 m分辨率的除我国南海、东海以外的陆地部分的卫星影像, 需要537景数据(图5(a)), 其处理过程包括数据的正射校正、投影转换、色彩均衡、图像镶嵌以及图像增强等步骤, 往往需要花费几天甚至十几天的时间来完成(图5(b)). 从对地观测数据处理全流程分析可知, 这些环节恰恰面临对地观测数据的“数据密集型计算”问题.

3 对地观测大数据处理与服务的几点思考

前面阐述了对地观测大数据的特点, 系统分析了对地观测大数据处理全流程, 指出了对地观测数据增值服务的旺盛需求以及对地观测大数据处理面临着“数据密集型计算”的挑战性问题. 针对这一问题, 对地观测大数据处理应该在系统平台、处理算法和服务模式3个方面开展创新性的研究工作.

3.1 系统平台

针对对地观测数据体量大、算法复杂度高、实时处理需求的特点, 需要开展高性能对地观测数据处理软、硬件平台的研究. 海量对地观测数据处理通常在卫星数据中心的高性能计算集群上开展. 高性能计算集群的计算硬件平台一般包括通用刀片服务器、高性能互联网络以及海量存储设施.

大数据培训,就上小牛学堂

借助计算机技术, 尤其是高性能计算学科的最新成果, 从高性能计算软件方法角度提高对地观测大数据的处理性能[9,10]. 需要重点开展高性能并行遥感文件系统的体系结构、高性能IO中间件[11,12]、分布式内存体系结构的运行系统[13]、并行对地观测数据处理的编程模型[14]、复杂数据处理流程的优化调度算法[15,16]等方面的工作.

基于上文讨论的高性能计算软、硬件平台, 还需进一步开展针对对地观测数据的存储、计算、共享和分发的算法软件以及数据结构的研究, 包括时空元数据组织、多分辨率影像存储以及共享体系结构等等.

3.2 处理算法

对地观测大数据处理算法复杂、流程众多. 同时必须注意到, 对地观测大数据来源不仅仅是单一的空间传感器, 地面观测、互联网和社交媒体等成为对地观测数据的重要来源. 对于多源、高维、异质和复杂关联的对地观测数据, 需要开展新型智能处理算法与处理模式的研究:

(1) 借助智能信息处理技术, 尤其是信号处理、图像处理、模式识别和人工智能的最新前沿成果, 开发新型处理算法, 提高处理算法的智能化程度和效率, 降低处理算法的复杂度, 从根本上提高对地观测大数据处理效率. 需要重点研究对地观测大数据的表征、学习、挖掘和知识发现的理论与方法[17], 以及适应对地观测大数据的认知模型、智能解译、目标提取与识别和信息融合技术等[18];

(2) 新型计算模式, 如群智感知、众包计算等, 为对地观测大数据的协同处理与高效组织提供了全新的机遇. 同时, 借助这些新型对地观测大数据的计算模式, 有望更好地促进对地观测大数据处理中“数据密集型计算”问题的解决, 满足人类社会生活对空间信息的需求.

3.3 服务模式

长期以来, 遥感数据的分发都是按照“接收-处理-存档-分发”的流程来进行的. 通常, 数据提供商首先需要完成遥感数据的接收与处理, 并对数据进行归档入库, 然后用户才能通过检索、下订单的方式来订购或下载数据. 在这种分发模式下, 从数据提供商接收遥感数据到用户拿到数据产品通常需要几天甚至更长的时间. 随着对地观测领域传感器技术的发展、海量多源遥感数据获取能力的提高, 多源数据处理呈现出精细化分工与协同式综合并存的发展局面; 同时, 各种遥感应用又需要得到不同卫星、不同区域或国家数据中心的数据支持, 对遥感数据处理提出了复杂多样的需求. 应重点研究遥感数据产品标准化、系列化的指标体系与分类体系, 主动服务、智能服务、一站式服务的理论、方法与技术, 有针对性地提高对地观测大数据处理与产品生产的能力, 提高遥感数据产品服务的效率. 同时, 还应重视对地观测技术与其他地理信息技术、互联网技术、物联网以及云计算技术等高新技术的深度融合, 综合利用卫星、航空、地面乃至大众观测数据, 形成新的信息服务模式和产业链. 面向未来发展和用户需求, 依托中国遥感卫星地面站基础设施和数据资源, 中国科学院遥感与数字地球研究所开展了新一代遥感数据服务模式研究, 该服务模式集数据、计算及服务于一体, 一方面可提供陆地观测卫星下行数据的实时主动推送[19], 同时对下行数据中的异常变化信息进行快速分析与发布, 提高数据服务的响应速度, 提升对自然灾害和突发事件的快速监测与预警服务能力; 另一方面, 通过建立“RTU-Ready To Use”产品库, 向用户提供标准化、系列化和多样化的数据产品服务, 从而逐步从形式和内容上改变中国遥感卫星地面站传统的卫星数据服务模式, 适应对地观测大数据时代的应用需求.

4 结束语

在阐述大数据时代遥感数据特点的基础上, 对遥感数据处理流程进行了分析, 认为大数据时代的遥感数据处理与分析面临的一个重大挑战是“数据密集型计算”问题, 它是制约遥感数据规模应用的关键因素之一. 如何快速、自动地进行遥感大数据的处理和分析, 进而完成空间数据产品的主动、智能的信息服务, 是大数据时代对地观测领域面临的一个严峻课题. 本文认为, 解决这一问题应该在系统平台、处理算法和服务模式3个方面开展创新性的研究工作.

参考文献

1 Lü X F, Cheng C Q, Gong J Y, et al. Review of data storage and management technologies for massive remote sensing data. Sci China Tech Sci, 2011, 54: 3220–3232 [吕雪锋, 程承旗, 龚健雅, 等. 海量遥感数据存储管理技术综述. 中国科学: 技术科学, 2011, 41: 1561–1573]
2 Xu G H, Ge Q S, Gong P, et al. Societal response to challenges ofglobal change and human sustainable development. Chin Sci Bull, 2013, 58: 3161–3168 [徐冠华, 葛全胜, 宫鹏, 等. 全球变化和人类可持续发展: 挑战与对策. 科学通报, 2013, 58: 2100–2106]
3 Gao F, Feng Y, Hou C M, et al. Development strategy on earth observing technology of the main countries (in Chinese). Remote Sens Technol Appl, 2006, 6: 565–576 [高峰, 冯筠, 侯春梅, 等. 世界主要国家对地观测技术发展策略. 遥感技术与应用, 2006, 6: 565–576]
4 Guo H D. Scientific Satellite for Global Change Research (in Chinese). Beijing: Science Press, 2014 [郭华东. 全球变化科学卫星. 北京: 科学出版社, 2014]
5 Li D R, Tong Q X, Li R X, et al. Current issues in high-resolution Earth observation technology. Sci China Earth Sci, 2012, 55:1043–1051 [李德仁, 童庆禧, 李荣兴, 等. 高分辨率对地观测的若干前沿科学问题. 中国科学: 地球科学, 2012, 42: 805–813]
6 Guo H D, Wang L Z, Chen F, et al. Scientific big data and digital Earth (in Chinese). Chin Sci Bull, 2014, 59: 1047–1054 [郭华东, 王力哲, 陈方, 等. 科学大数据与数字地球. 科学通报, 2014, 59: 1047–1054]
7 Ma Y. A research on the key techniques of parallel computing platform for data-intensive remotesensing image processing (in Chinese). Dissertation for the Doctoral Degree. Beijing: Institute of Electronics Chinese Academy of Sciences, 2013 [马艳. 数据密集型遥感图像并行处理平台关键技术研究. 博士学位论文. 北京: 中国科学院电子学研究所, 2013]
8 Forecast International. The Market for Civil & Commercial Remote Sensing Satellites. Analysis Report. Newtown: Forecast International, 2013. 2013–2022
9 Wei J B, Liu D S, Wang L Z. A general metric and parallel framework for adaptive image fusion in clusters. Concurr Comp-Pract E, 2014, 26: 1375–1387
10 Zhang W F, Wang L Z, Liu D S, et al. Towards building a multi-datacenter infrastructure for massive remote sensing image processing. Concurr Comp-Pract E, 2013,25: 1798–1812
11 Ma Y, Zhao L J, Liu D S. An asynchronous parallelized and scalable image resampling algorithm with parallel I/O. In: Gabrielle A, Jaro-slaw N, Edward S, et al.,eds. Proceedings of ICCS 2009, Part II, LNCS 5545. Heidelberg: Springer, 2009. 357–366
12 Li G, Ma Y, Wang J, et al. Preliminary through-out research onparallel-based remote sensing image processing. In: Vassil N A, Geert D V A, Peter M A S, et al., eds. Proceedings of ICCS 2006, LNCS 3991. Heidelberg: Springer, 2006. 880–883
13 Ma Y, Wang L Z, Liu D S, et al. Distributed data structure templates for data-intensive remote sensing applications. Concurr Comp-Pract E, 2013, 25: 1784–1797
14 Ma Y, Wang L Z, Liu D S, et al. Generic parallel programming for massive remote sensing data processing. In: Cluster Computing (CLUSTER), 2012 IEEE International Conference. Beijing: IEEE, 2012. 420–428
15 Zhang W, Wang L Z, Ma Y, et al. Design and implementation of task scheduling strategies for massive remote sensing data processing across multiple data centers. Software Pract Exper, 2014, 44: 873–886
16 Ma Y, Wang L Z, Albert Y, et al. Task-Tree Based Large-Scale Mosaicking for massive remote sensed imageries with dynamic DAG scheduling. IEEE T Parall Distr, 2014, 25: 2126–2137
17 Wang L Z, Lu K, Liu P, et al. IK-SVD: Dictionary learning for spatial big data via incremental atom update. Comput Sci Eng, 2014, 16: 41–52
18 He G J, Zhang X M, Jiao W L, et al. A study on the data miningstrategy based intelligent information processing technologies for satellite remote sensing (in Chinese). Sci Tech Engng, 2005, 24: 1911–1915 [何国金, 张晓美, 焦伟利, 等. 基于数据挖掘机制的卫星遥感信息智能处理方法研究. 科学技术与工程, 2005, 24: 1911–1915]
19 Liu J B, Yang J, Chen F, et al. Location-based instant satellite image service: Concept and system design. Int J Digit Earth, 2014, doi: 10.1080/17538947.2014.942395

End.