京公网安备 11010802034615号
经营许可证编号:京B2-20210330
大数据:用不用,怎么用_数据分析师
卫星收集了那么多数据,如果不用,那收集它干什么呢?如果只让少数人关起门来用,那么这种保密是要防止什么呢?
大数据用于环境保护,科研人员开发新的森林映射工具,当大片森林被砍伐、被破坏时,工具将对监视者发出声响警告。
现在国内大数据被叫得很响,但是空谈比较多。我不喜欢空谈,我想看到大数据的应用实例。
4月16日的《科技纵览》提醒列表(IEEE Spectrum Alert)发表一篇文章,介绍将大数据用于环境保护,科研人员开发了一个新的森林映射工具,当大片森林被砍伐、被破坏时,工具将对监视者发出声响警告。这引起了我的兴趣。
这个由世界资源研究所开发的、名为Global Forest Watch(全球森林监视)的在线工具,将大数据处理技术应用于卫星图像,能够随时发现森林采伐和受损的情况。用户通过它,可以探索全球地图,发现自2000年以来森林的变化趋势,同时可以考察森林情况,其精度可达30米。该地图的热带区域每16天更新一次。用户可以选择“警报”功能,即当系统侦察到非法采伐或者森林火灾时将第一时间对你发出警报。
当森林中一棵大树倒下,计算机将发出一个警告,给环保人士、研究人员和环境政策制定者。这事看似容易,实则不易。要从杂乱无章的特殊格式的卫星数据里找到那块特定的森林,然后从图像上识别出刚刚倒下的那棵树,随即要实时发出警告推送给相关人员——这其中技术难点很多。
Global Forest Watch由谷歌地图引擎提供技术支持,由美国NASA和美国地质调查局的几颗卫星提供图像数据。此前,谷歌开发了一个平台,集中了千万亿字节的地球科学数据,向研究人员开放,让他们可以用简单直接的方式来使用这些数据。谷歌地球引擎高级开发人员David Thau说:“用户只要登录、取出这些数据、运行他们自己的算法就可以了。”谷歌地球引擎现在已经有数以千计的研究伙伴。
而谷歌森林监视是一连串项目研究成果的集成。世界资源研究所的数据实验室早就有一个热点地区森林警报系统,基于NASA两个卫星Terra和Aqua上的中等分辨率的分光辐射度计所测量的数据运行。美国马里兰大学一位地理科学Matthew Hansen教授与谷歌地球引擎合作,将NASA和美国地质勘探局的几个地球资源卫星,用于全球森林监视。前者能够提供较好的时间分辨率,而后者则可以提供很好的空间分辨率。
2008年,美国地球资源卫星数据可以自由使用了。每30米一个像素点,一共1430亿个像素点,Hansen每月每年跟踪这些点,发现根据季节的不同,它们的特征会呈现出正常的变化。Hansen的合作者于2013年11月发表了一个对刚果2000年至2012年消失的150万平方公里森林的报告,他们在10000台计算机上计算了一百万CPU核小时。在云计算中,研究人员要考虑计算任务在整个网络中的分布,而地球引擎的研究者只要用一个程序接口进入他们的问题,就能够实现自动并行化,十分简便易行。为了建造公用的全球森林监视网站,世界资源研究所计划让大众都能取得这些大数据,希望政府部门、商业界、研究人员和各种利益团体都能用这个工具,以得到森林管理的较好图像。
通过这个报道,我有几点感想:
一、大数据在这里得以应用决定于三要素:卫星、David Thau和Matthew Hansen。卫星提供数据,David Thau开发平台,Matthew Hansen做数据分析。
二、卫星是要用的。我们经常听到我国卫星发射成功的消息,却很少听到卫星被用上了的消息。我们的卫星发射技术的确已经过关,而且已经商业化。我们自己也发射了许多卫星。但是,较少听到卫星做了什么用、对国民经济起了什么作用、卫星数据可以供研究人员自由使用。
三、大数据的研究一定要有实际用处。用大数据做森林监视就是一个很好的实例。每年我国森林火灾和非法砍伐时有发生,如果能实现自动监测,并且实时给相关人员推送警示,那该多好啊!可要实现这一步,还有许多工作要做——IT人员要提供工具,方便专业人员处理这些数据;专业人员要研究他们自己的算法作出各种监视的判断。这真不容易啊!
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在 SQL Server 安装、服务启动、数据库文件操作等场景中,经常会遇到 “实例已在使用” 类报错,不同触发场景的原因与处理方式差 ...
2026-06-29在Excel数据统计、财务核算、销售复盘、库存盘点等办公场景中,经常需要在数据透视表中实现一列数据乘以另一列数据的计算需求, ...
2026-06-29在数据分析中,指标是连接业务与数据的核心语言。它并非一个简单的数字,而是一个将模糊的业务需求(如“提升用户粘性”)转化为 ...
2026-06-29【核心关键词】大数据、零售商、消费者、供应链、运营、企业、产品、客户、数据模型、大数据平台、数据开发、系统运维、业务逻 ...
2026-06-26在物流配送、供应链履约、终端供货等业务场景中,送货率是衡量企业履约能力、服务质量、供应链稳定性的核心业务指标,直接关联客 ...
2026-06-26 很多数据分析师精通描述性统计,能熟练计算均值、中位数、标准差,但当被问到“用500个样本如何推断10万用户的真实满意度” ...
2026-06-26在数字化管理与数据化运营体系中,指标是连接原始数据与业务决策的核心载体。零散的原始数据只是无意义的数值堆砌,无法直接反映 ...
2026-06-25在Excel数据汇总、财务统计、业务复盘等日常办公场景中,经常需要完成逐行相乘、整体汇总求和的计算需求,最典型的场景就是:单 ...
2026-06-25 很多数据分析师沉迷于复杂的机器学习算法,却忽略了数据分析最基础也最核心的能力——描述性统计。事实上,80%的商业分析问 ...
2026-06-25【核心关键词】主数据、资产、供应商、现金流、企业、精细化、集团、数字化、中国、数据质量、数据管理、经营管理、地产行业、 ...
2026-06-24在数据分析、假设检验、AB测试、学术研究等统计场景中,显著水平(α)与P值(P-value)是判断统计结果是否具有统计学意义的两个 ...
2026-06-24小李刚入职了一家互联网公司的运营部门。第一次参加业务复盘会,运营主管问了一个看似简单的问题:“这个月新用户留存率下降了5 ...
2026-06-24在数字化转型全面渗透的产业背景下,数据分析已成为互联网、金融、零售、制造等几乎所有行业的核心岗位能力。很多初学者对数据分 ...
2026-06-23在企业并购、股权定价、投融资评估、资产核算等资本市场核心场景中,市场法是应用最广泛、市场认可度最高的企业价值评估方法。传 ...
2026-06-23 许多数据分析师精通Excel函数和SQL查询,但当面对一张上万行的销售明细表,要快速回答“哪个地区销量最高”“哪款产品增长最 ...
2026-06-23【核心关键词】运营、证书、金融、客户、产品、软件、销售额、量化、科技、数据分析、金融行业、证券类软件、业务流程、金融机 ...
2026-06-22在企业方案选型、产品迭代评审、供应商筛选、运营效果复盘等决策场景中,单一指标的优劣判断往往无法支撑科学决策。一套转化效果 ...
2026-06-22 很多数据分析师掌握了Excel函数、会写SQL查询,但当被问到“数据从哪里来”“数据加工有哪些步骤”“如何使用分析工具连接数 ...
2026-06-22【核心关键词】软件、洞察力、大数据、产品、经验、硬件、流量、创新、决策、数据安全、网络安全、数据分析、决策制定、数据挖 ...
2026-06-18在方案选型、效果复盘、产品评估、供应商筛选等各类业务决策场景中,仅凭单一指标下结论往往会陷入 “以偏概全” 的误区。多维度 ...
2026-06-18