京公网安备 11010802034615号
经营许可证编号:京B2-20210330
大数据对社会创新的作用_数据分析师培训
“大数据”一语用来描述数据的日益增长和我们不断加强的有效利用数据的的能力,并且大数据已经在科学和商业领域获得了极大的应用。但是在社会领域“大数据”的应用却是滞后的。
大数据所提供的信息和帮助解决社会问题之间存在巨大的鸿沟。有一些社会问题可以通过大数据来解决,例如利用交通流量数据来缓解高速公路交通拥堵问题;但另一些社会问题的解决却没那么容易,例如如何利用数据来解决无家可归者的问题,或者贩卖人口的问题?
社会问题之所以复杂,是因为涉及的利益相关者众多,所以目标也是多重的。不像技术问题一样,目标往往是单一的,比如说优化。但在社会问题上,到底什么叫“优化”呢?尤其是社会问题往往涉及政府的公共政策和行政机构的介入,使得社会问题又不单纯是社会问题,而成为政治问题。
大数据使用的问题
另一个问题与大数据本身的使用有关系。事实上,但切入一个社会问题时,你可能会遇上不上数字,但这些数字往往不是结构化的,很难被调用。结构化的大数据相对缺乏有四个主要的原因:数据淹没在行政系统、数据管理标准缺乏、数据往往不可靠以及数据可能导致意想不到的后果。
比如说,全球每年被贩卖的人口估计高达3000万人次,这是个约320亿美元的“产业”。要打击人口贩子,大数据当然可以帮忙。但问题是人口贩子用的手机、社交媒体、在线广告和其他网络平台产生的数据,并没有被系统的收集,更遑论共享给相关的组织。当然原始数据本身的收集就很难,并且各个组织之间的数据共享做得也不到位。
更糟的是,打击人口贩卖的各家机构经常互相争夺的稀缺资源:无论资金、捐赠还是来自媒体和社会的认同。因为这种竞争,各机构之间的数据共享几乎不可能。例如,北极星项目(the Polaris Project)一直致力于打击人口贩卖。2003年至2006年,Polaris为被贩卖的幸存者提供热线电话。2007年,美国卫生和公众服务部选定Polaris作为全国首个国家贩卖人口资源热线。多年来,Polaris记录了75000多个呼叫;然而,获得这些数据受到限制,其可靠性和来源鲜为人知。
如果Polaris信息向公众开放,并结合其他数据源,如经济指标、运输路线、教育统计和受害者服务等,能更加有效帮助打击人口贩卖。2012年Google Giving(谷歌捐赠)授予Polaris和另外两家国际反人口贩卖组织300万美元以资助将他们三条电话热线收集到的数据予以整合,并发展为国际热线。目前,三个组织都已在全球人口贩运热线网络(Global Human Trafficking Hotline Network)下联合起来。这是一个积极的迹象,但是这次的合作成果仍有待观察。
增加大数据使用的步骤
大数据于决策时充分了解信息以帮助解决世界上最棘手的社会问题有着巨大潜力。但是要做到这一点,有关数据的收集、组织和分析的问题必须首先得到解决。下列四项建议有助于创建数据集,并以此为据进行决策。
首先,在关键问题上建立全球数据银行。全球需要对复杂的问题,如贩卖人口、全球饥饿和贫穷创建大型数据银行。数据银行有处理不同数据格式和描述数据集的元数据的能力。为了做到这一点,促进专题问题的数据共享需要创建多部门的联盟。
其次,让公民参与和公民科学。大数据不是专业人士的地盘。公民也可以参与帮助创建和分析这些数据集。随着通过开放的数据平台数据激增,越来越多的公民通过“公民科学”来开创新理念和产品。
再次,建立数据管理人和分析人的框架。今天,我们不仅缺乏可以解决社会问题的数据管理人和分析师,对于接受必要培训和能力的现有人员,我们的途径也是有限。在大多数情况下,我们将数据科学留给了科学界和商界。社会科学往往给学生提供简单的统计基础知识。如果我们要利用大数据,这种做法是不可接受的。我们需要让学生和分析人员掌握必要技能,以管理数据同时也创建大型数据集。我们要开发课程,让学生了解数据的组织、保存、可视化、搜索和检索以及使用。除了这些技能,要让学生能更多地思考能利用数据做什么是至关重要。考虑数据集之间的网络关系,以及如何发现数据集中的潜在模式,是需要开发的能力。
最后,促进虚拟实验平台。为了提高我们对如何使用大数据解决社会问题的理解,我们需要推动更多的实验。虚拟实验平台,允许个人交流思想、与别人的想法交流、携手合作以找到解决问题的方法或利用机会,它能够将各个感兴趣的相关方聚集在一起共同打造大型数据集、开发创新算法来分析和可视化的数据,并开发新知识。如果我们要使用大数据解决社会挑战,虚拟实验平台是必不可少的。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在统计学分析、实验研究、业务数据复盘过程中,单因素方差分析是检验自变量对因变量是否存在显著影响的核心方法。其中,两个水平 ...
2026-05-26【核心关键词】算法、客户、大数据、互联网、调优、建模、模型优化、机器学习、评分卡模型、模型开发、智能风控、业务场景、数 ...
2026-05-26 很多数据分析师写过无数个 SELECT,但当被问到“新建一张表,该如何定义字段类型来保证数据质量”“创建视图和存储物理表有 ...
2026-05-26在数据清洗、统计分析与数据质量检测工作中,箱型图(又称箱线图、Box Plot)是最直观、最高效的可视化分析工具之一。相较于柱状 ...
2026-05-25在大数据分析、数据清洗、质量管控、风险监测等领域,异常数据识别是保障数据质量、确保分析结论精准、规避业务决策失误的核心基 ...
2026-05-25 很多数据分析师精通Excel函数和透视表,但当被问到“数据从哪里来”“表和视图有什么区别”“数据库管理系统和SQL是什么关系 ...
2026-05-25数字化经营时代,企业的市场竞争早已从经验决策转向数据决策。门店营收、用户转化、产品销量、成本损耗、存量资产等所有经营行为 ...
2026-05-22在MySQL数据库日常运维、业务数据校验、数据迁移与数据清洗场景中,自增主键ID的连续性校验是一项基础且关键的工作。MySQL的Auto ...
2026-05-22 很多企业团队并非缺乏指标,而是陷入“指标失控”:仪表盘上堆满实时跳动的数据,却无法回答“当前瓶颈在哪、下一步该做什么 ...
2026-05-22【核心关键词】大数据、可视化、存储、架构、客户、离线、产品、同步、实时、数据仓库、数据分析、数据可视化、存储数据、离线 ...
2026-05-21在电商流量红利消退、公域获客成本持续走高的当下,存量用户深度挖掘已成为店铺增收增效的核心抓手。相较于付费投放获取的陌生新 ...
2026-05-21 很多数据分析师每天盯着几十个指标,但当被问到“这套指标要支撑什么业务目标”“指标之间是什么逻辑关系”“业务变化时如何 ...
2026-05-21在数据驱动决策的时代,数据质量直接决定分析结果的可靠性与准确性,而异常值作为数据清洗中的核心痛点,往往会扭曲分析结论、误 ...
2026-05-20 很多数据分析师每天盯着GMV、DAU、转化率,但当被问到“哪些指标在所有行业都适用”“哪些指标只对电商有意义”“二者如何搭 ...
2026-05-20Agent的能力边界,很大程度上取决于其掌握的Skill质量和数量。传统做法是靠人工编写和维护Skill,但这条路很快会遇到瓶颈。业务 ...
2026-05-20在统计分析中,方差分析(ANOVA)是一种常用的假设检验方法,核心用于分析“一个或多个自变量对单个因变量的影响”,广泛应用于 ...
2026-05-19 很多数据分析师每天盯着GMV、DAU、转化率,但当被问到“什么是指标”“指标和维度有什么区别”“如何定义指标值的计算规则和 ...
2026-05-19想高效备考 CDA 一级,拒绝盲目刷题、冗余学习?《CDA 一级教材知识手册》重磅来袭!以官方教材为核心,浓缩 13 章 103 个核心考 ...
2026-05-19在数据统计分析中,卡方检验是一种常用的非参数检验方法,核心用于判断两个或多个分类变量之间是否存在显著关联,广泛应用于市场 ...
2026-05-18在企业数字化转型的浪潮中,很多企业陷入了“技术堆砌”的误区——上线了ERP、CRM、BI等各类系统,积累了海量数据,却依然面临“ ...
2026-05-18