京公网安备 11010802034615号
经营许可证编号:京B2-20210330
大数据对社会创新的作用_数据分析师培训
“大数据”一语用来描述数据的日益增长和我们不断加强的有效利用数据的的能力,并且大数据已经在科学和商业领域获得了极大的应用。但是在社会领域“大数据”的应用却是滞后的。
大数据所提供的信息和帮助解决社会问题之间存在巨大的鸿沟。有一些社会问题可以通过大数据来解决,例如利用交通流量数据来缓解高速公路交通拥堵问题;但另一些社会问题的解决却没那么容易,例如如何利用数据来解决无家可归者的问题,或者贩卖人口的问题?
社会问题之所以复杂,是因为涉及的利益相关者众多,所以目标也是多重的。不像技术问题一样,目标往往是单一的,比如说优化。但在社会问题上,到底什么叫“优化”呢?尤其是社会问题往往涉及政府的公共政策和行政机构的介入,使得社会问题又不单纯是社会问题,而成为政治问题。
大数据使用的问题
另一个问题与大数据本身的使用有关系。事实上,但切入一个社会问题时,你可能会遇上不上数字,但这些数字往往不是结构化的,很难被调用。结构化的大数据相对缺乏有四个主要的原因:数据淹没在行政系统、数据管理标准缺乏、数据往往不可靠以及数据可能导致意想不到的后果。
比如说,全球每年被贩卖的人口估计高达3000万人次,这是个约320亿美元的“产业”。要打击人口贩子,大数据当然可以帮忙。但问题是人口贩子用的手机、社交媒体、在线广告和其他网络平台产生的数据,并没有被系统的收集,更遑论共享给相关的组织。当然原始数据本身的收集就很难,并且各个组织之间的数据共享做得也不到位。
更糟的是,打击人口贩卖的各家机构经常互相争夺的稀缺资源:无论资金、捐赠还是来自媒体和社会的认同。因为这种竞争,各机构之间的数据共享几乎不可能。例如,北极星项目(the Polaris Project)一直致力于打击人口贩卖。2003年至2006年,Polaris为被贩卖的幸存者提供热线电话。2007年,美国卫生和公众服务部选定Polaris作为全国首个国家贩卖人口资源热线。多年来,Polaris记录了75000多个呼叫;然而,获得这些数据受到限制,其可靠性和来源鲜为人知。
如果Polaris信息向公众开放,并结合其他数据源,如经济指标、运输路线、教育统计和受害者服务等,能更加有效帮助打击人口贩卖。2012年Google Giving(谷歌捐赠)授予Polaris和另外两家国际反人口贩卖组织300万美元以资助将他们三条电话热线收集到的数据予以整合,并发展为国际热线。目前,三个组织都已在全球人口贩运热线网络(Global Human Trafficking Hotline Network)下联合起来。这是一个积极的迹象,但是这次的合作成果仍有待观察。
增加大数据使用的步骤
大数据于决策时充分了解信息以帮助解决世界上最棘手的社会问题有着巨大潜力。但是要做到这一点,有关数据的收集、组织和分析的问题必须首先得到解决。下列四项建议有助于创建数据集,并以此为据进行决策。
首先,在关键问题上建立全球数据银行。全球需要对复杂的问题,如贩卖人口、全球饥饿和贫穷创建大型数据银行。数据银行有处理不同数据格式和描述数据集的元数据的能力。为了做到这一点,促进专题问题的数据共享需要创建多部门的联盟。
其次,让公民参与和公民科学。大数据不是专业人士的地盘。公民也可以参与帮助创建和分析这些数据集。随着通过开放的数据平台数据激增,越来越多的公民通过“公民科学”来开创新理念和产品。
再次,建立数据管理人和分析人的框架。今天,我们不仅缺乏可以解决社会问题的数据管理人和分析师,对于接受必要培训和能力的现有人员,我们的途径也是有限。在大多数情况下,我们将数据科学留给了科学界和商界。社会科学往往给学生提供简单的统计基础知识。如果我们要利用大数据,这种做法是不可接受的。我们需要让学生和分析人员掌握必要技能,以管理数据同时也创建大型数据集。我们要开发课程,让学生了解数据的组织、保存、可视化、搜索和检索以及使用。除了这些技能,要让学生能更多地思考能利用数据做什么是至关重要。考虑数据集之间的网络关系,以及如何发现数据集中的潜在模式,是需要开发的能力。
最后,促进虚拟实验平台。为了提高我们对如何使用大数据解决社会问题的理解,我们需要推动更多的实验。虚拟实验平台,允许个人交流思想、与别人的想法交流、携手合作以找到解决问题的方法或利用机会,它能够将各个感兴趣的相关方聚集在一起共同打造大型数据集、开发创新算法来分析和可视化的数据,并开发新知识。如果我们要使用大数据解决社会挑战,虚拟实验平台是必不可少的。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在使用Excel透视表进行数据汇总分析时,我们常遇到“需通过两个字段相乘得到关键指标”的场景——比如“单价×数量=金额”“销量 ...
2025-11-14在测试环境搭建、数据验证等场景中,经常需要将UAT(用户验收测试)环境的表数据同步到SIT(系统集成测试)环境,且两者表结构完 ...
2025-11-14在数据驱动的企业中,常有这样的困境:分析师提交的“万字数据报告”被束之高阁,而一张简洁的“复购率趋势图+核心策略标注”却 ...
2025-11-14在实证研究中,层次回归分析是探究“不同变量组对因变量的增量解释力”的核心方法——通过分步骤引入自变量(如先引入人口统计学 ...
2025-11-13在实时数据分析、实时业务监控等场景中,“数据新鲜度”直接决定业务价值——当电商平台需要实时统计秒杀订单量、金融系统需要实 ...
2025-11-13在数据量爆炸式增长的今天,企业对数据分析的需求已从“有没有”升级为“好不好”——不少团队陷入“数据堆砌却无洞察”“分析结 ...
2025-11-13在主成分分析(PCA)、因子分析等降维方法中,“成分得分系数矩阵” 与 “载荷矩阵” 是两个高频出现但极易混淆的核心矩阵 —— ...
2025-11-12大数据早已不是单纯的技术概念,而是渗透各行业的核心生产力。但同样是拥抱大数据,零售企业的推荐系统、制造企业的设备维护、金 ...
2025-11-12在数据驱动的时代,“数据分析” 已成为企业决策的核心支撑,但很多人对其认知仍停留在 “用 Excel 做报表”“写 SQL 查数据” ...
2025-11-12金融统计不是单纯的 “数据计算”,而是贯穿金融业务全流程的 “风险量化工具”—— 从信贷审批中的客户风险评估,到投资组合的 ...
2025-11-11这个问题很有实战价值,mtcars 数据集是多元线性回归的经典案例,通过它能清晰展现 “多变量影响分析” 的核心逻辑。核心结论是 ...
2025-11-11在数据驱动成为企业核心竞争力的今天,“不知道要什么数据”“分析结果用不上” 是企业的普遍困境 —— 业务部门说 “要提升销量 ...
2025-11-11在大模型(如 Transformer、CNN、多层感知机)的结构设计中,“每层神经元个数” 是决定模型性能与效率的关键参数 —— 个数过少 ...
2025-11-10形成购买决策的四个核心推动力的是:内在需求驱动、产品价值感知、社会环境影响、场景便捷性—— 它们从 “为什么买”“值得买吗 ...
2025-11-10在数字经济时代,“数字化转型” 已从企业的 “可选动作” 变为 “生存必需”。然而,多数企业的转型仍停留在 “上线系统、收集 ...
2025-11-10在数据分析与建模中,“显性特征”(如用户年龄、订单金额、商品类别)是直接可获取的基础数据,但真正驱动业务突破的往往是 “ ...
2025-11-07在大模型(LLM)商业化落地过程中,“结果稳定性” 是比 “单次输出质量” 更关键的指标 —— 对客服对话而言,相同问题需给出一 ...
2025-11-07在数据驱动与合规监管双重压力下,企业数据安全已从 “技术防护” 升级为 “战略刚需”—— 既要应对《个人信息保护法》《数据安 ...
2025-11-07在机器学习领域,“分类模型” 是解决 “类别预测” 问题的核心工具 —— 从 “垃圾邮件识别(是 / 否)” 到 “疾病诊断(良性 ...
2025-11-06在数据分析中,面对 “性别与购物偏好”“年龄段与消费频次”“职业与 APP 使用习惯” 这类成对的分类变量,我们常常需要回答: ...
2025-11-06