京公网安备 11010802034615号
经营许可证编号:京B2-20210330
大数据与云计算,拯救帕金森_数据分析师
医疗行业的变革正成为新的风口,今天作者想讲讲大数据与基因技术结合,正在产生什么新的想象力。其中尤以基因检测技术走到了前面,让我们谈谈“帕金森综合症”:
在未来,基因检测术将会成为医疗不可或缺的一部分。越来越多的人会进行基因测序来了解自己的生命体征和健康状况。国内最大的基因检测机构华大基因,也正在抓住机会,用信息技术提升基因检测技术,致力于提供更好的基因服务。
基因,这个被我们熟悉却又十分陌生的词汇开始频繁出现。然而基因检测海量、复杂、多变的数据计算需求一直是华大基因前进道路上的鸿沟。解决数据分析和计算成了必须要克服的问题。
大数据打入帕金森
2014年8月13日,迈克尔·J·福克斯帕金森氏症研究基金会(MJFF)和英特尔公司对外宣布了一项合作,促进帕金森氏症的研究和治疗——帕金森氏症是一种全球范围的、患病率仅次于阿兹海默氏症的神经退行性脑部疾病。这项合作将利用全新的大数据分析平台进行多阶段研究——利用可穿戴技术监测患者症状,并用收集得来的数据探索相关模型。
可穿戴设备能够24×7全天候地在后台实时收集和传输相关客观数据。通过这种方法,研究人员能以每秒数百读数的速度分析来自成千上万患者的数据,同时获得海量数据以用于探索模型和获取新发现,再也不必受限于零星收集得来的少量数据信息和繁杂的书面患者日志。
所有这些,都可进一步帮助实现针对帕金森氏症本质的洞察,从而帮助科学家们衡量新药品的功效,以及协助医生制定预后方案。
英特尔公司高级副总裁兼数据中心事业部总经理柏安娜表示,“帕金森氏症症状的多样性给疾病检测的进展带来了巨大挑战。新兴的技术不仅可以创建一个测量帕金森氏症的全新范例,还能为医学界提供更多数据,以便找出目前尚未明确的疾病特征,从而开拓全新的研究领域。”
大数据和云计算给医疗界带来了新的光明,利用它们来解决基因测序带来的问题是大势所趋。
解决信息技术瓶颈
“只有以科学发展,以大技术、大平台、大数据支撑下的基因产业,才是无穷无尽的,永远没有冬天。”华大基因总裁、深圳华大基因研究院院长汪建先生如是说。这也最终促成了华大基因与英特尔的合作。
华大基因在基因测序计算中应用的BWA(Burrows-Wheeler Aligner),是基因研究中一款十分优秀并且被广泛使用的序列比对软件。由于BWA软件代码分支多,并且有很多随机访问,起初大家都不看好BWA的移植效果。但实际测试性能却已经完全出乎专家预期。
BWA包括6种优化方法:
第一,使用OpenMP代替Pthreads,使用schedule实现负载均衡、使用KMP_AFFINITY=balanced, granularity=thread实现线程绑定。
第二,使用双缓存,同时进行数据读取和计算。
第三,使用TBB的内存分配代理取代glibc的内存分配。
第四,使用多缓存进一步减少IO瓶颈。
第五,简化耗时函数中的循环。
第六,在至强融核上增加任务级并行按照输入文件进行任务划分,每个任务处理一部分输入数据,避免OpenMP的Map-Reduce并行模式带来的负载不均衡的开销。
在尝试了6种优化方法之后,BWA获得的最好加速比已经达到2.19。
而不得不说的是至强和至强融核的组合在代码迁移和优化上为基因测序带来了非常大的优势。王丙强博士说:“代码的修改工作量不大,只需要对源代码进行很小幅度的修改,是添加一些辅助编译指示,就能在这个组合上运行的相当好。”
实际应用中,借助英特尔的产品技术,计算效率能大大提高。以测序为例,以前传统的方式需要几个星期时间,而现在8个小时就可以完成。这是非常大的突破。
这一重大突破的背后,则是英特尔至强融核协处理器(Xeon Phi)。这是英特尔面向高度并行的高性能计算(HPC)应用所推出的协处理器,能够提供多达61个内核、244个线程和1.2万亿次浮点运算性能。此外,英特尔至强处理器架构使用同样的编程语言、并行模式、技术和开发人员工具,因此以往在至强处理器上运行的应用,在向至强融核上迁移时,具有更便捷、更易于移植等优势。
其编码的简单可移植性,正是基因测序相关程序中的重要需求。而其强大的计算能力为提高基因测序速度提供源动力,标准的编程模型也为基因测序向至强融核上的移植提供了便利。
在测试基于英特尔至强和至强融核的高性能计算平台的同时,华大基因也正在执行3M百万基因组计划,即百万动植物基因组计划、百万人基因组计划、百万微生态基因组计划。该项目将联合全球科学家,通过上百万样本的测序构建遗传信息的数据库,进一步推动基因组测序和生物信息分析技术在粮食安全、医学应用、生态保护等重大发展问题的应用。
现代生命科学和医疗健康正转变为由大数据和大计算推动。在这个技术为王的时代,任何独立的高端技术都将面临寒潮。只有相互协作,共同探索开发,才能真正的造福于人类。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
金融行业的运营风险贯穿业务全流程,涵盖交易欺诈、操作违规、流程漏洞、合规偏差、客户信用异常等多元场景,是银行、保险、证券 ...
2026-07-17财产保险作为金融行业的核心板块,涵盖车险、家财险、责任险、企财险等多元品类,是个人与企业抵御财产风险、经营风险的重要保障 ...
2026-07-17 很多数据分析师能熟练写SQL、做透视表,但当被问到“数据是从哪里来的?经过哪些加工才进入数据仓库?ETL具体做了什么?”时 ...
2026-07-17【核心关键词】模块、餐饮、客户、门店、企业、订单、供应链、多样化、产品、生产计划、数据分析、生产管理、物料管理、业务分 ...
2026-07-16在数字化分析时代,原始数据本身不具备业务价值,只有通过科学的统计学方法加工、拆解、验证与解读,才能挖掘数据背后的规律、差 ...
2026-07-16 很多数据分析师能熟练地写SQL、做透视表、算描述性统计,但当被问到“如何预测用户流失概率”“如何归因销量下滑的关键因素 ...
2026-07-16在描述性统计分析、数据预处理、异常值排查与多组数据分布对比工作中,箱线图(Box Plot)是应用最广泛的可视化与统计工具之一。 ...
2026-07-15在企业数据存储、业务统计与数据分析工作中,绝大多数业务数据都带有时间维度属性,例如订单创建时间、用户注册时间、支付完成时 ...
2026-07-15 很多数据分析师拿到数据就开始清洗、建模,但当被问到“这批数据属于什么类型——结构化还是非结构化?分类变量还是数值变量 ...
2026-07-15【核心关键词】产品、经营、客户、调研、销售额、宏观、会计行业、客户满意度、发展趋势、经营状况、数据分析、竞争对手、数据 ...
2026-07-14问卷调查是市场调研、用户研究、社会调研与产品分析的核心数据采集方式。问卷数据大多以分类数据为主,例如用户性别、年龄分层、 ...
2026-07-14 很多数据分析师画过趋势图、做过业绩预测,但当被问到“这个月销售额增长20%,到底是长期趋势自然增长,还是促销活动的短期 ...
2026-07-14在数据分析、业务效果验证、AB实验扩展、行业对比等场景中,我们经常需要对比三组及以上样本的均值差异,例如不同区域的客单价对 ...
2026-07-13在互联网产品运营、用户生命周期管理与商业化数据分析中,留存指标是判断产品价值、用户满意度与商业模式健康度的核心基准。常规 ...
2026-07-13 很多数据分析师做过按月份的销售额趋势图,画过按天的流量折线图,但当被问到“时间序列和普通数据有什么本质区别”“季节性 ...
2026-07-13【核心关键词】统计学、互联网、知识、课程、学生、数学、软件、招聘、数据分析、实习经历、机器学习、理论基础、业务思维、统 ...
2026-07-10在互联网运营、产品设计、市场营销与商业数据分析领域,所有转化、成交、复购行为的底层逻辑,都依托于用户决策流程。用户从产生 ...
2026-07-10 很多数据分析师能熟练地计算指标、搭建标签体系,但当被问到“画像到底在解决什么问题”“画像和标签是什么关系”“画像如何 ...
2026-07-10数据透视表是数据分析中最常用、最高效的汇总分析工具,具备快速分组、聚合计算、维度拆解、数据可视化等优势,能够轻松完成求和 ...
2026-07-09在统计学、CDA数据分析、机器学习与商业数据研究中,正态分布是最基础、最重要的数据分布形态。绝大多数参数检验、数据建模、指 ...
2026-07-09