京公网安备 11010802034615号
经营许可证编号:京B2-20210330
大数据与云计算,拯救帕金森_数据分析师
医疗行业的变革正成为新的风口,今天作者想讲讲大数据与基因技术结合,正在产生什么新的想象力。其中尤以基因检测技术走到了前面,让我们谈谈“帕金森综合症”:
在未来,基因检测术将会成为医疗不可或缺的一部分。越来越多的人会进行基因测序来了解自己的生命体征和健康状况。国内最大的基因检测机构华大基因,也正在抓住机会,用信息技术提升基因检测技术,致力于提供更好的基因服务。
基因,这个被我们熟悉却又十分陌生的词汇开始频繁出现。然而基因检测海量、复杂、多变的数据计算需求一直是华大基因前进道路上的鸿沟。解决数据分析和计算成了必须要克服的问题。
大数据打入帕金森
2014年8月13日,迈克尔·J·福克斯帕金森氏症研究基金会(MJFF)和英特尔公司对外宣布了一项合作,促进帕金森氏症的研究和治疗——帕金森氏症是一种全球范围的、患病率仅次于阿兹海默氏症的神经退行性脑部疾病。这项合作将利用全新的大数据分析平台进行多阶段研究——利用可穿戴技术监测患者症状,并用收集得来的数据探索相关模型。
可穿戴设备能够24×7全天候地在后台实时收集和传输相关客观数据。通过这种方法,研究人员能以每秒数百读数的速度分析来自成千上万患者的数据,同时获得海量数据以用于探索模型和获取新发现,再也不必受限于零星收集得来的少量数据信息和繁杂的书面患者日志。
所有这些,都可进一步帮助实现针对帕金森氏症本质的洞察,从而帮助科学家们衡量新药品的功效,以及协助医生制定预后方案。
英特尔公司高级副总裁兼数据中心事业部总经理柏安娜表示,“帕金森氏症症状的多样性给疾病检测的进展带来了巨大挑战。新兴的技术不仅可以创建一个测量帕金森氏症的全新范例,还能为医学界提供更多数据,以便找出目前尚未明确的疾病特征,从而开拓全新的研究领域。”
大数据和云计算给医疗界带来了新的光明,利用它们来解决基因测序带来的问题是大势所趋。
解决信息技术瓶颈
“只有以科学发展,以大技术、大平台、大数据支撑下的基因产业,才是无穷无尽的,永远没有冬天。”华大基因总裁、深圳华大基因研究院院长汪建先生如是说。这也最终促成了华大基因与英特尔的合作。
华大基因在基因测序计算中应用的BWA(Burrows-Wheeler Aligner),是基因研究中一款十分优秀并且被广泛使用的序列比对软件。由于BWA软件代码分支多,并且有很多随机访问,起初大家都不看好BWA的移植效果。但实际测试性能却已经完全出乎专家预期。
BWA包括6种优化方法:
第一,使用OpenMP代替Pthreads,使用schedule实现负载均衡、使用KMP_AFFINITY=balanced, granularity=thread实现线程绑定。
第二,使用双缓存,同时进行数据读取和计算。
第三,使用TBB的内存分配代理取代glibc的内存分配。
第四,使用多缓存进一步减少IO瓶颈。
第五,简化耗时函数中的循环。
第六,在至强融核上增加任务级并行按照输入文件进行任务划分,每个任务处理一部分输入数据,避免OpenMP的Map-Reduce并行模式带来的负载不均衡的开销。
在尝试了6种优化方法之后,BWA获得的最好加速比已经达到2.19。
而不得不说的是至强和至强融核的组合在代码迁移和优化上为基因测序带来了非常大的优势。王丙强博士说:“代码的修改工作量不大,只需要对源代码进行很小幅度的修改,是添加一些辅助编译指示,就能在这个组合上运行的相当好。”
实际应用中,借助英特尔的产品技术,计算效率能大大提高。以测序为例,以前传统的方式需要几个星期时间,而现在8个小时就可以完成。这是非常大的突破。
这一重大突破的背后,则是英特尔至强融核协处理器(Xeon Phi)。这是英特尔面向高度并行的高性能计算(HPC)应用所推出的协处理器,能够提供多达61个内核、244个线程和1.2万亿次浮点运算性能。此外,英特尔至强处理器架构使用同样的编程语言、并行模式、技术和开发人员工具,因此以往在至强处理器上运行的应用,在向至强融核上迁移时,具有更便捷、更易于移植等优势。
其编码的简单可移植性,正是基因测序相关程序中的重要需求。而其强大的计算能力为提高基因测序速度提供源动力,标准的编程模型也为基因测序向至强融核上的移植提供了便利。
在测试基于英特尔至强和至强融核的高性能计算平台的同时,华大基因也正在执行3M百万基因组计划,即百万动植物基因组计划、百万人基因组计划、百万微生态基因组计划。该项目将联合全球科学家,通过上百万样本的测序构建遗传信息的数据库,进一步推动基因组测序和生物信息分析技术在粮食安全、医学应用、生态保护等重大发展问题的应用。
现代生命科学和医疗健康正转变为由大数据和大计算推动。在这个技术为王的时代,任何独立的高端技术都将面临寒潮。只有相互协作,共同探索开发,才能真正的造福于人类。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在数据仓库与数据分析体系中,维度表与事实表是构建结构化数据模型的核心组件,二者如同“骨架”与“血肉”,协同支撑起各类业务 ...
2026-01-16在游戏行业“存量竞争”的当下,玩家留存率直接决定游戏的生命周期与商业价值。一款游戏即便拥有出色的画面与玩法,若无法精准识 ...
2026-01-16为配合CDA考试中心的 2025 版 CDA Level III 认证新大纲落地,CDA 网校正式推出新大纲更新后的第一套官方模拟题。该模拟题严格遵 ...
2026-01-16在数据驱动决策的时代,数据分析已成为企业运营、产品优化、业务增长的核心工具。但实际工作中,很多数据分析项目看似流程完整, ...
2026-01-15在CDA(Certified Data Analyst)数据分析师的日常工作中,“高维数据处理”是高频痛点——比如用户画像包含“浏览次数、停留时 ...
2026-01-15在教育测量与评价领域,百分制考试成绩的分布规律是评估教学效果、优化命题设计的核心依据,而正态分布则是其中最具代表性的分布 ...
2026-01-15在用户从“接触产品”到“完成核心目标”的全链路中,流失是必然存在的——电商用户可能“浏览商品却未下单”,APP新用户可能“ ...
2026-01-14在产品增长的核心指标体系中,次日留存率是当之无愧的“入门级关键指标”——它直接反映用户对产品的首次体验反馈,是判断产品是 ...
2026-01-14在CDA(Certified Data Analyst)数据分析师的业务实操中,“分类预测”是高频核心需求——比如“预测用户是否会购买商品”“判 ...
2026-01-14在数字化时代,用户的每一次操作——无论是电商平台的“浏览-加购-下单”、APP的“登录-点击-留存”,还是金融产品的“注册-实名 ...
2026-01-13在数据驱动决策的时代,“数据质量决定分析价值”已成为行业共识。数据库、日志系统、第三方平台等渠道采集的原始数据,往往存在 ...
2026-01-13在CDA(Certified Data Analyst)数据分析师的核心能力体系中,“通过数据建立模型、实现预测与归因”是进阶关键——比如“预测 ...
2026-01-13在企业数字化转型过程中,业务模型与数据模型是两大核心支撑体系:业务模型承载“业务应该如何运转”的逻辑,数据模型解决“数据 ...
2026-01-12当前手游市场进入存量竞争时代,“拉新难、留存更难”成为行业普遍痛点。对于手游产品而言,用户留存率不仅直接决定产品的生命周 ...
2026-01-12在CDA(Certified Data Analyst)数据分析师的日常工作中,“挖掘变量间的关联关系”是高频核心需求——比如判断“用户停留时长 ...
2026-01-12在存量竞争时代,用户流失率直接影响企业的营收与市场竞争力。无论是电商、互联网服务还是金融行业,提前精准预测潜在流失用户, ...
2026-01-09在量化投资领域,多因子选股是主流的选股策略之一——其核心逻辑是通过挖掘影响股票未来收益的各类因子(如估值、成长、盈利、流 ...
2026-01-09在CDA(Certified Data Analyst)数据分析师的工作场景中,分类型变量的关联分析是高频需求——例如“用户性别与商品偏好是否相 ...
2026-01-09数据库中的历史数据,是企业运营过程中沉淀的核心资产——包含用户行为轨迹、业务交易记录、产品迭代日志、市场活动效果等多维度 ...
2026-01-08在电商行业竞争日趋激烈的当下,数据已成为驱动业务增长的核心引擎。电商公司的数据分析师,不仅是数据的“解读官”,更是业务的 ...
2026-01-08