京公网安备 11010802034615号
经营许可证编号:京B2-20210330
以下是我作为数据科学家管理自己的可重复使用的Python代码的一些方法,从最常用的代码到最不常用的代码,并针对初学者介绍。
分享38
有很多不同的方法来管理你自己的代码,这将取决于你的要求、个性、技术知识、角色和许多其他因素。一个经验丰富的开发者可能会有一个非常规范的方法来组织他们的代码,跨越多种语言、项目和用例,而一个很少写自己的代码的数据分析师可能会因为缺乏必要而更加临时和缺乏动力。其实没有什么对错之分,这只是一个对你有用的问题,而且是合适的。
具体地说,我所说的“管理代码”是指如何组织、存储和调用您自己编写并发现作为编程工具箱的长期补充有用的不同代码片段。编程都是关于自动化的,因此,如果作为一个编写代码的人,你发现自己在重复执行类似的任务,那么以某种方式自动调用与该任务相关的代码才有意义。
这就是为什么您已经在使用第三方库。无需每次使用时从头开始重新实现支持向量机代码库;相反,您可以使用一个库(可能是Scikit learn),并利用大量人员的集体工作,随着时间的推移完善一些代码。
将这个想法扩展到个人编程领域才有意义。您可能已经在这样做了(我希望您是这样),但如果不是的话,以下是我作为一名数据科学家为管理自己的可重用Python代码而确定的几种方法,从最常用的代码使用到最不常用的代码使用。
完整的库
这是最通用的方法,也可以说是最 "专业 "的方法;但是,仅仅这一点并不意味着它在任何时候都是正确的选择。
如果你发现你在许多用例中使用相同的功能,并且经常这样做,这就是要走的路。如果你想重用的功能很容易被参数化,这也是有意义的;也就是说,通过编写和调用一个通用的函数,你可以在每次调用时定义变量,就可以反复地处理这个任务。
例如,我经常发现我想在一个字符串中找到某个子串的第n次出现,而Python标准库中没有这样的函数。因此,我有一段简单的代码,它接受一个字符串、子串和我要找的第n次出现作为输入,并返回这个第n次出现在字符串中开始的位置(很久以前从这里搬来的)。
def find_nth(haystack, needle, n):
start = haystack.find(needle)
while start >= 0 and n > 1:
start = haystack.find(needle, start+len(needle))
n -= 1
return start
由于我处理了大量的文本处理,我把它和我经常使用的许多其他文本处理函数一起收集起来,并创建了一个库,像其他Python库一样驻留在我的计算机上,并且能够像其他库一样导入这个库。创建这个库的步骤有些冗长,虽然很简单,所以我不会在这里介绍,但这篇文章是众多做得很好的文章之一。
因此,现在我有了一个textproc库,我可以很容易地导入和使用我的find_nth函数,而且可以随心所欲地使用,而不必在我写的每个程序中都复制和粘贴该函数。
from textproc import find_nth
segment = line[:find_nth(line, ',', 4)].strip()
另外,如果我想扩展这个库,增加更多的功能,或者改变现有的find_nthcode,我可以在一个地方完成,只需重新导入。
特定项目的共享脚本
也许你不需要一个完整的库,因为你想重用的代码似乎没有超出你目前正在进行的项目的用途,但你确实需要在一个特定的项目中重用它。在这种情况下,你可以把这些函数放在一个脚本中,并简单地按名称导入该脚本。这是一个可怜的女人的图书馆,但它往往正是我们所需要的。
在我的研究生工作中,我不得不写很多与无监督学习有关的代码,特别是k-means聚类。我写了一些初始化中心点、计算数据点和中心点之间的距离、重新计算中心点等的函数,并使用不同的算法完成了许多这些任务。我很快发现,保留一个单独的脚本并复制其中的一些算法函数并不是最佳选择,因此将它们移出到自己的脚本中,以便导入。它的工作方式几乎与库相同,但这个过程是特定路径的,而且只为这个项目而设。
很快我就有了不同的中心点初始化函数和距离计算函数的脚本,以及数据加载和处理函数。随着这些代码变得越来越多的参数化和普遍有用,这些代码最终进入了一个合法的库。
至少在我的经验中,事情似乎就是这样发展的。你在你的脚本中写了一个你现在需要使用的函数,然后你使用了它。项目扩大了,或者你转到了一个类似的项目,你意识到现在拥有同样的功能会很方便。于是,这个功能被下放到一个自己的脚本中,并被你导入使用。如果这种有用性持续到近期,并且你发现这个函数有更普遍和更长期的用途,那么这个函数现在就会被添加到一个现有的库中,或者成为一个新库的基础。
然而,导入简单脚本的另一个具体有用的方面是在使用Jupyter笔记本的时候。鉴于Jupyter笔记本中的大部分内容都具有临时性、探索性和实验性,我并不喜欢将笔记本作为模块导入其他笔记本中。如果我发现一个以上的笔记本经常使用一些代码摘录,那么这些代码就会被下放到存储在同一文件夹中的脚本中,然后被导入到笔记本中。这种方法对我来说更有意义,并提供了更多的稳定性,因为我知道另一个笔记本所依赖的一个笔记本没有被以有害的方式编辑过。
特定任务的模板
我发现我经常重复执行一些相同的任务,这些任务不适合被参数化,或者是可以被参数化的任务,但要付出更多的努力,这是不值得的。在这种情况下,我采用了代码模板化,或称锅炉式模板化。这就是我在本文一开始就想避免的复制和粘贴代码的做法,但有时这也是正确的选择。
例如,我经常需要对Pandas DataFrame的内容进行 "列表",因为缺乏一个更好的词,虽然写一个函数可以确定列的数量,可以接受作为输入的列,等等,但往往输出也需要调整,所有这些都表明写一个函数太耗时了。
在这种情况下,我只是写了一个很容易改变的脚本模板,并把它放在一个类似模板的文件夹里,很方便。下面是listify_df的摘录,它从CSV文件到Pandas DataFrame,再到想要的HTML输出。。
在这种情况下,清晰的文件名和文件夹组织有助于管理这些经常有用的片段。
简短的单行字和块
最后,有很多重复的片段你可能经常输入。那么你为什么要这样做呢?
你应该利用文本扩展工具,在需要时插入简短的 "短语"。我使用AutoKey来管理这些短语,这些短语与触发关键词相关联,然后在输入这些关键词时插入。
例如,你是否为你的所有特定类型的项目导入大量相同的库?我有。例如,你可以通过输入#nlpimport来设置你在某一特定任务中所需要的所有导入,一旦输入,就会被识别为一个触发关键词,并被替换为以下内容。
import sys, requests
import numpy as np
import pandas as pd
import texthero
import scattertext as st
import spacy
from spacy.lang.en.stop_words import STOP_WORDS
from datasets import load_metric, list_metrics
from transformers import pipeline
from fastapi import FastAPI
应该指出的是,有些IDE有这些功能。我自己一般使用美化的文本编辑器来编码,所以自动键在我的情况下是必要的(而且非常有用)。如果你有一个集成开发环境可以照顾到这一点,那太好了。关键是,你不应该一直重复输入这些东西。
以上是对作为一个数据科学家管理可重用的Python代码的概述。我希望你能发现它是有用的。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在数据分析、市场研究、用户画像构建、学术研究等场景中,我们常常会遇到多维度、多指标的数据难题:比如调研用户消费行为时,收 ...
2026-03-25在流量红利见顶、获客成本持续攀升的当下,营销正从“广撒网”的经验主义,转向“精耕细作”的数据驱动主义。数据不再是营销的辅 ...
2026-03-25在CDA(Certified Data Analyst)数据分析师的全流程工作中,无论是前期的数据探索、影响因素排查,还是中期的特征筛选、模型搭 ...
2026-03-25在当下数据驱动决策的职场环境中,A/B测试早已成为互联网产品、运营、营销乃至产品迭代优化的核心手段,小到一个按钮的颜色、文 ...
2026-03-24在统计学数据分析中,尤其是分类数据的分析场景里,卡方检验和显著性检验是两个高频出现的概念,很多初学者甚至有一定统计基础的 ...
2026-03-24在CDA(Certified Data Analyst)数据分析师的日常业务分析与统计建模工作中,多组数据差异对比是高频且核心的分析场景。比如验 ...
2026-03-24日常用Excel做数据管理、台账维护、报表整理时,添加备注列是高频操作——用来标注异常、说明业务背景、记录处理进度、补充关键 ...
2026-03-23作为业内主流的自助式数据可视化工具,Tableau凭借拖拽式操作、强大的数据联动能力、灵活的仪表板搭建,成为数据分析师、业务人 ...
2026-03-23在CDA(Certified Data Analyst)数据分析师的日常工作与认证考核中,分类变量的关联分析是高频核心场景。用户性别是否影响商品 ...
2026-03-23在数据工作的全流程中,数据清洗是最基础、最耗时,同时也是最关键的核心环节,无论后续是做常规数据分析、可视化报表,还是开展 ...
2026-03-20在大数据与数据驱动决策的当下,“数据分析”与“数据挖掘”是高频出现的两个核心概念,也是很多职场人、入门学习者容易混淆的术 ...
2026-03-20在CDA(Certified Data Analyst)数据分析师的全流程工作闭环中,统计制图是连接严谨统计分析与高效业务沟通的关键纽带,更是CDA ...
2026-03-20在MySQL数据库优化中,分区表是处理海量数据的核心手段——通过将大表按分区键(如时间、地域、ID范围)分割为多个独立的小分区 ...
2026-03-19在商业智能与数据可视化领域,同比、环比增长率是分析数据变化趋势的核心指标——同比(YoY)聚焦“长期趋势”,通过当前周期与 ...
2026-03-19在数据分析与建模领域,流传着一句行业共识:“数据决定上限,特征决定下限”。对CDA(Certified Data Analyst)数据分析师而言 ...
2026-03-19机器学习算法工程的核心价值,在于将理论算法转化为可落地、可复用、高可靠的工程化解决方案,解决实际业务中的痛点问题。不同于 ...
2026-03-18在动态系统状态估计与目标跟踪领域,高精度、高鲁棒性的状态感知是机器人导航、自动驾驶、工业控制、目标检测等场景的核心需求。 ...
2026-03-18“垃圾数据进,垃圾结果出”,这是数据分析领域的黄金法则,更是CDA(Certified Data Analyst)数据分析师日常工作中时刻恪守的 ...
2026-03-18在机器学习建模中,决策树模型因其结构直观、易于理解、无需复杂数据预处理等优势,成为分类与回归任务的首选工具之一。而变量重 ...
2026-03-17在数据分析中,卡方检验是一类基于卡方分布的假设检验方法,核心用于分析分类变量之间的关联关系或实际观测分布与理论期望分布的 ...
2026-03-17