京公网安备 11010802034615号
经营许可证编号:京B2-20210330
以下是我作为数据科学家管理自己的可重复使用的Python代码的一些方法,从最常用的代码到最不常用的代码,并针对初学者介绍。
分享38
有很多不同的方法来管理你自己的代码,这将取决于你的要求、个性、技术知识、角色和许多其他因素。一个经验丰富的开发者可能会有一个非常规范的方法来组织他们的代码,跨越多种语言、项目和用例,而一个很少写自己的代码的数据分析师可能会因为缺乏必要而更加临时和缺乏动力。其实没有什么对错之分,这只是一个对你有用的问题,而且是合适的。
具体地说,我所说的“管理代码”是指如何组织、存储和调用您自己编写并发现作为编程工具箱的长期补充有用的不同代码片段。编程都是关于自动化的,因此,如果作为一个编写代码的人,你发现自己在重复执行类似的任务,那么以某种方式自动调用与该任务相关的代码才有意义。
这就是为什么您已经在使用第三方库。无需每次使用时从头开始重新实现支持向量机代码库;相反,您可以使用一个库(可能是Scikit learn),并利用大量人员的集体工作,随着时间的推移完善一些代码。
将这个想法扩展到个人编程领域才有意义。您可能已经在这样做了(我希望您是这样),但如果不是的话,以下是我作为一名数据科学家为管理自己的可重用Python代码而确定的几种方法,从最常用的代码使用到最不常用的代码使用。
完整的库
这是最通用的方法,也可以说是最 "专业 "的方法;但是,仅仅这一点并不意味着它在任何时候都是正确的选择。
如果你发现你在许多用例中使用相同的功能,并且经常这样做,这就是要走的路。如果你想重用的功能很容易被参数化,这也是有意义的;也就是说,通过编写和调用一个通用的函数,你可以在每次调用时定义变量,就可以反复地处理这个任务。
例如,我经常发现我想在一个字符串中找到某个子串的第n次出现,而Python标准库中没有这样的函数。因此,我有一段简单的代码,它接受一个字符串、子串和我要找的第n次出现作为输入,并返回这个第n次出现在字符串中开始的位置(很久以前从这里搬来的)。
def find_nth(haystack, needle, n):
start = haystack.find(needle)
while start >= 0 and n > 1:
start = haystack.find(needle, start+len(needle))
n -= 1
return start
由于我处理了大量的文本处理,我把它和我经常使用的许多其他文本处理函数一起收集起来,并创建了一个库,像其他Python库一样驻留在我的计算机上,并且能够像其他库一样导入这个库。创建这个库的步骤有些冗长,虽然很简单,所以我不会在这里介绍,但这篇文章是众多做得很好的文章之一。
因此,现在我有了一个textproc库,我可以很容易地导入和使用我的find_nth函数,而且可以随心所欲地使用,而不必在我写的每个程序中都复制和粘贴该函数。
from textproc import find_nth
segment = line[:find_nth(line, ',', 4)].strip()
另外,如果我想扩展这个库,增加更多的功能,或者改变现有的find_nthcode,我可以在一个地方完成,只需重新导入。
特定项目的共享脚本
也许你不需要一个完整的库,因为你想重用的代码似乎没有超出你目前正在进行的项目的用途,但你确实需要在一个特定的项目中重用它。在这种情况下,你可以把这些函数放在一个脚本中,并简单地按名称导入该脚本。这是一个可怜的女人的图书馆,但它往往正是我们所需要的。
在我的研究生工作中,我不得不写很多与无监督学习有关的代码,特别是k-means聚类。我写了一些初始化中心点、计算数据点和中心点之间的距离、重新计算中心点等的函数,并使用不同的算法完成了许多这些任务。我很快发现,保留一个单独的脚本并复制其中的一些算法函数并不是最佳选择,因此将它们移出到自己的脚本中,以便导入。它的工作方式几乎与库相同,但这个过程是特定路径的,而且只为这个项目而设。
很快我就有了不同的中心点初始化函数和距离计算函数的脚本,以及数据加载和处理函数。随着这些代码变得越来越多的参数化和普遍有用,这些代码最终进入了一个合法的库。
至少在我的经验中,事情似乎就是这样发展的。你在你的脚本中写了一个你现在需要使用的函数,然后你使用了它。项目扩大了,或者你转到了一个类似的项目,你意识到现在拥有同样的功能会很方便。于是,这个功能被下放到一个自己的脚本中,并被你导入使用。如果这种有用性持续到近期,并且你发现这个函数有更普遍和更长期的用途,那么这个函数现在就会被添加到一个现有的库中,或者成为一个新库的基础。
然而,导入简单脚本的另一个具体有用的方面是在使用Jupyter笔记本的时候。鉴于Jupyter笔记本中的大部分内容都具有临时性、探索性和实验性,我并不喜欢将笔记本作为模块导入其他笔记本中。如果我发现一个以上的笔记本经常使用一些代码摘录,那么这些代码就会被下放到存储在同一文件夹中的脚本中,然后被导入到笔记本中。这种方法对我来说更有意义,并提供了更多的稳定性,因为我知道另一个笔记本所依赖的一个笔记本没有被以有害的方式编辑过。
特定任务的模板
我发现我经常重复执行一些相同的任务,这些任务不适合被参数化,或者是可以被参数化的任务,但要付出更多的努力,这是不值得的。在这种情况下,我采用了代码模板化,或称锅炉式模板化。这就是我在本文一开始就想避免的复制和粘贴代码的做法,但有时这也是正确的选择。
例如,我经常需要对Pandas DataFrame的内容进行 "列表",因为缺乏一个更好的词,虽然写一个函数可以确定列的数量,可以接受作为输入的列,等等,但往往输出也需要调整,所有这些都表明写一个函数太耗时了。
在这种情况下,我只是写了一个很容易改变的脚本模板,并把它放在一个类似模板的文件夹里,很方便。下面是listify_df的摘录,它从CSV文件到Pandas DataFrame,再到想要的HTML输出。。
在这种情况下,清晰的文件名和文件夹组织有助于管理这些经常有用的片段。
简短的单行字和块
最后,有很多重复的片段你可能经常输入。那么你为什么要这样做呢?
你应该利用文本扩展工具,在需要时插入简短的 "短语"。我使用AutoKey来管理这些短语,这些短语与触发关键词相关联,然后在输入这些关键词时插入。
例如,你是否为你的所有特定类型的项目导入大量相同的库?我有。例如,你可以通过输入#nlpimport来设置你在某一特定任务中所需要的所有导入,一旦输入,就会被识别为一个触发关键词,并被替换为以下内容。
import sys, requests
import numpy as np
import pandas as pd
import texthero
import scattertext as st
import spacy
from spacy.lang.en.stop_words import STOP_WORDS
from datasets import load_metric, list_metrics
from transformers import pipeline
from fastapi import FastAPI
应该指出的是,有些IDE有这些功能。我自己一般使用美化的文本编辑器来编码,所以自动键在我的情况下是必要的(而且非常有用)。如果你有一个集成开发环境可以照顾到这一点,那太好了。关键是,你不应该一直重复输入这些东西。
以上是对作为一个数据科学家管理可重用的Python代码的概述。我希望你能发现它是有用的。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在数据分析全流程中,数据处理是基础,图形可视化是核心呈现手段——前者负责将杂乱无章的原始数据转化为干净、规范、可分析的格 ...
2026-04-07在数据分析与统计推断中,p值是衡量假设检验结果显著性的核心指标,其本质是在原假设(通常为“无效应”“无差异”)成立的前提 ...
2026-04-07在数字经济深度渗透的今天,数据已成为企业生存发展的核心资产,企业的竞争本质已转变为数据利用能力的竞争。然而,大量来自生产 ...
2026-04-07Python凭借简洁的语法、丰富的生态库,成为算法开发、数据处理、机器学习等领域的首选语言。但受限于动态类型、解释性执行的特性 ...
2026-04-03在深度学习神经网络中,卷积操作是实现数据特征提取的核心引擎,更是让模型“看懂”数据、“解读”数据的关键所在。不同于传统机 ...
2026-04-03当数字化转型从企业的“战略口号”落地为“生存之战”,越来越多的企业意识到,转型的核心并非技术的堆砌,而是数据价值的深度挖 ...
2026-04-03在日常办公数据分析中,数据透视表凭借高效的汇总、分组功能,成为Excel、WPS等办公软件中最常用的数据分析工具之一。其中,“计 ...
2026-04-02在数字化交互的全场景中,用户的每一次操作都在生成动态的行为轨迹——电商用户的“浏览商品→点击详情→加入购物车”,内容APP ...
2026-04-02在数字化转型深度推进的今天,企业数据已成为驱动业务增长、构建核心竞争力的战略资产,而数据安全则是守护这份资产的“生命线” ...
2026-04-02在数据驱动决策的浪潮中,数据挖掘与数据分析是两个高频出现且极易被混淆的概念。有人将二者等同看待,认为“做数据分析就是做数 ...
2026-04-01在数据驱动决策的时代,企业与从业者每天都会面对海量数据——电商平台的用户行为数据、金融机构的信贷风险数据、快消品牌的营销 ...
2026-04-01在数字化转型的浪潮中,企业数据已从“辅助运营的附属资源”升级为“驱动增长的核心资产”,而一套科学、可落地的企业数据管理方 ...
2026-04-01在数字化时代,每一位用户与产品的交互都会留下可追溯的行为轨迹——电商用户的浏览、加购、下单,APP用户的注册、登录、功能使 ...
2026-03-31在日常数据统计、市场调研、学术分析等场景中,我们常常需要判断两个分类变量之间是否存在关联(如性别与消费偏好、产品类型与满 ...
2026-03-31在CDA(Certified Data Analyst)数据分析师的职场实战与认证考核中,“可解释性建模”是核心需求之一——企业决策中,不仅需要 ...
2026-03-31多层感知机(MLP,Multilayer Perceptron)作为深度学习中最基础、最经典的神经网络模型,其结构设计直接决定了模型的拟合能力、 ...
2026-03-30在TensorFlow深度学习实战中,数据集的加载与预处理是基础且关键的第一步。手动下载、解压、解析数据集不仅耗时费力,还容易出现 ...
2026-03-30在CDA(Certified Data Analyst)数据分析师的日常工作中,“无监督分组、挖掘数据内在聚类规律”是高频核心需求——电商场景中 ...
2026-03-30机器学习的本质,是让模型通过对数据的学习,自主挖掘规律、实现预测与决策,而这一过程的核心驱动力,并非单一参数的独立作用, ...
2026-03-27在SQL Server数据库操作中,日期时间处理是高频核心需求——无论是报表统计中的日期格式化、数据筛选时的日期类型匹配,还是业务 ...
2026-03-27