京公网安备 11010802034615号
经营许可证编号:京B2-20210330
自然语言处理(NLP)是人工智能领域中一个快速发展的分支,它提供了许多技术和方法来对自然语言进行处理。其中,词嵌入(word embedding)是NLP中最重要的技术之一,因为它允许将自然语言转换为计算机可以理解和处理的向量表示形式。
BERT(Bidirectional Encoder Representations from Transformers)是一种有监督的预训练模型,它使用了Transformer架构,并在大型语料库上进行了训练,可以用于各种自然语言处理任务,如文本分类、句子配对等。
BERT模型的输出包含多个层级,其中第一层是输入层,最后一层是输出层,而在中间的隐藏层中,每一个单词都被映射到一个低维度的向量空间中。这些向量就是所谓的BERT词嵌入。
提取BERT词嵌入非常简单,只需要将文本输入BERT模型中,并获取相应隐藏层的输出即可。具体步骤如下:
首先,我们需要安装相应的Python库,包括transformers和torch。可以使用以下命令来安装这些库:
!pip install transformers
!pip install torch
接下来,加载BERT模型并设置为评估模式,以保证Dropout和BatchNormalization层不会被激活。我们可以使用以下代码完成这一步骤:
from transformers import BertTokenizer, BertModel
# 加载BertTokenizer和BertModel
tokenizer = BertTokenizer.from_pretrained('bert-base-uncased')
model = BertModel.from_pretrained('bert-base-uncased')
# 设置为评估模式
model.eval()
然后,我们需要将文本转换为BERT可接受的输入格式。具体来说,我们需要使用BertTokenizer对文本进行分词,并将结果转换为BERT的输入ID和Attention Mask张量。以下是一个示例代码:
text = "I love natural language processing."
tokens = tokenizer.tokenize(text)
input_ids = torch.tensor([tokenizer.convert_tokens_to_ids(tokens)])
attention_mask = torch.ones_like(input_ids)
最后,我们可以将输入张量传递给BERT模型并获取相应的隐藏层输出。具体来说,我们将输入ID和Attention Mask张量传递给BertModel,并获取相应的所有隐藏层输出。以下是一个示例代码:
with torch.no_grad():
outputs = model(input_ids, attention_mask=attention_mask)
hidden_states = outputs[2]
在此示例中,我们获取了BERT模型的所有隐藏层输出,可以根据需要选择其中任意一层作为词嵌入。
总之,BERT是一种非常强大的预训练模型,可以用于各种自然语言处理任务。它的词嵌入提取非常简单,只需要将文本输入BERT模型中,并获取相应隐藏层的输出即可。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
一、需求从哪来 做 Excel 报表时,"从一个透视表取数据"这个需求通常有三种来源: 汇总页引用:明细透视表在另一个 sheet,汇总 ...
2026-11-11一、透视表的价值在哪 一句话概括:数据透视表把"写公式汇总"变成了"拖字段看结果"。 传统做法要写 SUMIFS、COUNTIFS,改一个维 ...
2026-11-11核心资源推荐 CDA教材(2025):https://edu.cda.cn/goods/show/3151CDA模拟题(2025):https://edu.cda.cn/goods/show/2845CD ...
2026-11-11核心资源推荐 CDA教材(2025):https://edu.cda.cn/goods/show/3151CDA模拟题(2025):https://edu.cda.cn/goods/show/2845CD ...
2026-11-11一、回归分析到底在解决什么问题 很多人学回归分析,是从公式开始的:最小二乘法、残差平方和、R²、t 检验。公式记住了,但一到 ...
2026-11-10一、等级聚类法是什么 等级聚类法(Hierarchical Clustering),中文也叫系统聚类法、层次聚类法,是聚类分析里最经典的一类方法 ...
2026-11-10考试范围 PART 1 大数据基础理论 占比(8% ) a. 大数据分析基础(1%) b. Python 基础(5%) c. Linux & Ubuntu 操作系统基 ...
2026-11-10一、业务背景 在后台列表、管理系统、报表页面的分页需求里,前端通常需要两份数据:当前页的分页记录、符合筛选条件的数据总条 ...
2026-11-09一、需求看起来简单,实际坑不少 "把文本里所有中括号 [] 中间的内容提取出来"——这是文本清洗里最常见的需求之一。日志里的 [I ...
2026-11-09大数据分析师证书考什么 考试范围 PART 1 大数据基础理论 占比(8% ) a. 大数据分析基础(1%) b. Python 基础(5%) c. Li ...
2026-11-09CDA数据分析师 出品 作者:李诗怡 一、数据处理概述 定义: 在正式开展数据分析之前,对原始采集的数据进行整理、修正、加工和精 ...
2026-11-06一、为什么数据要先标准化 拿到一份数据,各列的量纲往往完全不同:年龄单位是"岁"(约 20~60),收入单位是"元"(几千到几万) ...
2026-11-06一、为什么 Python 成了统计分析的主流工具 十年前做统计分析,主流选择是 SPSS、SAS、Stata。现在越来越多的研究者、分析师转向 ...
2026-11-06核心资源推荐 CDA教材(2025):https://edu.cda.cn/goods/show/3151CDA模拟题(2025):https://edu.cda.cn/goods/show/2845CD ...
2026-11-06“大学生必备证书有哪些”最容易被答成一张越长越好的清单。但校招筛选的真实逻辑是:证书要对应你投的岗位任务,并且在校期间确 ...
2026-11-05大学期间能报的证书,先别急着看“含金量榜单”。更实用的第一步是问:我现在这个身份、这个学历,符合报考条件吗? 很多证书宣 ...
2026-11-05大学期间能考的证书很多,但真正需要先回答的是两个问题:当前有没有报考资格,以及这张证书对应什么岗位任务。 前者决定你能不 ...
2026-11-05先把结论说清楚:真正“只有在校大学生能考、毕业就彻底没资格”的证书数量不多,主要集中在语言类考试的部分专项、面向高校学生 ...
2026-11-05上班族问“考什么证书有用”,真正要解决的不是找一张“最值钱”的证,而是判断哪张证能嵌进你现有的岗位任务。同样一张证书,做 ...
2026-11-05职称证书不是统一的考试项目。同样“考职称”,经济、会计、统计、审计、软考走全国统一考试,工程、教师、卫生等系列多数走评审 ...
2026-11-05