位置: IT常识 - 正文

用 Python 从单个文本中提取关键字的四种超棒的方法(python单子)

编辑:rootadmin
用 Python 从单个文本中提取关键字的四种超棒的方法

推荐整理分享用 Python 从单个文本中提取关键字的四种超棒的方法(python单子),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:python如何依次取字符,python从一串字符中任选几个字符,python从一串字符中任选几个字符,用python从一个表里读取数据,python一个函数如何调用另一个函数,python如何依次取字符,python从一个文件读出写入另一个文件,用python从一个表里读取数据,内容如对您有帮助,希望把文章链接给更多的朋友!

自然语言处理分析的最基本和初始步骤是关键词提取,在NLP中,我们有许多算法可以帮助我们提取文本数据的关键字。本文中,云朵君将和大家一起学习四种即简单又有效的方法,它们分别是 Rake、Yake、Keybert 和 Textrank。并将简单概述下每个方法的使用场景,然后使用附加示例将其应用于提取关键字。

本文关键字:关键字提取、关键短语提取、Python、NLP、TextRank、Rake、BERT

在我之前的文章中,我介绍了使用 Python 和 TFIDF 从文本中提取关键词,TFIDF 方法依赖于语料库统计来对提取的关键字进行加权,因此它的缺点之一是不能应用于单个文本。

为了说明每种关键字提取方法 (Rake、Yake、Keybert 和 Textrank) 的实现原理,将使用已发表的文章[1]的摘要以及主题指定的关键字,并通过检查哪些方法的提取的关键词与作者设置的关键词更接近,来检验每种方法。在关键词提取任务中,有显式关键词,即显式地出现在文本中;也有隐式关键词,即作者提到的关键词没有显式地出现在文本中,而是与文章的领域相关。

在上图展示的示例中,有文本标题和文章摘要,标准关键字(由作者在原始文章中定义)被标记为黄色。注意machine learning这个词并不明确,也没有在摘要中找到。虽然可以在文章的全文中提取,但这里为了简单起见,语料数据仅限于摘要。

技术提升

论文探讨、算法交流、求职内推、干货分享、解惑答疑,与2000+来自港大、北大、腾讯、科大讯飞、阿里等开发者互动学习。

项目源码、数据、技术交流提升,均可加交流群获取,群友已超过2000人,添加时最好的备注方式为:来源+兴趣方向,方便找到志同道合的朋友

方式①、添加微信号:mlc2060,备注:来自CSDN +研究方向 方式②、微信搜索公众号:机器学习社区,后台回复:加群

文本准备

标题通常与提供的文本相结合,因为标题包含有价值的信息,并且高度概括了文章的内容。因此,我们将文本和标题两个变量之间通过加上一个加号而简单地拼接。

title = "VECTORIZATION OF TEXT USING DATA MINING METHODS"text = "In the text mining tasks, textual representation should be not only efficient but also interpretable, as this enables an understanding of the operational logic underlying the data mining models. Traditional text vectorization methods such as TF-IDF and bag-of-words are effective and characterized by intuitive interpretability, but suffer from the «curse of dimensionality», and they are unable to capture the meanings of words. On the other hand, modern distributed methods effectively capture the hidden semantics, but they are computationally intensive, time-consuming, and uninterpretable. This article proposes a new text vectorization method called Bag of weighted Concepts BoWC that presents a document according to the concepts’ information it contains. The proposed method creates concepts by clustering word vectors (i.e. word embedding) then uses the frequencies of these concept clusters to represent document vectors. To enrich the resulted document representation, a new modified weighting function is proposed for weighting concepts based on statistics extracted from word embedding information. The generated vectors are characterized by interpretability, low dimensionality, high accuracy, and low computational costs when used in data mining tasks. The proposed method has been tested on five different benchmark datasets in two data mining tasks; document clustering and classification, and compared with several baselines, including Bag-of-words, TF-IDF, Averaged GloVe, Bag-of-Concepts, and VLAC. The results indicate that BoWC outperforms most baselines and gives 7% better accuracy on average" full_text = title +", "+ text print("The whole text to be usedn", full_text)

现在开始使用今天的四个主角来提取关键字!

Yake

它是一种轻量级、无监督的自动关键词提取方法,它依赖于从单个文档中提取的统计文本特征来识别文本中最相关的关键词。该方法不需要针对特定的文档集进行训练,也不依赖于字典、文本大小、领域或语言。Yake 定义了一组五个特征来捕捉关键词特征,这些特征被启发式地组合起来,为每个关键词分配一个分数。分数越低,关键字越重要。你可以阅读原始论文[2],以及yake 的Python 包[3]关于它的信息。

特征提取主要考虑五个因素(去除停用词后)大写term

(Casing) 大写字母的term(除了每句话的开头单词)的重要程度比那些小写字母的term重要程度要大。

其中, 表示该词的大写次数, 表示该词的缩写次数。

词的位置

(Word Position) 文本越开头的部分句子的重要程度比后面的句子重要程度要大。

其中 表示包含该词的所有句子在文档中的位置中位数。

词频

(Term Frequency) 一个词在文本中出现的频率越大,相对来说越重要,同时为了避免长文本词频越高的问题,会进行归一化操作。

其中,MeanTF是整个词的词频均值, 是标准差。

上下文关系

(Term Related to Context) 一个词与越多不相同的词共现,该词的重要程度越低。

其中 表示窗口size为 从左边滑动, 表示从右边滑动。 表示出现在固定窗口大小为 下,出现不同的词的个数。 表示所有词频的最大值。

词在句子中出现的频率

(Term Different Sentence) 一个词在越多句子中出现,相对更重要

其中 SF(t) 是包含词t tt的句子频率, 表示所有句子数量。 最后计算每个term的分值公式如下:

表示的是单词 的分值情况,其中 分值越小,表示的单词 越重要。

安装和使用pip install git+https://github.com/LIAAD/yakeimport yake

首先从 Yake 实例中调用 KeywordExtractor 构造函数,它接受多个参数,其中重要的是:要检索的单词数top,此处设置为 10。参数 lan:此处使用默认值en。可以传递停用词列表给参数 stopwords。然后将文本传递给 extract_keywords 函数,该函数将返回一个元组列表 (keyword: score)。关键字的长度范围为 1 到 3。

kw_extractor = yake.KeywordExtractor(top=10, stopwords=None)keywords = kw_extractor.extract_keywords(full_text) for kw, v in keywords: print("Keyphrase: ",kw, ": score", v)

从结果看有三个关键词与作者提供的词相同,分别是text mining, data mining 和 text vectorization methods。注意到Yake会区分大写字母,并对以大写字母开头的单词赋予更大的权重。

Rake用 Python 从单个文本中提取关键字的四种超棒的方法(python单子)

Rake 是 Rapid Automatic Keyword Extraction 的缩写,它是一种从单个文档中提取关键字的方法。实际上提取的是关键的短语(phrase),并且倾向于较长的短语,在英文中,关键词通常包括多个单词,但很少包含标点符号和停用词,例如and,the,of等,以及其他不包含语义信息的单词。

Rake算法首先使用标点符号(如半角的句号、问号、感叹号、逗号等)将一篇文档分成若干分句,然后对于每一个分句,使用停用词作为分隔符将分句分为若干短语,这些短语作为最终提取出的关键词的候选词。

每个短语可以再通过空格分为若干个单词,可以通过给每个单词赋予一个得分,通过累加得到每个短语的得分。Rake 通过分析单词的出现及其与文本中其他单词的兼容性(共现)来识别文本中的关键短语。最终定义的公式是:

即单词 的得分是该单词的度(是一个网络中的概念,每与一个单词共现在一个短语中,度就加1,考虑该单词本身)除以该单词的词频(该单词在该文档中出现的总次数)。

然后对于每个候选的关键短语,将其中每个单词的得分累加,并进行排序,RAKE将候选短语总数的前三分之一的认为是抽取出的关键词。

安装和使用# $ git clone https://github.com/zelandiya/RAKE-tutorial # 要在python代码中导入rake: import rake import operator # 加载文本并对其应用rake: filepath = "keyword_extraction.txt" rake_object = rake.Rake(filepath) text = "Compatibility of systems of linear constraints over the set of natural numbers. Criteria of compatibility of a system of linear Diophantine equations, strict inequations, and nonstrict inequations are considered.Upper bounds for components of a minimal set of solutions and algorithms of construction of minimal generatingsets of solutions for all types of systems are given. These criteria and the corresponding algorithms for constructing a minimal supporting set of solutions can be used in solving all the considered types of systems and systems of mixed types." sample_file = open(“data/docs/fao_test/w2167e.txt”, ‘r’) text = sample_file.read() keywords = rake_object.run(text) print “Keywords:”, keywords 候选关键字

如上所述,我们知道RAKE通过使用停用词和短语分隔符解析文档,将包含主要内容的单词分类为候选关键字。这基本上是通过以下一些步骤来完成的,首先,文档文本被特定的单词分隔符分割成一个单词数组,其次,该数组再次被分割成一个在短语分隔符和停用单词位置的连续单词序列。最后,位于相同序列中的单词被分配到文本中的相同位置,并一起被视为候选关键字。

stopwordpattern = rake.build_stop_word_regex(filepath)phraseList = rake.generate_candidate_keywords(sentenceList, stopwordpattern) 关键词得分

从文本数据中识别出所有候选关键字后,将生成单词共现图,该图计算每个候选关键字的分数,并定义为成员单词分数。借助该图,我们根据图中顶点的程度和频率评估了计算单词分数的几个指标。

keywordcandidates = rake.generate_candidate_keyword_scores(phraseList, wordscores)提取关键词

计算候选关键字得分后,将从文档中选择前T个候选关键字。T值是图中字数的三分之一。

totalKeywords = len(sortedKeywords)for keyword in sortedKeywords[0:(totalKeywords / 3)]: print “Keyword: “, keyword[0], “, score: “, keyword[1] 另一个库# pip install multi_rake from multi_rake import Rake rake = Rake() keywords = rake.apply(full_text) print(keywords[:10])

TextRank

TextRank 是一种用于提取关键字和句子的无监督方法。它一个基于图的排序算法。其中每个节点都是一个单词,边表示单词之间的关系,这些关系是通过定义单词在预定大小的移动窗口内的共现而形成的。

该算法的灵感来自于 Google 用来对网站进行排名的 PageRank。它首先使用词性 (PoS) 对文本进行标记和注释。它只考虑单个单词。没有使用 n-gram,多词是后期重构的。

TextRank算法是利用局部词汇之间关系(共现窗口)对后续关键词进行排序,直接从文本本身抽取。其主要步骤如下:

把给定的文本T按照完整句子进行分割,即

对于每个句子,进行分词和词性标注处理,并过滤掉停用词,只保留指定词性的单词,如名词、动词、形容词,即 ,其中是保留后的候选关键词。

构建候选关键词图 ,其中V为节点集,由(2)生成的候选关键词组成,然后采用共现关系co-occurrence构造任两点之间的边,两个节点之间存在边仅当它们对应的词汇在长度为K的窗口中共现,K表示窗口大小,即最多共现K个单词。

根据上面公式,迭代传播各节点的权重,直至收敛。

对节点权重进行倒序排序,从而得到最重要的T个单词,作为候选关键词。

由(5)得到最重要的T个单词,在原始文本中进行标记,若形成相邻词组,则组合成多词关键词。例如,文本中有句子“Matlab code for plotting ambiguity function”,如果“Matlab”和“code”均属于候选关键词,则组合成“Matlab code”加入关键词序列。

安装及使用

要使用Textrank生成关键字,必须首先安装 summa 包,然后必须导入模块 keywords。

pip install summafrom summa import keywords

之后,只需调用 keywords 函数并将要处理的文本传递给它。我们还将 scores 设置为 True 以打印出每个结果关键字的相关性。

TR_keywords = keywords.keywords(full_text, scores=True)print(TR_keywords[0:10])

KeyBERT

KeyBERT[4]是一种简单易用的关键字提取算法,它利用 SBERT 嵌入从文档中生成与文档更相似的关键字和关键短语。首先,使用 sentences-BERT 模型生成文档embedding。然后为 N-gram 短语提取词的embedding。然后使用余弦相似度测量每个关键短语与文档的相似度。最后将最相似的词识别为最能描述整个文档并被视为关键字的词。

安装和使用

要使用 keybert 生成关键字,必须先安装 keybert 包,然后才能导入模块 keyBERT。

pip install keybertfrom keybert import KeyBERT

然后创建一个接受一个参数的 keyBERT 实例,即 Sentences-Bert 模型。可以从以下来源[5]中选择想要的任何embedding模型。根据作者的说法,all-mpnet-base-v2模型是最好的。

kw_model = KeyBERT(model='all-mpnet-base-v2')它将像这样开始下载:

下载 BERT 预训练模型

keywords = kw_model.extract_keywords(full_text, keyphrase_ngram_range=(1, 3), stop_words='english', highlight=False, top_n=10) keywords_list= list(dict(keywords).keys()) print(keywords_list)

考虑到大多数关键短语的长度在 1 到 2 之间,可以将 keyphrase_ngram_range 更改为 (1,2)。这次我们将 highlight 设置为 true。

写在最后

到这里我们已经一起学习了在提取关键字/关键短语领域使用的四种最棒的技术,并提供了简单代码实现。这四种方法各有千秋。并且每个都成功地提取了与作者指定的关键字相同或接近并与该领域相关的关键字。

若你有学到一点什么,记得 点赞 收藏 加关注 哦!

本文链接地址:https://www.jiuchutong.com/zhishi/300741.html 转载请保留说明!

上一篇:JavaScript基础总结---重点(javascript基础类型)

下一篇:注意力机制详解系列(四):混合注意力机制(注意力机制 q k v)

  • 皖事通怎样重新注册和登录

    皖事通怎样重新注册和登录

  • 一加8支持防水的级别是多少(一加支持防水的手机)

    一加8支持防水的级别是多少(一加支持防水的手机)

  • qq请勿打扰的自动回复句子怎么设置(qq请勿打扰的自动回复原句)

    qq请勿打扰的自动回复句子怎么设置(qq请勿打扰的自动回复原句)

  • 双十一退货红包怎么办(双十一退货红包还有吗)

    双十一退货红包怎么办(双十一退货红包还有吗)

  • a/d转换什么意思(ad转换什么意思)

    a/d转换什么意思(ad转换什么意思)

  • 0x000000ea蓝屏代码是什么意思(0x0000001e蓝屏代码)

    0x000000ea蓝屏代码是什么意思(0x0000001e蓝屏代码)

  • 手机关机放一年会坏吗(手机关机放一年使用会比较流畅吗)

    手机关机放一年会坏吗(手机关机放一年使用会比较流畅吗)

  • iphone为什么sim卡会出现无服务现象(iphone为什么sim卡读不出来)

    iphone为什么sim卡会出现无服务现象(iphone为什么sim卡读不出来)

  • 新版微信美颜功能在哪(微信美颜模式在哪)

    新版微信美颜功能在哪(微信美颜模式在哪)

  • qq打电话为什么自动挂断(qq打电话为什么不显示打电话页面)

    qq打电话为什么自动挂断(qq打电话为什么不显示打电话页面)

  • 滴滴出行和嘀嗒出行有什么区别(滴滴出行和嘀嗒出行一样吗)

    滴滴出行和嘀嗒出行有什么区别(滴滴出行和嘀嗒出行一样吗)

  • 苹果x屏幕一会花屏一会好(苹果x用一会屏幕就乱跳)

    苹果x屏幕一会花屏一会好(苹果x用一会屏幕就乱跳)

  • 苹果x换屏后面容失效(苹果X换屏后面容还能用吗)

    苹果x换屏后面容失效(苹果X换屏后面容还能用吗)

  • b站怎么修改实名认证(b站实名认证)

    b站怎么修改实名认证(b站实名认证)

  • m2固态硬盘缓存有什么用(m2固态硬盘缓存512)

    m2固态硬盘缓存有什么用(m2固态硬盘缓存512)

  • unix操作系统是(unix操作系统属于)

    unix操作系统是(unix操作系统属于)

  • 屏蔽电缆的型号(计算机屏蔽电缆的型号)

    屏蔽电缆的型号(计算机屏蔽电缆的型号)

  • p20pro用40w充电器有影响吗(华为p20pro能用40w充电头吗)

    p20pro用40w充电器有影响吗(华为p20pro能用40w充电头吗)

  • 苹果激活和未激活有什么区别(苹果激活和未激活怎么查看)

    苹果激活和未激活有什么区别(苹果激活和未激活怎么查看)

  • 手机出厂编号怎么查询(手机出厂码查询)

    手机出厂编号怎么查询(手机出厂码查询)

  • 苹果11怎么开启电池百分比(苹果11怎么开启定位功能)

    苹果11怎么开启电池百分比(苹果11怎么开启定位功能)

  • 怎样发送原图照片(怎样发送原图照片给朋友)

    怎样发送原图照片(怎样发送原图照片给朋友)

  • 苹果8p多长多少厘米(苹果8p大概多长)

    苹果8p多长多少厘米(苹果8p大概多长)

  • 全民k歌怎么知道被拉黑(全民k歌怎么知道被对方拉黑)

    全民k歌怎么知道被拉黑(全民k歌怎么知道被对方拉黑)

  • 华为mate20和nova4区别(华为mate20和nova4哪个性价比高)

    华为mate20和nova4区别(华为mate20和nova4哪个性价比高)

  • [JSOI2010]连通数(连通函数)

    [JSOI2010]连通数(连通函数)

  • 公司税务注销流程是否要不发生业务多久
  • 怎样确认个人所得税专项扣除操作流程
  • 资产负债表期末数是本年累计数吗
  • 差旅费的现金流
  • 离职补偿金怎么做账
  • 不动产净值包括增值税吗
  • 预缴的增值税怎么算
  • 房屋及建筑物属于什么会计要素
  • 土地使用权分割转让依据
  • 商品房预售期一般多久
  • 分摊材料成本差异的会计处理
  • 行政单位无法支付怎么办
  • 代收房款
  • 汽车融资租赁行业发展趋势
  • 单位购买小汽车一次性进成本报表怎么填写?
  • 个人机械租赁怎么纳税
  • 预缴税款个人所得税如何计算
  • 减免税款余额方法有哪些
  • 化妆品的消费税率多少
  • 冲上年收入会计分录
  • 折旧计算方法举例
  • 股东投资追加款怎么做账
  • 汇兑损益 纳税调整
  • 产品 研发
  • PHP:mb_substitute_character()的用法_mbstring函数
  • 收到厂家赠送的产品
  • php中的变量都以什么开头
  • 房地产资质代理公司排名
  • linux如何放大字体
  • 未办理土地使用权证房屋买卖 案例
  • 研发费用加计扣除是什么意思啊
  • 筹建期间发生的开办费属于什么费用
  • kpk是什么文件
  • 出差没有发票,会计如何入账
  • 预收房屋租金
  • PHP:checkdate()的用法_Date Time函数
  • laravel dump
  • 项目版本管理是什么
  • 研发支出属于哪个表
  • 投资收益属于营业成本吗
  • phppdo连接数据库
  • 分公司改为子公司的所得税业务处理?
  • thinkphp教程
  • 资本金什么时候可以退回
  • hashmap教程
  • 企业实际发生的与取得收入有关的支出
  • phpcms程序
  • 资本成本在财务报表中怎么体现
  • 现金折扣如何核算
  • 固定资产折旧准备属于什么科目
  • Mysql获取当前年份
  • 个人独资企业是小规模纳税人吗
  • 以前年度损益科目编码
  • 废旧物资处理的税金
  • 已认证进项税转出口退税怎么处理
  • 增值税专用发票的税率是多少啊
  • 外资企业贷款条件
  • 油票抵税能抵多少
  • 企业备用金怎么做账
  • win7用u盘怎么重装系统
  • vmware12安装教程图解
  • win8电脑设置
  • win7旗舰版系统激活码
  • win8.1的开始菜单在哪
  • win7开机提示音在哪里关闭
  • unity打包安卓apk
  • python urljoin
  • cocos2dx 教程
  • js怎么检查错误
  • oracle中提取日期时间的特定部分
  • python动态参数应用
  • vue css
  • node js教程
  • unity3ds
  • 详解金球奖之争
  • fragment
  • jquery中点击事件点击没动静
  • androidapk网站
  • 建筑劳务个人所得税申报
  • 出口退税注销怎么办理
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设