位置: IT常识 - 正文

疑问搞懂,python中文词频统计,让你真能学会(python答疑)

编辑:rootadmin
疑问搞懂,python中文词频统计,让你真能学会

推荐整理分享疑问搞懂,python中文词频统计,让你真能学会(python答疑),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:python询问,python答疑,python疑难解答,python常问问题,python答疑,python语言问题,python语言问题,python常问问题,内容如对您有帮助,希望把文章链接给更多的朋友!

词频统计是指在文本中计算每个词出现的次数。 在 Python 中,可以使用一些第三方库(如 jieba)来分词,然后使用字典等数据结构记录每个词的词频。

Python中文词频统计知识点分词:需要对中文文本进行分词,分词的目的是将文本分解为独立的词语,便于后续的词频统计。字典:使用字典存储每个词的词频。字典的键为词语,值为词频。遍历:遍历分词后的结果,统计每个词出现的次数。排序:对字典按照词频排序,以得到词频最高的词。输出:最后,可以输出词频最高的词,也可以输出完整的词频字典。文章目录Python中文词频分词安装 jieba 库:使用 jieba.cut() 函数对中文文本进行分词:输出结果:使用字典可以很方便地存储每个词语的词频再次整理Python词频统计的具体实现方法:停用词词干提取词云图Python 中文词频分词其它库Python中文词频分词安装 jieba 库:pip install jieba使用 jieba.cut() 函数对中文文本进行分词:import jiebatext = "梦想橡皮擦的Python博客很不错"seg_list = jieba.cut(text)print(list(seg_list))输出结果:['梦想', '橡皮擦', '的', 'Python', '博客', '很', '不错']使用字典可以很方便地存储每个词语的词频import jiebatext = "梦想橡皮擦的Python博客很不错"seg_list = jieba.cut(text)# print(list(seg_list))word_dict = {}for word in seg_list: print(word) if word in word_dict: word_dict[word] += 1 else: word_dict[word] = 1print(word_dict)再次整理Python词频统计的具体实现方法:导入 jieba 库,使用 jieba.cut() 函数对中文文本进行分词。遍历分词后的结果,统计每个词出现的次数。使用字典记录每个词出现的次数。对字典按照词频排序,并输出词频最高的词。

代码示例:

import jiebadef get_word_frequency(text): seg_list = jieba.cut(text) word_dict = {} for word in seg_list: if word in word_dict: word_dict[word] += 1 else: word_dict[word] = 1 sorted_word_dict = sorted(word_dict.items(), key=lambda x: x[1], reverse=True) return sorted_word_dicttext = "梦想橡皮擦的Python博客很不错"result = get_word_frequency(text)print(result)

停用词

在分词时,通常会忽略一些词语,这些词语被称为停用词。如常用的助词、介词等。

在 Python 中,可以预先加载停用词表,在分词时,如果词语是停用词,则忽略。

下面是一个简单的例子:

import jiebastop_words = set()with open("stop_words.txt", "r",encoding='utf-8') as f: for line in f: stop_words.add(line.strip())text = "梦想橡皮擦的Python博客很不错"seg_list = jieba.cut(text)filtered_words = [word for word in seg_list if word not in stop_words]print(filtered_words)

“stop_words.txt” 文件中是停用词表,每行一个词语。在代码中,通过 with open 语句读取文件,并将每个词语加入到 stop_words 集合中。在分词后,通过列表推导式,筛选出不是停用词的词语。文件中的内容如下:

词干提取

词干提取是将词语的不同形式提取为同一词干的过程。例如 “running” 和 “runner” 可以被提取为 “run”。

疑问搞懂,python中文词频统计,让你真能学会(python答疑)

在 Python 中,可以使用词干提取工具来进行词干提取,常见的词干提取工具有 nltk 库的 PorterStemmer 和 SnowballStemmer 。

下面是一个简单的例子:

import nltkfrom nltk.stem import SnowballStemmerstemmer = SnowballStemmer("english")words = ["run", "runner", "running"]stemmed_words = [stemmer.stem(word) for word in words]print(stemmed_words)

SnowballStemmer 函数的第一个参数是语言。 english 表示使用英语词干提取器。 其支持多种语言,可以指定不同的语言,以使用不同的词干提取器。例如,如果是法语文本,可以使用 SnowballStemmer("french") 。

stemmer.stem(word) 是 nltk 库的 SnowballStemmer 函数的一个方法,用于提取词干。

词云图

词云图是一种展示词频的可视化图形,其中词语的大小代表词频的多少。

在 Python 中,可以使用词云库 wordcloud 来生成词云图。

以下是一个使用 wordcloud 库创建词云图的简单示例:

from wordcloud import WordCloudimport matplotlib.pyplot as plttext = "ca1 ca2 ca3 ca4 ca4 ca4"wordcloud = WordCloud(width=400, height=400, random_state=21, max_font_size=110).generate(text)plt.figure(figsize=(10, 5))plt.imshow(wordcloud, interpolation="bilinear")plt.axis('off')plt.show()

首先使用 WordCloud 函数创建一个词云图对象,并设置图片的宽度、高度、随机状态、字体大小等参数。

然后,使用 generate() 方法生成词云图,并将其作为参数传递给 matplotlib 的 imshow() 函数。

最后,使用 show() 方法显示词云图。

Python 中文词频分词其它库thulac:thulac 是一个中文分词库,支持动态词性标注。snownlp:snownlp 是一个基于 SnowNLP 的中文自然语言处理库,支持中文分词、情感分析、关键词提取等功能。

📢📢📢📢📢📢 💗 你正在阅读 【梦想橡皮擦】 的博客 👍 阅读完毕,可以点点小手赞一下 🌻 发现错误,直接评论区中指正吧 📆 橡皮擦的第 872 篇原创博客

👇 全网 6000+人正在学习的 爬虫专栏 👇👇👇👇

⭐️ Python 爬虫 120,点击订购 ⭐️⭐️ 爬虫 100 例教程,点击订购 ⭐️
本文链接地址:https://www.jiuchutong.com/zhishi/300298.html 转载请保留说明!

上一篇:OpenCV中的图像处理 —— 傅里叶变换+模板匹配(opencv如何显示图片)

下一篇:端午假期整理了仿天猫H5 APP项目vue.js+express+mongo(端午假期干什么)

  • 小米平板5怎么插卡(小米平板5怎么进入电脑模式)

    小米平板5怎么插卡(小米平板5怎么进入电脑模式)

  • 华为智能助手怎么关闭(华为智能助手怎么设置回答)

    华为智能助手怎么关闭(华为智能助手怎么设置回答)

  • 服务器开小差是什么意思(服务器开小差是什么意思百度网盘)

    服务器开小差是什么意思(服务器开小差是什么意思百度网盘)

  • nova3外屏可以单独换吗(华为nova3外屏)

    nova3外屏可以单独换吗(华为nova3外屏)

  • qq自动回复为什么有时候没有(qq自动回复为什么突然不回复了)

    qq自动回复为什么有时候没有(qq自动回复为什么突然不回复了)

  • qq群转让了怎么转回来(qq群转让了怎么恢复求教程)

    qq群转让了怎么转回来(qq群转让了怎么恢复求教程)

  • 如何快速提高电脑办公水平(如何快速提高电脑打字速度)

    如何快速提高电脑办公水平(如何快速提高电脑打字速度)

  • 苹果微信听筒模式怎么切换到扬声器(苹果微信 听筒)

    苹果微信听筒模式怎么切换到扬声器(苹果微信 听筒)

  • qq小海螺标识什么意思(qq海螺标识怎么获得)

    qq小海螺标识什么意思(qq海螺标识怎么获得)

  • 微信图片超过2分钟怎么撤回(微信图片超过2分钟怎么强行撤回)

    微信图片超过2分钟怎么撤回(微信图片超过2分钟怎么强行撤回)

  • 绿联的18w快充伤电池吗(绿联充电器18w快充头怎么样)

    绿联的18w快充伤电池吗(绿联充电器18w快充头怎么样)

  • 红米mde2什么型号(红米mde6是什么手机)

    红米mde2什么型号(红米mde6是什么手机)

  • 苹果7指纹键可以换吗(苹果指纹键可以修吗)

    苹果7指纹键可以换吗(苹果指纹键可以修吗)

  • 拼多多怎么备注留言(拼多多怎么备注给商家)

    拼多多怎么备注留言(拼多多怎么备注给商家)

  • 怎么把火山小视频保存(怎么把火山小视频删除)

    怎么把火山小视频保存(怎么把火山小视频删除)

  • 基本数据类型所占字节(基本数据类型所占空间)

    基本数据类型所占字节(基本数据类型所占空间)

  • 抖音怎么用闪屏特效(抖音如何闪屏)

    抖音怎么用闪屏特效(抖音如何闪屏)

  • 无线网卡怎么办(电脑怎么连接无线网卡)

    无线网卡怎么办(电脑怎么连接无线网卡)

  • 360安全浏览器如何添加兼容性站点(360安全浏览器如何设置极速模式)

    360安全浏览器如何添加兼容性站点(360安全浏览器如何设置极速模式)

  • 魅族工程模式电池代码(魅族工程模式电池校准)

    魅族工程模式电池代码(魅族工程模式电池校准)

  • 苹果蓝牙耳机有定位吗(苹果蓝牙耳机有几款)

    苹果蓝牙耳机有定位吗(苹果蓝牙耳机有几款)

  • mac系统中Finder应用程序文件夹消失了找回办法与步骤介绍(macbookpro finder)

    mac系统中Finder应用程序文件夹消失了找回办法与步骤介绍(macbookpro finder)

  • 如何让img标签在父元素中自适应宽度或者高度,按比例显示(img标签怎么写)

    如何让img标签在父元素中自适应宽度或者高度,按比例显示(img标签怎么写)

  • 高新技术企业享受15%税率优惠的条件
  • 外地预缴的附加税怎么算
  • 清税证明是什么要钱吗
  • 工商年审实缴时间
  • 文化建设税减免到什么时候
  • 可供出售金融资产和长期股权投资
  • 房屋产权出典的由承典人作为房产税纳税义务人
  • 商誉在资产负债表中如何体现
  • 房屋出租的成本怎么算
  • 小规模纳税人每季度报税清盘
  • 职工发放福利的会计处理
  • 台湾企业不能在大陆或香港上市吗
  • 往来票据怎么填写
  • 已经发出的商品怎么修改
  • 管理费用现金流量表中属于
  • 工程维修费用怎么入账
  • 新公司成立前期人员配置
  • 合同是怎么影响企业纳税的?
  • 境外所得税收抵免政策
  • 一般纳税人财务报表申报流程
  • 研发费用进成本吗
  • 预收账款的科目属性
  • 企业购入存货分录
  • 离退休人员福利
  • 公司用库存商品怎么做账
  • 股东实缴出资的证明
  • win10显示我的电脑
  • 华为鸿蒙系统支持苹果手表吗
  • 免税项目可以弥补税款吗
  • 暂估入库的税务分录
  • php 字节
  • 从银行提取现金分录
  • 前端数据加密的三种方式
  • 子公司提取盈余公积 合并抵消
  • js实现继承属性功能
  • php读取大文件的内容
  • 企业财务准则最新
  • 什么是增值税举个例子
  • 融资交易的会计处理
  • php判断https
  • 小规模没收入怎么报税
  • 跨年银行回单怎么入账
  • 先收到发票还没付款怎么做账
  • 改变记帐方式的原因
  • 行政单位应缴财政税金
  • 金税盘的维护费怎么报税
  • 简单征收的进项税怎么算
  • 红冲发票操作步骤
  • 国外扣款手续费
  • 营改增对企业税负影响
  • 预付账款主要是什么
  • 增值税年末必须要交吗
  • 租入办公楼装修费按几年摊销
  • 如何设置固定资产二级联动下拉菜单
  • ubuntu右键菜单
  • linux find -perm 详解
  • 怎么用uefi装win7
  • win10dll丢失
  • SpamSubtract.exe - SpamSubtract是什么进程
  • linux的文件和目录的区别
  • Linux一键安装ftp
  • mmc.exe是什么
  • windows boot.ini文件
  • linux中安装软件可使用哪些方式
  • 脚本并行
  • javascript重点
  • JAVASCRIPT IE 与 FF 中兼容写法记录
  • node.js中的http.response.end方法使用说明
  • 虚拟主机 推荐
  • JavaScript对象的创建
  • shell脚本spool
  • Unity3D游戏开发毕业论文
  • js判断当前页面是否为空
  • python simple
  • 一般纳税人企业所得税怎么算
  • 发票专用章和公章编码一样吗
  • 企业所得税法中所称有关的支出是指
  • 随子女定居外省好吗
  • 地税局科员干什么的
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设