位置: IT常识 - 正文

疑问搞懂,python中文词频统计,让你真能学会(python答疑)

编辑:rootadmin
疑问搞懂,python中文词频统计,让你真能学会

推荐整理分享疑问搞懂,python中文词频统计,让你真能学会(python答疑),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:python询问,python答疑,python疑难解答,python常问问题,python答疑,python语言问题,python语言问题,python常问问题,内容如对您有帮助,希望把文章链接给更多的朋友!

词频统计是指在文本中计算每个词出现的次数。 在 Python 中,可以使用一些第三方库(如 jieba)来分词,然后使用字典等数据结构记录每个词的词频。

Python中文词频统计知识点分词:需要对中文文本进行分词,分词的目的是将文本分解为独立的词语,便于后续的词频统计。字典:使用字典存储每个词的词频。字典的键为词语,值为词频。遍历:遍历分词后的结果,统计每个词出现的次数。排序:对字典按照词频排序,以得到词频最高的词。输出:最后,可以输出词频最高的词,也可以输出完整的词频字典。文章目录Python中文词频分词安装 jieba 库:使用 jieba.cut() 函数对中文文本进行分词:输出结果:使用字典可以很方便地存储每个词语的词频再次整理Python词频统计的具体实现方法:停用词词干提取词云图Python 中文词频分词其它库Python中文词频分词安装 jieba 库:pip install jieba使用 jieba.cut() 函数对中文文本进行分词:import jiebatext = "梦想橡皮擦的Python博客很不错"seg_list = jieba.cut(text)print(list(seg_list))输出结果:['梦想', '橡皮擦', '的', 'Python', '博客', '很', '不错']使用字典可以很方便地存储每个词语的词频import jiebatext = "梦想橡皮擦的Python博客很不错"seg_list = jieba.cut(text)# print(list(seg_list))word_dict = {}for word in seg_list: print(word) if word in word_dict: word_dict[word] += 1 else: word_dict[word] = 1print(word_dict)再次整理Python词频统计的具体实现方法:导入 jieba 库,使用 jieba.cut() 函数对中文文本进行分词。遍历分词后的结果,统计每个词出现的次数。使用字典记录每个词出现的次数。对字典按照词频排序,并输出词频最高的词。

代码示例:

import jiebadef get_word_frequency(text): seg_list = jieba.cut(text) word_dict = {} for word in seg_list: if word in word_dict: word_dict[word] += 1 else: word_dict[word] = 1 sorted_word_dict = sorted(word_dict.items(), key=lambda x: x[1], reverse=True) return sorted_word_dicttext = "梦想橡皮擦的Python博客很不错"result = get_word_frequency(text)print(result)

停用词

在分词时,通常会忽略一些词语,这些词语被称为停用词。如常用的助词、介词等。

在 Python 中,可以预先加载停用词表,在分词时,如果词语是停用词,则忽略。

下面是一个简单的例子:

import jiebastop_words = set()with open("stop_words.txt", "r",encoding='utf-8') as f: for line in f: stop_words.add(line.strip())text = "梦想橡皮擦的Python博客很不错"seg_list = jieba.cut(text)filtered_words = [word for word in seg_list if word not in stop_words]print(filtered_words)

“stop_words.txt” 文件中是停用词表,每行一个词语。在代码中,通过 with open 语句读取文件,并将每个词语加入到 stop_words 集合中。在分词后,通过列表推导式,筛选出不是停用词的词语。文件中的内容如下:

词干提取

词干提取是将词语的不同形式提取为同一词干的过程。例如 “running” 和 “runner” 可以被提取为 “run”。

疑问搞懂,python中文词频统计,让你真能学会(python答疑)

在 Python 中,可以使用词干提取工具来进行词干提取,常见的词干提取工具有 nltk 库的 PorterStemmer 和 SnowballStemmer 。

下面是一个简单的例子:

import nltkfrom nltk.stem import SnowballStemmerstemmer = SnowballStemmer("english")words = ["run", "runner", "running"]stemmed_words = [stemmer.stem(word) for word in words]print(stemmed_words)

SnowballStemmer 函数的第一个参数是语言。 english 表示使用英语词干提取器。 其支持多种语言,可以指定不同的语言,以使用不同的词干提取器。例如,如果是法语文本,可以使用 SnowballStemmer("french") 。

stemmer.stem(word) 是 nltk 库的 SnowballStemmer 函数的一个方法,用于提取词干。

词云图

词云图是一种展示词频的可视化图形,其中词语的大小代表词频的多少。

在 Python 中,可以使用词云库 wordcloud 来生成词云图。

以下是一个使用 wordcloud 库创建词云图的简单示例:

from wordcloud import WordCloudimport matplotlib.pyplot as plttext = "ca1 ca2 ca3 ca4 ca4 ca4"wordcloud = WordCloud(width=400, height=400, random_state=21, max_font_size=110).generate(text)plt.figure(figsize=(10, 5))plt.imshow(wordcloud, interpolation="bilinear")plt.axis('off')plt.show()

首先使用 WordCloud 函数创建一个词云图对象,并设置图片的宽度、高度、随机状态、字体大小等参数。

然后,使用 generate() 方法生成词云图,并将其作为参数传递给 matplotlib 的 imshow() 函数。

最后,使用 show() 方法显示词云图。

Python 中文词频分词其它库thulac:thulac 是一个中文分词库,支持动态词性标注。snownlp:snownlp 是一个基于 SnowNLP 的中文自然语言处理库,支持中文分词、情感分析、关键词提取等功能。

📢📢📢📢📢📢 💗 你正在阅读 【梦想橡皮擦】 的博客 👍 阅读完毕,可以点点小手赞一下 🌻 发现错误,直接评论区中指正吧 📆 橡皮擦的第 872 篇原创博客

👇 全网 6000+人正在学习的 爬虫专栏 👇👇👇👇

⭐️ Python 爬虫 120,点击订购 ⭐️⭐️ 爬虫 100 例教程,点击订购 ⭐️
本文链接地址:https://www.jiuchutong.com/zhishi/300298.html 转载请保留说明!

上一篇:OpenCV中的图像处理 —— 傅里叶变换+模板匹配(opencv如何显示图片)

下一篇:端午假期整理了仿天猫H5 APP项目vue.js+express+mongo(端午假期干什么)

  • 合肥地铁可以刷支付宝吗(合肥地铁可以刷京津冀一卡通吗)

    合肥地铁可以刷支付宝吗(合肥地铁可以刷京津冀一卡通吗)

  • 荣耀30s充满电会自动断电吗(华为荣耀30s充电充满后会自己断吗)

    荣耀30s充满电会自动断电吗(华为荣耀30s充电充满后会自己断吗)

  • 苹果a2111是什么型号(a222苹果11是什么意思)

    苹果a2111是什么型号(a222苹果11是什么意思)

  • 微信聊天记录怎么查看(微信聊天记录怎么永久删除)

    微信聊天记录怎么查看(微信聊天记录怎么永久删除)

  • 京东京品手机是什么意思(京品手机是什么)

    京东京品手机是什么意思(京品手机是什么)

  • 淘宝拍卖延时规则(淘宝拍卖延时规则最新)

    淘宝拍卖延时规则(淘宝拍卖延时规则最新)

  • qq看点里的消息是群发的吗(qq看点我的消息是什么意思)

    qq看点里的消息是群发的吗(qq看点我的消息是什么意思)

  • 华为p40 6+128和8+128的区别(华为p408+128和8+256的区别)

    华为p40 6+128和8+128的区别(华为p408+128和8+256的区别)

  • 微视正在安装视频组件是什么意思(微视正在安装视频组件)

    微视正在安装视频组件是什么意思(微视正在安装视频组件)

  • 小米智能插座增强版和zigbee区别(小米智能插座增强版电压过高)

    小米智能插座增强版和zigbee区别(小米智能插座增强版电压过高)

  • 联想笔记本做系统按F几(联想笔记本做系统蓝屏怎么解决)

    联想笔记本做系统按F几(联想笔记本做系统蓝屏怎么解决)

  • 小米手机没电了怎么办(小米手机没电了怎么办? 教你一个小妙招)

    小米手机没电了怎么办(小米手机没电了怎么办? 教你一个小妙招)

  • 网易云关注的歌手在哪(网易云关注的歌手发私信)

    网易云关注的歌手在哪(网易云关注的歌手发私信)

  • ps如何将选中的区域抠出来(ps如何将选中的区域新建为一个图层)

    ps如何将选中的区域抠出来(ps如何将选中的区域新建为一个图层)

  • 光盘属于什么存储介质(光盘属于什么存储设备)

    光盘属于什么存储介质(光盘属于什么存储设备)

  • 手机百度云怎么解压压缩包(手机百度云怎么解压zip压缩文件)

    手机百度云怎么解压压缩包(手机百度云怎么解压zip压缩文件)

  • 手机上有hd咋去掉(手机上面hd怎么弄掉)

    手机上有hd咋去掉(手机上面hd怎么弄掉)

  • word下标怎么弄(word怎么设置下标的下标)

    word下标怎么弄(word怎么设置下标的下标)

  • vivo x27防水吗(vivo X27防水吗)

    vivo x27防水吗(vivo X27防水吗)

  • 黑鲨2支持快充吗(黑鲨2快充支持多少)

    黑鲨2支持快充吗(黑鲨2快充支持多少)

  • 苹果11gps怎么打开(iphone11怎么打开gps)

    苹果11gps怎么打开(iphone11怎么打开gps)

  • ipadair3是哪一年出的(ipadair3是2019年几月份出的)

    ipadair3是哪一年出的(ipadair3是2019年几月份出的)

  • 红米7a有红外遥控器吗(红米7a有红外遥控功能吗)

    红米7a有红外遥控器吗(红米7a有红外遥控功能吗)

  • 苹果x替换外貌啥意思(苹果x替换面容在哪里)

    苹果x替换外貌啥意思(苹果x替换面容在哪里)

  • iphonexs正面闪灯哪里设置(苹果xs闪光灯不亮了原因)

    iphonexs正面闪灯哪里设置(苹果xs闪光灯不亮了原因)

  • Mac怎么自定义快捷键打开控制中心?Mac自定义快捷键打开控制中心(mac怎么设置快捷图标)

    Mac怎么自定义快捷键打开控制中心?Mac自定义快捷键打开控制中心(mac怎么设置快捷图标)

  • 高新技术企业产品是什么意思
  • 公司有流水不申报会怎么样
  • 单位劳务派遣的比例
  • 票据的融资
  • 销售使用过的固定资产3%减按2%
  • 商业汇票贴现金额的计算
  • 增值税普票没有税率怎么回事
  • 跨境电商有进口吗
  • 一般纳税人普通发票免税吗
  • 预告登记与备案的区别
  • 行政单位暂付款怎么记账
  • 法人的投资款如何拿出来
  • 货款和发票金额不符
  • 实验用原材料的会计处理
  • 废气处理工程会计分录
  • 公司给离职员工个税零申报
  • 福利费不交个人所得税会怎么样
  • 抵扣勾选和退税勾选选错了怎么办
  • 劳务费增值税发票是劳务单位开吗
  • 营改增金融商品范围
  • 房地产开发公司取名
  • 纳税人跨县(市、区)是指
  • 自然人税收申报显示申报失败:未选择纳税人
  • 开票系统维护费必须要交吗
  • 企业稀释股份
  • 应收票据背书转让以取得所需物资
  • 怎么关闭win11安装软件提示
  • 公司设备租赁给客户怎么做科目
  • redis在php项目中的使用实例
  • 天猫的软件服务费指的是什么
  • 补充养老保险税收规定扣除率
  • PHP:stream_set_blocking()的用法_Stream函数
  • 最轻薄数码相机
  • 企业是根据什么来分类的
  • php和mysql的联合使用
  • gpt3 api
  • 增值税税控系统专用设备费及技术维护费抵扣
  • php curlfile
  • php上传视频到服务器
  • 公司期货套期保值会计处理方法
  • 来料加工企业的划分标准
  • 个税更正申报后可以撤销吗
  • 教育经费什么情况下可以报销
  • 公司收到保险公司赔款后又转给个人怎么处理
  • 样品开发计划
  • 吃饭的票如何写报销单
  • 个人所得税专项扣除新标准一览表最新
  • 收购发票加计扣除会计分录
  • 购买办公用品属于什么凭证类型
  • 抵押贷款购买商品合法吗
  • 捐赠 赞助 区别
  • 跨年进项发票怎样账务处理
  • 财务的材质怎么写
  • 盘亏应该怎么处理
  • 成本类科目借贷规则
  • 安装mysql5.7虚拟机教程
  • sql语句中截取字符串
  • sql中的非逻辑
  • fedora改密码
  • centos如何添加监听端口
  • 卸载声卡驱动有什么影响
  • win8对机械硬盘不友好
  • win8电脑卡怎么办简单步骤
  • linux的top参数
  • 文件夹windows
  • excel2016默认字体
  • 根据当前目录下的文件
  • shell 整数赋值
  • shell 字符串比较
  • python写抢购教程
  • js生成页面
  • Android 使用log4j2
  • 代收的款项支付需不需要开发票
  • 网上办税如何打印电子凭证
  • 郑州地铁客服热线电话
  • 河南省注册税务师协会电话
  • 行政服务事项包含哪些
  • 增值税计税依据含运费吗
  • 税费银联缴款
  • 浙江欧派和广东欧派哪个好
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设