位置: IT常识 - 正文

疑问搞懂,python中文词频统计,让你真能学会(python答疑)

编辑:rootadmin
疑问搞懂,python中文词频统计,让你真能学会

推荐整理分享疑问搞懂,python中文词频统计,让你真能学会(python答疑),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:python询问,python答疑,python疑难解答,python常问问题,python答疑,python语言问题,python语言问题,python常问问题,内容如对您有帮助,希望把文章链接给更多的朋友!

词频统计是指在文本中计算每个词出现的次数。 在 Python 中,可以使用一些第三方库(如 jieba)来分词,然后使用字典等数据结构记录每个词的词频。

Python中文词频统计知识点分词:需要对中文文本进行分词,分词的目的是将文本分解为独立的词语,便于后续的词频统计。字典:使用字典存储每个词的词频。字典的键为词语,值为词频。遍历:遍历分词后的结果,统计每个词出现的次数。排序:对字典按照词频排序,以得到词频最高的词。输出:最后,可以输出词频最高的词,也可以输出完整的词频字典。文章目录Python中文词频分词安装 jieba 库:使用 jieba.cut() 函数对中文文本进行分词:输出结果:使用字典可以很方便地存储每个词语的词频再次整理Python词频统计的具体实现方法:停用词词干提取词云图Python 中文词频分词其它库Python中文词频分词安装 jieba 库:pip install jieba使用 jieba.cut() 函数对中文文本进行分词:import jiebatext = "梦想橡皮擦的Python博客很不错"seg_list = jieba.cut(text)print(list(seg_list))输出结果:['梦想', '橡皮擦', '的', 'Python', '博客', '很', '不错']使用字典可以很方便地存储每个词语的词频import jiebatext = "梦想橡皮擦的Python博客很不错"seg_list = jieba.cut(text)# print(list(seg_list))word_dict = {}for word in seg_list: print(word) if word in word_dict: word_dict[word] += 1 else: word_dict[word] = 1print(word_dict)再次整理Python词频统计的具体实现方法:导入 jieba 库,使用 jieba.cut() 函数对中文文本进行分词。遍历分词后的结果,统计每个词出现的次数。使用字典记录每个词出现的次数。对字典按照词频排序,并输出词频最高的词。

代码示例:

import jiebadef get_word_frequency(text): seg_list = jieba.cut(text) word_dict = {} for word in seg_list: if word in word_dict: word_dict[word] += 1 else: word_dict[word] = 1 sorted_word_dict = sorted(word_dict.items(), key=lambda x: x[1], reverse=True) return sorted_word_dicttext = "梦想橡皮擦的Python博客很不错"result = get_word_frequency(text)print(result)

停用词

在分词时,通常会忽略一些词语,这些词语被称为停用词。如常用的助词、介词等。

在 Python 中,可以预先加载停用词表,在分词时,如果词语是停用词,则忽略。

下面是一个简单的例子:

import jiebastop_words = set()with open("stop_words.txt", "r",encoding='utf-8') as f: for line in f: stop_words.add(line.strip())text = "梦想橡皮擦的Python博客很不错"seg_list = jieba.cut(text)filtered_words = [word for word in seg_list if word not in stop_words]print(filtered_words)

“stop_words.txt” 文件中是停用词表,每行一个词语。在代码中,通过 with open 语句读取文件,并将每个词语加入到 stop_words 集合中。在分词后,通过列表推导式,筛选出不是停用词的词语。文件中的内容如下:

词干提取

词干提取是将词语的不同形式提取为同一词干的过程。例如 “running” 和 “runner” 可以被提取为 “run”。

疑问搞懂,python中文词频统计,让你真能学会(python答疑)

在 Python 中,可以使用词干提取工具来进行词干提取,常见的词干提取工具有 nltk 库的 PorterStemmer 和 SnowballStemmer 。

下面是一个简单的例子:

import nltkfrom nltk.stem import SnowballStemmerstemmer = SnowballStemmer("english")words = ["run", "runner", "running"]stemmed_words = [stemmer.stem(word) for word in words]print(stemmed_words)

SnowballStemmer 函数的第一个参数是语言。 english 表示使用英语词干提取器。 其支持多种语言,可以指定不同的语言,以使用不同的词干提取器。例如,如果是法语文本,可以使用 SnowballStemmer("french") 。

stemmer.stem(word) 是 nltk 库的 SnowballStemmer 函数的一个方法,用于提取词干。

词云图

词云图是一种展示词频的可视化图形,其中词语的大小代表词频的多少。

在 Python 中,可以使用词云库 wordcloud 来生成词云图。

以下是一个使用 wordcloud 库创建词云图的简单示例:

from wordcloud import WordCloudimport matplotlib.pyplot as plttext = "ca1 ca2 ca3 ca4 ca4 ca4"wordcloud = WordCloud(width=400, height=400, random_state=21, max_font_size=110).generate(text)plt.figure(figsize=(10, 5))plt.imshow(wordcloud, interpolation="bilinear")plt.axis('off')plt.show()

首先使用 WordCloud 函数创建一个词云图对象,并设置图片的宽度、高度、随机状态、字体大小等参数。

然后,使用 generate() 方法生成词云图,并将其作为参数传递给 matplotlib 的 imshow() 函数。

最后,使用 show() 方法显示词云图。

Python 中文词频分词其它库thulac:thulac 是一个中文分词库,支持动态词性标注。snownlp:snownlp 是一个基于 SnowNLP 的中文自然语言处理库,支持中文分词、情感分析、关键词提取等功能。

📢📢📢📢📢📢 💗 你正在阅读 【梦想橡皮擦】 的博客 👍 阅读完毕,可以点点小手赞一下 🌻 发现错误,直接评论区中指正吧 📆 橡皮擦的第 872 篇原创博客

👇 全网 6000+人正在学习的 爬虫专栏 👇👇👇👇

⭐️ Python 爬虫 120,点击订购 ⭐️⭐️ 爬虫 100 例教程,点击订购 ⭐️
本文链接地址:https://www.jiuchutong.com/zhishi/300298.html 转载请保留说明!

上一篇:OpenCV中的图像处理 —— 傅里叶变换+模板匹配(opencv如何显示图片)

下一篇:端午假期整理了仿天猫H5 APP项目vue.js+express+mongo(端午假期干什么)

  • 卸载的应用怎么恢复(卸载的应用怎么下载回来)

    卸载的应用怎么恢复(卸载的应用怎么下载回来)

  • iphone11pro max怎么连拍(iphone11pro max怎么插双卡)

    iphone11pro max怎么连拍(iphone11pro max怎么插双卡)

  • 拼多多直播可以看回放吗(拼多多直播可以放录好的视频吗)

    拼多多直播可以看回放吗(拼多多直播可以放录好的视频吗)

  • 开机瞬间风扇转速最大(开机瞬间风扇转怎么回事)

    开机瞬间风扇转速最大(开机瞬间风扇转怎么回事)

  • 电脑电源不通电是什么原因(电脑电源不通电都会响)

    电脑电源不通电是什么原因(电脑电源不通电都会响)

  • 举报卖家卖家会知道id吗(举报卖家卖家会知道吗)

    举报卖家卖家会知道id吗(举报卖家卖家会知道吗)

  • 苹果有分屏功能吗(苹果有分屏功能吗怎么用)

    苹果有分屏功能吗(苹果有分屏功能吗怎么用)

  • 惠普e管家可以卸载吗(惠普E管家可以帮忙下载软件吗)

    惠普e管家可以卸载吗(惠普E管家可以帮忙下载软件吗)

  • 路由器dhcp要开吗(从路由器的dhcp是开启好还是关闭好)

    路由器dhcp要开吗(从路由器的dhcp是开启好还是关闭好)

  • 笔记本电脑耗电快正常吗(笔记本电脑耗电量一天多少度)

    笔记本电脑耗电快正常吗(笔记本电脑耗电量一天多少度)

  • 天猫国际可以退货吗(天猫国际可以退货是退到哪里)

    天猫国际可以退货吗(天猫国际可以退货是退到哪里)

  • smart keyboard怎么用(smart keyboard怎么查序列号)

    smart keyboard怎么用(smart keyboard怎么查序列号)

  • 华为mate20如何强制开机(华为mate20怎么强制)

    华为mate20如何强制开机(华为mate20怎么强制)

  • 无障碍模式是什么意思(无障碍模式是怎么回事)

    无障碍模式是什么意思(无障碍模式是怎么回事)

  • ipcc是什么意思(卡贴加载ipcc是什么意思)

    ipcc是什么意思(卡贴加载ipcc是什么意思)

  • word怎么裁剪身份证的边(world如何裁剪)

    word怎么裁剪身份证的边(world如何裁剪)

  • iphone11怎么从安卓手机转移数据(苹果11怎么从安卓导入数据)

    iphone11怎么从安卓手机转移数据(苹果11怎么从安卓导入数据)

  • 华为m5青春版详细功能(华为m5青春版百度百科)

    华为m5青春版详细功能(华为m5青春版百度百科)

  • 一加手机主题怎么换(一加手机主题怎么混搭)

    一加手机主题怎么换(一加手机主题怎么混搭)

  • 手机不在身边收款器播报吗(手机不在身边收不到验证码)

    手机不在身边收款器播报吗(手机不在身边收不到验证码)

  • word模板位置在哪(word模板位置 win10)

    word模板位置在哪(word模板位置 win10)

  • nova5与nova5pro区别(nova5和nova5pro有什么区别,哪个好)

    nova5与nova5pro区别(nova5和nova5pro有什么区别,哪个好)

  • 腾讯视频怎么开hdr(腾讯视频怎么开4k画质)

    腾讯视频怎么开hdr(腾讯视频怎么开4k画质)

  • tp路由器怎么设置密码(tp路由器怎么设置上网)

    tp路由器怎么设置密码(tp路由器怎么设置上网)

  • ahfp.exe是什么进程 ahfp进程有哪些作用(isahelp是什么进程)

    ahfp.exe是什么进程 ahfp进程有哪些作用(isahelp是什么进程)

  • 增值税发票综合服务平台错误代码35
  • 已交税金是什么类
  • 利润表中的所得税
  • 建筑劳务公司的工资计入什么科目
  • 残保金减免需要每月发放不低于本市最低工资标准是应发
  • 发票税率金额如何得出
  • 一般纳税人主表第一栏数据
  • 工资 小数点
  • 单位劳务派遣的比例
  • 工业企业总产值的计算是以什么为主体
  • 资本公积账务处理案例
  • 发票金额小于入库金额
  • 未投入使用房屋怎么处理
  • 转让财产怎么交税
  • 税费返还怎么做会计科目
  • 月末收到一批b材料,结算凭证未到,估价50000
  • 资产负债表和利润表和现金流量表的关系
  • 怎么确认收到的钱是哪个项目的
  • 快递费需要计提吗
  • 稳岗补贴发放给职工需要交个税吗?
  • 报个税系统叫啥
  • 递延资产摊销属于什么科目
  • 专家费收取多少合适
  • 华为手机记事本app
  • 企业转产是什么意思
  • 预售房款预缴企税怎么算
  • 车船使用税进哪个会计科目
  • 固定资产合计等于固定资产账面价值吗
  • 为什么盈余公积补亏不会影响留存收益
  • 疫情 统筹
  • “linux系统”
  • 下载文件是php
  • 离退休干部书报费有关文件
  • framework core
  • 涉及产权的案例
  • php 正则函数
  • vue中下载文件
  • 施工企业成本费用有哪些方面构成
  • php ucwords() 函数将字符串中每个单词的首字符转换为大写(实现代码)
  • php数组变字符串
  • 深入理解php类的知识
  • 企业资产损失税前扣除管理办法最新
  • 统一社会信用代码多少
  • 人力资源公司的税率是多少
  • sqlserver2019查看表
  • 法人如何提取公积金
  • 固定资金作为固定资产的货币表现的特点
  • 房屋消防工程
  • 代扣代缴的社保为什么是其他应付款
  • 制单会计岗位风险点
  • 同一控制下企业合并
  • 应交税费应交增值税进项税额在借方
  • 期末留抵的进项税可以计入成本吗
  • 一般纳税人购买汽车会计分录
  • 应付暂估余额很大怎么办
  • 开服装店如何做销售
  • 计提应付账款会计分录
  • 企业会计制度怎么写
  • 限额领料单属于什么凭证多选题
  • 一个简单的微笑说说
  • CentOS 7.2下MySQL的安装与相关配置
  • sqlserver管理工具有哪些
  • win7无法识别usb设备如何解决
  • windows隐藏
  • adb.exe是什么程序
  • services.exe是什么文件
  • win7关机快捷键设置
  • mac文件怎么用
  • linux指定格式显示日期
  • 开发环境配置是干嘛
  • blockqueue生产者消费者
  • jquery常用api
  • dos测试网络连接
  • c# 抽象类的作用
  • Android Http请求方法汇总
  • 增值税纳税申报表附列资料(一)
  • 深圳税务局工作时间表
  • 欠税务局税款的后果
  • 期初库存和期末库存是什么意思
  • ca认证登录不了
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设