位置: IT常识 - 正文

疑问搞懂,python中文词频统计,让你真能学会(python答疑)

编辑:rootadmin
疑问搞懂,python中文词频统计,让你真能学会

推荐整理分享疑问搞懂,python中文词频统计,让你真能学会(python答疑),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:python询问,python答疑,python疑难解答,python常问问题,python答疑,python语言问题,python语言问题,python常问问题,内容如对您有帮助,希望把文章链接给更多的朋友!

词频统计是指在文本中计算每个词出现的次数。 在 Python 中,可以使用一些第三方库(如 jieba)来分词,然后使用字典等数据结构记录每个词的词频。

Python中文词频统计知识点分词:需要对中文文本进行分词,分词的目的是将文本分解为独立的词语,便于后续的词频统计。字典:使用字典存储每个词的词频。字典的键为词语,值为词频。遍历:遍历分词后的结果,统计每个词出现的次数。排序:对字典按照词频排序,以得到词频最高的词。输出:最后,可以输出词频最高的词,也可以输出完整的词频字典。文章目录Python中文词频分词安装 jieba 库:使用 jieba.cut() 函数对中文文本进行分词:输出结果:使用字典可以很方便地存储每个词语的词频再次整理Python词频统计的具体实现方法:停用词词干提取词云图Python 中文词频分词其它库Python中文词频分词安装 jieba 库:pip install jieba使用 jieba.cut() 函数对中文文本进行分词:import jiebatext = "梦想橡皮擦的Python博客很不错"seg_list = jieba.cut(text)print(list(seg_list))输出结果:['梦想', '橡皮擦', '的', 'Python', '博客', '很', '不错']使用字典可以很方便地存储每个词语的词频import jiebatext = "梦想橡皮擦的Python博客很不错"seg_list = jieba.cut(text)# print(list(seg_list))word_dict = {}for word in seg_list: print(word) if word in word_dict: word_dict[word] += 1 else: word_dict[word] = 1print(word_dict)再次整理Python词频统计的具体实现方法:导入 jieba 库,使用 jieba.cut() 函数对中文文本进行分词。遍历分词后的结果,统计每个词出现的次数。使用字典记录每个词出现的次数。对字典按照词频排序,并输出词频最高的词。

代码示例:

import jiebadef get_word_frequency(text): seg_list = jieba.cut(text) word_dict = {} for word in seg_list: if word in word_dict: word_dict[word] += 1 else: word_dict[word] = 1 sorted_word_dict = sorted(word_dict.items(), key=lambda x: x[1], reverse=True) return sorted_word_dicttext = "梦想橡皮擦的Python博客很不错"result = get_word_frequency(text)print(result)

停用词

在分词时,通常会忽略一些词语,这些词语被称为停用词。如常用的助词、介词等。

在 Python 中,可以预先加载停用词表,在分词时,如果词语是停用词,则忽略。

下面是一个简单的例子:

import jiebastop_words = set()with open("stop_words.txt", "r",encoding='utf-8') as f: for line in f: stop_words.add(line.strip())text = "梦想橡皮擦的Python博客很不错"seg_list = jieba.cut(text)filtered_words = [word for word in seg_list if word not in stop_words]print(filtered_words)

“stop_words.txt” 文件中是停用词表,每行一个词语。在代码中,通过 with open 语句读取文件,并将每个词语加入到 stop_words 集合中。在分词后,通过列表推导式,筛选出不是停用词的词语。文件中的内容如下:

词干提取

词干提取是将词语的不同形式提取为同一词干的过程。例如 “running” 和 “runner” 可以被提取为 “run”。

疑问搞懂,python中文词频统计,让你真能学会(python答疑)

在 Python 中,可以使用词干提取工具来进行词干提取,常见的词干提取工具有 nltk 库的 PorterStemmer 和 SnowballStemmer 。

下面是一个简单的例子:

import nltkfrom nltk.stem import SnowballStemmerstemmer = SnowballStemmer("english")words = ["run", "runner", "running"]stemmed_words = [stemmer.stem(word) for word in words]print(stemmed_words)

SnowballStemmer 函数的第一个参数是语言。 english 表示使用英语词干提取器。 其支持多种语言,可以指定不同的语言,以使用不同的词干提取器。例如,如果是法语文本,可以使用 SnowballStemmer("french") 。

stemmer.stem(word) 是 nltk 库的 SnowballStemmer 函数的一个方法,用于提取词干。

词云图

词云图是一种展示词频的可视化图形,其中词语的大小代表词频的多少。

在 Python 中,可以使用词云库 wordcloud 来生成词云图。

以下是一个使用 wordcloud 库创建词云图的简单示例:

from wordcloud import WordCloudimport matplotlib.pyplot as plttext = "ca1 ca2 ca3 ca4 ca4 ca4"wordcloud = WordCloud(width=400, height=400, random_state=21, max_font_size=110).generate(text)plt.figure(figsize=(10, 5))plt.imshow(wordcloud, interpolation="bilinear")plt.axis('off')plt.show()

首先使用 WordCloud 函数创建一个词云图对象,并设置图片的宽度、高度、随机状态、字体大小等参数。

然后,使用 generate() 方法生成词云图,并将其作为参数传递给 matplotlib 的 imshow() 函数。

最后,使用 show() 方法显示词云图。

Python 中文词频分词其它库thulac:thulac 是一个中文分词库,支持动态词性标注。snownlp:snownlp 是一个基于 SnowNLP 的中文自然语言处理库,支持中文分词、情感分析、关键词提取等功能。

📢📢📢📢📢📢 💗 你正在阅读 【梦想橡皮擦】 的博客 👍 阅读完毕,可以点点小手赞一下 🌻 发现错误,直接评论区中指正吧 📆 橡皮擦的第 872 篇原创博客

👇 全网 6000+人正在学习的 爬虫专栏 👇👇👇👇

⭐️ Python 爬虫 120,点击订购 ⭐️⭐️ 爬虫 100 例教程,点击订购 ⭐️
本文链接地址:https://www.jiuchutong.com/zhishi/300298.html 转载请保留说明!

上一篇:OpenCV中的图像处理 —— 傅里叶变换+模板匹配(opencv如何显示图片)

下一篇:端午假期整理了仿天猫H5 APP项目vue.js+express+mongo(端午假期干什么)

  • 魅族17支持光学防抖能吗(魅族17有激光对焦吗)

    魅族17支持光学防抖能吗(魅族17有激光对焦吗)

  • 苹果id换了怎么老是弹以前的(苹果id换了怎么下载还是之前的)

    苹果id换了怎么老是弹以前的(苹果id换了怎么下载还是之前的)

  • 40分钟视频如何发给好友(40分钟视频如何发给电脑)

    40分钟视频如何发给好友(40分钟视频如何发给电脑)

  • 怎么删除撤回消息字迹(怎么删除撤回消息字迹微信)

    怎么删除撤回消息字迹(怎么删除撤回消息字迹微信)

  • win10关机变重启原因(win10关机变重启故障)

    win10关机变重启原因(win10关机变重启故障)

  • wr842n默认密码(wr840n默认密码)

    wr842n默认密码(wr840n默认密码)

  • 钉钉回放时间怎么算(钉钉回放怎么保存手机)

    钉钉回放时间怎么算(钉钉回放怎么保存手机)

  • 一个路由器可以连接几个路由器(一个路由器可以桥接几个路由器)

    一个路由器可以连接几个路由器(一个路由器可以桥接几个路由器)

  • 打字是繁体字怎么回事(打字是繁体字怎么改回来手机)

    打字是繁体字怎么回事(打字是繁体字怎么改回来手机)

  • 虎牙a类封禁能解封吗(虎牙被a类能解封吗)

    虎牙a类封禁能解封吗(虎牙被a类能解封吗)

  • 华为p30pro锁屏密码忘了怎么办(华为p30pro锁屏密码)

    华为p30pro锁屏密码忘了怎么办(华为p30pro锁屏密码)

  • 微博图片上传错误是什么意思(微博图片上传错误3022105是什么意思)

    微博图片上传错误是什么意思(微博图片上传错误3022105是什么意思)

  • 4k和蓝光哪个清晰度高(4k 和蓝光)

    4k和蓝光哪个清晰度高(4k 和蓝光)

  • 电脑连热点显示无法连接到这个网络(电脑连热点显示受限)

    电脑连热点显示无法连接到这个网络(电脑连热点显示受限)

  • page down在键盘哪里(page down在键盘哪个位置)

    page down在键盘哪里(page down在键盘哪个位置)

  • 淘气值满多少可以极速退款(淘气值满多少可以参加喵糖游戏)

    淘气值满多少可以极速退款(淘气值满多少可以参加喵糖游戏)

  • 携程订票优享怎么取消(携程旅行买票优享预定怎么取消)

    携程订票优享怎么取消(携程旅行买票优享预定怎么取消)

  • 苹果手机下载的软件怎么信任(苹果手机下载的歌曲在哪儿找)

    苹果手机下载的软件怎么信任(苹果手机下载的歌曲在哪儿找)

  • 快手怎么搜索正在直播(快手怎么样搜索)

    快手怎么搜索正在直播(快手怎么样搜索)

  • 手机音乐如何在汽车上播放(手机音乐如何在音响播放)

    手机音乐如何在汽车上播放(手机音乐如何在音响播放)

  • 微信多久不登会被注销(微信多久不登会自动注销)

    微信多久不登会被注销(微信多久不登会自动注销)

  • 小爱音箱怎么连接qq音乐(小爱音箱怎么连接)

    小爱音箱怎么连接qq音乐(小爱音箱怎么连接)

  • 华为p3o怎么截屏(华为P3o怎么截屏)

    华为p3o怎么截屏(华为P3o怎么截屏)

  • 苹果7如何接电话时录音(苹果如何接电话录音)

    苹果7如何接电话时录音(苹果如何接电话录音)

  • 工商年报多久能显示
  • 涉税业务有哪些
  • 内含报酬率指
  • 营运资产周转次数平均值
  • 未开发票如何确认收入并进行申报
  • 弃置费用的财务费用可以税前扣除吗
  • 员工工资占公司收入比例怎么算
  • 核定征收的小规模企业所得税B表收入总额含税吗
  • 企业为什么要进行环境分析
  • 建筑工程勘察费占设计费的比例
  • 准予抵扣的消费税
  • 1 3%增值税发票样本
  • 一张发票多个单位报销,怎么分辨
  • 农牧业没有发票怎么办
  • 地税开发票为啥要交百分之二的企业所得税?
  • 水利基金的计税基础是什么
  • 筹建期可以有收入吗
  • 公司扣了员工的个人所得税但没有帮员工申报
  • 递延所得税怎么产生
  • 利润表没有其他业务利润
  • 借支报销流程
  • 购买税控设备,享受何种优惠政策
  • VM虚拟机怎么安装网心容器
  • 收到生育津贴的短信是真的吗
  • 专项基金是什么
  • 事业单位固定资产计提折旧
  • 付不出去的应付账款如何写说明书
  • php入门基础教程
  • php中implode
  • 有趣的css代码
  • 常用的前端大屏软件
  • uniapp的css库
  • 伊吕波赛道
  • 土地增值税清算全流程实战案例
  • laravel视频教程
  • 评价类模型topsis
  • php提供的三种在函数内使用全局变量的方式
  • 购买方纳税人信息与第三方信息不符
  • 单位收到投标保证金会计分录
  • python中模块的用法
  • 详细步骤怎么写
  • 销售不同商品的会计分录
  • 个人独资公司和合伙公司有什么区别
  • java委托模式和代理模式
  • 不认定为一般纳税人的有哪些
  • 改签机票要收费
  • 无形资产未确认融资费用例题
  • 以前年度损益调整结转到哪里
  • 隔月发票退回是怎么回事
  • 融资租赁手续费进项税能抵扣吗
  • 抵债资产如何做债权转让
  • 机票会计代理如何做
  • 建设工程项目设计阶段的投资控制方法有哪些
  • 银行贷款损失的计算公式
  • 培训学校预收学费可退吗
  • 库存商品与存货总额之比
  • 接受非货币性资产捐赠入账价值
  • 股东之间转让股权有优先购买权吗
  • 怎样计算计时工资
  • mysql error1418
  • win7注册表有什么用
  • centos7挂载
  • directx?
  • macbook怎么开启
  • mac怎么打开macintosh
  • naimag32.exe - naimag32是什么进程 有什么用
  • linux下tar.gz、tar、bz2、zip等解压缩、压缩命令小结
  • debian怎么用
  • win10系统无法安装ie11
  • win7旗舰版系统还原无法启动
  • linuxone
  • android如何导入文件
  • 游戏引擎有几种
  • cocos2dx小游戏
  • 用vue写登录页面
  • c# unity 教程
  • js中check
  • js 引用类型
  • jquery判断checkbox是否选中及改变checkbox状态的实现方法
  • 扣缴义务人怎么改不过来呢
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设