位置: 编程技术 - 正文

解决MySQL Sending data导致查询很慢问题的方法与思路(解决问题)

编辑:rootadmin

推荐整理分享解决MySQL Sending data导致查询很慢问题的方法与思路(解决问题),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:解决打呼噜只需一杯水,解决问题,解决问题,解决口苦最快的方法,解决打呼噜只需一杯水,解决的英文,解决的英文,解决的英文,内容如对您有帮助,希望把文章链接给更多的朋友!

最近帮忙定位一个mysql查询很慢的问题,定位过程综合各种方法、理论、工具,很有代表性,分享给大家。

【问题现象】

使用sphinx支持倒排索引,但sphinx从mysql查询源数据的时候,查询的记录数才几万条,但查询的速度非常慢,大概要4~5分钟左右

【处理过程】

1)explain

首先怀疑索引没有建好,于是使用explain查看查询计划,结果如下:

从explain的结果来看,整个语句的索引设计是没有问题的,除了第一个表因为业务需要进行整表扫描外,其它的表都是通过索引访问

2)show processlist;

explain看不出问题,那到底慢在哪里呢?

于是想到了使用 show processlist查看sql语句执行状态,查询结果如下:

发现很长一段时间,查询都处在 “Sending data”状态

查询一下“Sending data”状态的含义,原来这个状态的名称很具有误导性,所谓的“Sending data”并不是单纯的发送数据,而是包括“收集 + 发送 数据”。

这里的关键是为什么要收集数据,原因在于:mysql使用“索引”完成查询结束后,mysql得到了一堆的行id,如果有的列并不在索引中,mysql需要重新到“数据行”上将需要返回的数据读取出来返回个客户端。

3)show profile

为了进一步验证查询的时间分布,于是使用了show profile命令来查看详细的时间分布

首先打开配置:set profiling=on;执行完查询后,使用show profiles查看query id;使用show profile for query query_id查看详细信息;

结果如下:

解决MySQL Sending data导致查询很慢问题的方法与思路(解决问题)

从结果可以看出,Sending data的状态执行了s

4)排查对比

经过以上步骤,已经确定查询慢是因为大量的时间耗费在了Sending data状态上,结合Sending data的定义,将目标聚焦在查询语句的返回列上面

经过一 一排查,最后定为到一个description的列上,这个列的设计为:`description`varchar() DEFAULT NULL COMMENT '游戏描述',

于是采取了对比的方法,看看“不返回description的结果”如何。show profile的结果如下:

可以看出,不返回description的时候,查询时间只需要s,返回的时候,需要s,两者相差倍

【原理研究】

至此问题已经明确,但原理上我们还需要继续探究。

这篇淘宝的文章很好的解释了相关原理:innodb使用大字段text,blob的一些优化建议

这里的关键信息是:当Innodb的存储格式是 ROW_FORMAT=COMPACT (or ROW_FORMAT=REDUNDANT)的时候,Innodb只会存储前字节的长度,剩余的数据存放到“溢出页”中。

我们使用show table status来查看表的相关信息:

可以看到,平均一行大约1.5K,也就说大约1/行会使用“溢出存储”,一旦采用了这种方式存储,返回数据的时候本来是顺序读取的数据,就变成了随机读取了,所以导致性能急剧下降。

另外,在测试过程中还发现,无论这条语句执行多少次,甚至将整个表select *几次,语句的执行速度都没有明显变化。这个表的数据和索引加起来才M左右,而整个Innodb buffer pool有5G,缓存整张表绰绰有余,如果缓存了溢出页,性能应该大幅提高才对。

但实测结果却并没有提高,因此从这个测试可以推论Innodb并没有将溢出页(overflow page)缓存到内存里面。

这样的设计也是符合逻辑的,因为overflow page本来就是存放大数据的,如果也放在缓存里面,就会出现一次大数据列(blob、text、varchar)查询,可能就将所有的缓存都更新了,这样会导致其它普通的查询性能急剧下降。

【解决方法】

找到了问题的根本原因,解决方法也就不难了。有几种方法:

1)查询时去掉description的查询,但这受限于业务的实现,可能需要业务做较大调整

2)表结构优化,将descripion拆分到另外的表,这个改动较大,需要已有业务配合修改,且如果业务还是要继续查询这个description的信息,则优化后的性能也不会有很大提升。

标签: 解决问题

本文链接地址:https://www.jiuchutong.com/biancheng/321305.html 转载请保留说明!

上一篇:如何恢复MySQL主从数据一致性(mysql怎么恢复数据)

下一篇:MYSQL导入导出sql文件简析(MySQL导入导出命令)

  • 资产交换的涉税处理
  • 房产赠与税什么时候开始的
  • 上年度暂估的票回不来一直挂帐吗
  • 坏账准备怎么做T型账户
  • 总分机构是什么
  • 营业收入就是开票不含税么
  • 增值税专票开完就扣税是吗
  • 增值税免退税计算方法
  • 准予扣除的职工福利费
  • 出口货物是否属于存货
  • 材料已入库后收货怎么写
  • 固定资产转售
  • 用友软件冲销凭证是什么意思
  • 投资公司的利息支出可抵扣吗
  • 已认证未抵扣发票冲红流程
  • 增值税的价外费用不包括什么
  • 自有房产墙面出租,需要缴纳房产税吗?
  • 金蝶增加银行存款账户,期间不对
  • 未抵扣增值税入什么科目
  • 企业劳务费用怎么处理
  • 水费能不能开专票
  • 分期付款购买商品房后续没钱还怎么办
  • 退回的企业所得税如何在报表中显示
  • 社保跨省转移社保流程
  • 自定义输入是什么
  • 职工福利费汇算清缴怎么填写
  • 推迟月经小窍门有民间土方法吗?
  • 国地税合并有什么角度写论文
  • nw.exe是什么进程
  • 企业清算所得税如何计算
  • php session_start
  • 发票开具时限是怎么规定的
  • php文件上传后只显示了路径怎么办啊
  • 驱动开发函数详解
  • 职工补贴包括哪些?
  • 其他权益工具投资是什么意思
  • 外管证注销后发票还可以重开吗?
  • 广告公司纳税人类型
  • java阻塞队列线程安全吗
  • wordpress删除修订版本
  • SQLite教程(三):数据表和视图简介
  • mongodb 全文索引
  • 科技型中小微企业贷款贴息贴保项目入库
  • 债务抵销的顺序
  • sql server拒绝访问是什么情况
  • 出库成本会计分录
  • 应付账款的入账价值为未来偿还额
  • 减免所得税额是自动计算吗
  • 开农贸市场拿补贴找哪个部门
  • 售后回购融资租赁的会计处理
  • 挂靠工程如何交纳税金帐务处理?
  • 私立医院怎么做不被骗的事情
  • 上个月库存没用完的下个月怎么计算
  • 生产成本福利费如何分摊
  • 小微企业要记账吗
  • 判断数据库表是否为空
  • win10预览版21277下载
  • ntfs硬盘分区整数
  • hyper安装win7
  • win7系统中怎么查看隐藏文件
  • nodejs用法
  • perl中my
  • opengl实现光线追踪
  • apache使用端口
  • linux无法使用yum命令
  • python数据清洗的方法有哪些
  • jquery多级菜单
  • node.js开发实战详解
  • unity3d怎么控制人物移动
  • jquery插件是干什么的
  • unity类库
  • 对于python程序,对代码缩进的要求非常严格
  • 湖南省电子国税
  • 怎么打印纳税申报表带章的
  • 分摊费用怎么计算公式
  • 江阴市税务局电话号码
  • 个人所得税自行纳税申报表a表填写模板
  • 山东税务社保缴纳进入小程序
  • 购买税控盘的发票需要交印花税吗?
  • 福建生育登记证明电子版在哪查
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设