位置: 编程技术 - 正文

InnoDb 体系架构和特性详解 (Innodb存储引擎读书笔记总结)(innodb底层实现原理)

编辑:rootadmin

推荐整理分享InnoDb 体系架构和特性详解 (Innodb存储引擎读书笔记总结)(innodb底层实现原理),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:innodb的底层原理,innodb详解,innodb 原理,innodb的底层原理,innodb内部结构,innodb体系架构,innodb内部结构,innodb内部结构,内容如对您有帮助,希望把文章链接给更多的朋友!

后台线程

&#;Master Thread

核心后台线程,主要负责将缓冲池的数据异步刷新到磁盘。例如脏页的刷新,插入缓冲的合并,undo 页的回收等。

每秒一次的操作:

1.日志缓冲刷新到磁盘,即使该事务还没有提交。该操作总是会发生,这个就是为了再大的事务,提交时间都很短。

2.当IO压力很小时(1s内发生的IO次数小于5% innodb_io_capacity)合并5% innodb_io_capacity 的插入缓冲。

3.当脏页比例大于 innodb_max_dirty_pages_cnt, 刷新 innodb_io_capacity 个缓冲池中的脏页到磁盘。否则如果 innodb_adaptive_flush 开启,则根据buf_flush_get_desired_flush_rate 来选择合适刷新脏页数量进行刷新。

每秒一次的操作:

1.如果过去S 内IO操作小于 innodb_io_capacity, 刷新 innodb_io_capacity 个缓冲池中的脏页到磁盘。

2.合并5% innodb_io_capacity 个插入缓冲。

3.将日志缓冲刷新到磁盘。

4.删除无用的undo页。

5.如果缓冲池中脏页比例超过%,再次刷新 innodb_io_capacity 个脏页到磁盘。否则刷新% innodb_io_capacity 个脏页。

background loop(数据库空闲或者数据库关闭时):

1.删除无用的undo页。

2.合并 innodb_io_capacity 个插入缓冲。

flush loop(数据库空闲):

1.刷新 innodb_io_capacity 个脏页

&#;IO Thread

Innodb存储引擎大量使用了AIO, IO Thread主要负责IO请求的回调。 可使用innodb_read_io_threads和innodb_write_io_threads参数列表调整。

&#;Purge Thread

事务提交后。该事务相关的undolog可能不再需要。Purge Thread就是用来回收不需要的undo页的。

&#;PageCleaner Thread

负责脏页的刷新操作。减轻master thread的工作以及对于用户查询线程的阻塞。

内存缓冲池

对于数据库中页的修改操作,首先修改在缓冲池中的页,然后再以一定的频率刷新到磁盘上。这就意味着不是每次缓冲池中的页修改时触发刷新回磁盘,而是通过checkpoint技术刷新回磁盘。缓冲池的大小配置可通过 innodb_buffer_pool_size来设置。

缓冲池的数据页类型有:数据页,索引页,undo页,插入缓冲,自适应哈希索引,innodb存储的锁信息,字典信息。

现在innodb存储引擎允许多个缓冲池实例。这样通过hash到不同缓冲池实例来减少锁的竞争。该参数可以通过innodb_buffer_pool_instance.

缓冲池是一个很大的内存区域,数据库通过LRU算法来进行管理。但是因为考虑到全表扫描的操作。因此没有采用朴素的LRU算法。LRU列表中加入的midpoint位置。新读取到的页,并不是直接放到lru列表的首部,而是midpoint位置。默认情况下,在lru列表长度的5/8处。由参数innodb_old_blocks_pct控制。

插入缓冲

对于非聚集索引的插入和更新操作,Innodb存储引擎并不是直接插入到索引页中,而是的Insert Buffer。然后再以一定的频率进行insertbuffer和辅助索引叶子节点的merge。着通常将多个随机插入合并到一个操作中。大大提高了非聚集索引插入的性能。

Innodb使用 insertbuffer 条件:

&#;索引是非聚集索引

&#;索引不是unique的(如果是unique, 则又需查找索引来保证unique)

InnoDb 体系架构和特性详解 (Innodb存储引擎读书笔记总结)(innodb底层实现原理)

Insert Buffer 内部实现

Insert Buffer 的数据结构是一棵B+树。 Mysql 4.1后,全局只有一棵B+树,负责对所有表的辅助索引进行insert Buffer. 并且,这棵树存放在共享表空间里,默认情况下即ibdata1。因此,如果仅通过独立表空间ibd文件恢复表中数据时,可能会导致失败。还需要通过insert buffer数据恢复表上的辅助索引。

Insert Buffer 的非叶节点存放的是查询key, 构造如 space(4字节) + marker(1字节) + offset(4字节)。space表示记录所在表的表空间ID,offset表示页的偏移量。marker用来兼容老版本。

Insert Buffer 叶子几点构造如 space + marker + offset + metadata + records。 space, marker, offset和前述意义相同。 metadata里的 IBUF_REC_OFFSET_COUNT保存了两个字节的整数,用来排序记录进入 Insert Buffer 的顺序。通过这个顺序回访呢个得到记录的正确值。从Insert Buffer 叶子节点的第5列开始,才是实际插入的各个记录。

启用 Insert Buffer索引后,辅助索引页的记录可能被插入到 Insert Buffer B+树中。为了保证每次合并插入缓冲区成功, 必须要有一块地方能标记每个辅助索引页的可用空间。 Insert Buffer采用一个特殊的页来标记,该页的类型为 Insert Buffer Bitmap。每个 Insert Buffer Bitmap页用来追踪个页,也就是个区。每个Insert Buffer Bitmap 页都在个页的第二个页。每个辅助索引页在Bit map中占用4个字节,这里面主要用于表示辅助索引页的可用数量。

合并插入缓冲

Insert Buffer中的记录在以下情况下合并到真正的辅助索引中:

&#; 辅助索引页被读到缓冲池中;

&#; Insert Buffer Bitmap 页追踪到该辅助索引页已无可用空间时;

&#; Master Thread调度时;

这样子,对辅助索引页的多次记录操作通过一次操作合并到了原有的辅助索引页中,从而提高性能。

两次写(Double Write)

InsertBuffer 给 Innodb 存储引擎带来了性能的提升,而两次写带给 Innodb 存储引擎的是数据页的可靠性。

可能会有疑问,如果发生写失败,那么不是可以通过重做日志进行恢复的吗?这的确是一个办法,但是必须知道,重做日志记录的是页的物理操作,如偏移量, 写'aaa'记录。但是,如果这个页已经损坏了,对其进行重做是没有意义的。这意味着,在修改页前,必须有一个正确的页的副本存在,当写入失效发生时,先通过页的副本还原该页,再进行重做,这就是double write。

Double write由两部分组成,一部分是内存中的 double write buffer。 另一部分是在物理磁盘上的共享表空间中的连续个页,大小和内存中(2M)一致。对缓冲池中的页进行刷新时,并不直接写磁盘,而是memcpy到double write buffer. 之后通过 double write buffer 分两次,每次顺序写入共享表空间1M数据,然后马上调用fsync同步磁盘。这个写入因为共享表空间的double write页是连续的,因此开销不是很大。而完成 double write 页的写入后,再将double write buffer中的页写入各个表空间则是离散的写入。

如果操作系统在将页写入磁盘的过程中发生了崩溃。那么恢复时则可以从共享表空间中double write buffer页找到该页的副本。将其复制到表空间再应用重做日志。

自适应HASH索引

Innodb 存储引擎会监控对表上各索引页的查询,如果观察到建立hash索引可以带来速度的提升。则建立hash索引,称之为自适应hash索引(AHI).

AHI有一个要求,即对这个页的连续访问模式必须是一样的. 例如(a, b)这样的联合索引,启访问模式可以使:

WHERE a = xxx

WHERE a = xxx and b = yyy

访问模式一样就是说查询的条件一样。如果交替执行上述的查询操作。则不会建立AHI。

另外,AHI还要求以同一个模式访问了次,页通过该模式访问了N次,其中N = 页中记录 * 1/

刷新邻近页

当刷新一个脏页时,Innodb存储引擎会通过检测该页所在区的所有页,如果是脏页,会一起进行刷新。

异步IO

Innodb 采用异步IO的方式来处理磁盘操作。

Check Point技术

为了避免数据丢失的问题,事物数据库系统一般都采用了write ahead log策略。即事物提交时,先写重做日志,再修改页。

但是重做日志不可能无限增大,缓冲值(未刷新到磁盘的脏页)也不可能无限大。即便真可以无限大,数据库宕机后恢复时间也会很长。所以就需要 Check Point技术,该技术可以解决:

&#; 缩短数据库恢复的时间;

&#; 缓冲池不够用时,可以将脏页刷新到磁盘;

&#; 重做日志不可用时(重做日志都是循环利用的),刷新脏页到磁盘;

数据库宕机后重启时,不需要重做所有的日志了。因为 Check Point之前的页都已经刷新到磁盘,数据库只需对Check Point后的重做日志进行恢复即可。从而大大缩短恢复时间。

对于Innodb 而言,其实通过 LSN ( Log Sequence Number) 来比较版本的。 LSN 是一个8字节的数字。 每个页有LSN, 重做日志有LSN, CheckPoint 也有LSN。可以通过下述命令观察到

以上这篇InnoDb 体系架构和特性详解 (Innodb存储引擎读书笔记总结)就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持积木网。

InnoDB的关键特性-插入缓存,两次写,自适应hash索引详解 InnoDB存储引擎的关键特性包括插入缓冲、两次写(doublewrite)、自适应哈希索引(adaptivehashindex)。这些特性为InnoDB存储引擎带来了更好的性能和更高的

mysql取得datetime类型的数据,后面会跟个.0的实现方法 mysql的数据类型是datetime,数据库里存的数据是--::,传到java这里变成了--::.0,多了个尾巴.0,可以通过以下集中方法来format显示格

mysql服务启动却连接不上的解决方法 mysql服务启动,但是连接不上,如何解决?登陆报错:root@localhost:~#mysql-uroot-pEnterpassword:ERROR(HY):Can'tconnecttolocalMySQLserverthroughsocket'/var/lib/mysql/mysql.soc

标签: innodb底层实现原理

本文链接地址:https://www.jiuchutong.com/biancheng/349914.html 转载请保留说明!

上一篇:浅谈innodb的索引页结构,插入缓冲,自适应哈希索引(innodb数据和索引文件)

下一篇:MySQL优化之InnoDB优化(mysql innode)

  • 个体户超过了核定征收额怎么交税
  • 小产权二手房买卖注意些什么
  • 企业季度所得税计算公式
  • 进项税额加计抵减会计分录
  • 契税减免税特殊规定有哪些?
  • 以前年度损益调整在借方是什么意思
  • 融资租赁担保余值
  • 法人存到公司账户的钱怎么记账
  • 金税盘显示已到锁死期,未到汇总期是什么原因
  • 纳税申报 财务报表利润表
  • 股权转让1元转让
  • 调整上月的生产成本
  • 实际收到股票股利的分录
  • 行政单位拨给下属单位经费会计分录
  • 全额抵扣的发票怎样入账
  • 销售给客户红包,说给的现金,如何把控
  • 社保扣除当月工资还是上个月
  • 税控系统维护费账务处理
  • 企业利息收入要交所得税吗
  • 福利费用属于什么费用
  • 经营性租入的设备是资产吗
  • 母公司并购子公司需要股东会决议吗
  • 金融服务利息税率是多少
  • 收到一笔款在在当月已退回怎么做账?
  • 资产负债表资产总额在哪
  • 结转存货跌价准备冲减主营业务成本
  • 电脑有些进程关不掉
  • 电脑维修中常用的软件
  • linux 匹配字符
  • 代垫费用的进项怎么抵扣
  • 销售货物支付运杂费要交增值税吗
  • php数组函数有哪些
  • 房屋装修各项费用比例
  • win10磁盘碎片整理打不开
  • 应用程序无法正常启动0xc000007b
  • php的缓存文件是什么格式
  • 实现产供销一体化
  • 购买货物收到发票财务报表怎么提现
  • Yii2 rbac权限控制之rule教程详解
  • 文化体育用品批发城有哪些
  • program status
  • 移动端页设计
  • chat ty
  • 营业外支出是什么会计要素
  • 残疾人个人所得税减免怎么填写申报
  • 织梦专题页模板
  • 水电费专用发票模板
  • 应收应付会计分录大全
  • 计提个税和缴纳个税金额不符的原因
  • 成本结账是什么意思
  • 员工为公司垫费合法吗
  • 资本公积金转增股本是利好吿
  • 消费税出口退税吗
  • 未开票州
  • 建筑业纳税人简易征收偷逃增值税
  • etc发票当天可以打印吗
  • 小规模销售免税产品需要交税吗
  • 本期应补退税额是什么意思
  • 有进项无销项如何申报
  • 主营业务收入包括哪些内容
  • win造字软件
  • FastDFS4和Ubuntu12安装及部署步骤
  • coocareservice.exe是病毒吗
  • win10周年版
  • win7电脑显示器颜色不正常怎么办
  • win7系统升级win10教程
  • css基础知识教程
  • js插件写法
  • python常用的安装扩展
  • js 实现复制到粘贴功能
  • 骨骼动画spine
  • android studio安装过程中出现的问题
  • 安卓登录界面布局设计
  • python计算字符串长度的程序
  • 代扣代缴申报表 填表说明
  • 房地产的土地增值税计入哪个科目
  • 个体户增值税申报比对不符怎么处理
  • 江苏省纳税信息查询
  • 企业支付的年度报告审计费
  • 龙岗区龙岗税务局地址
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设