侯体宗的博客
  • 首页
  • Hyperf版
  • beego仿版
  • 人生(杂谈)
  • 技术
  • 关于我
  • 更多分类
    • 文件下载
    • 文字修仙
    • 群聊
    • 九宫格抽奖
    • 拼图
    • 消消乐
    • 相册

什么情况需要考虑mysql分表及分表场景浅析

数据库  /  管理员 发布于 2星期前   34

最近看到公司的其中一个数据库用户表每个月都要几百万的新用户数据增加,目前单表已经是两千多万了。所以找了 DBA 讨论,发现以前学的知识,以及网上的一些资料其实说的并不是很正确,

比如 :

mysql 单表不建议超过一千万,我司 DBA 数据规范建议是单表最多不超过五千万。

DBA 认为单看数据表的行数来决定分不分表是不正确。


结合自己的知识和 DBA 的建议,记录一下需要分表的场景:

1. 表字段多,部分字段不经常用,使用 show index from tablename 查看索引状态;

2. 表数据占物理空间大;

3. 数据库服务器性能问题,使用 show processlist 查看当前连接状态,是否有慢 sql;

4. 业务查询较多,查询慢,使用 explain 查询 sql 是否使用索引;

5. 业务受到影响,不满足日常需求;

分表方式有水平分表,垂直分表。

常用的水平分表都是 RANGE 、一致性 HASH 算法 、取模几种方式。

分表之后,业务代码、架构也需要调整,比如引入中间件,否则分页,排序,事务都无法处理。


示例场景分享:

我2020年开发的一个支付系统MySQL按月水平分表的例子,

当时每天有 10 万笔订单,单表已经 3000 多万的数据,常用查询字段订单号、订单状态、创建时间、商户 id、字段已经有添加索引了,

查询性能比较差,一个查询要 2-3 秒。


以下是技术升级改造处理过程:


1. 原有表名为 orders,批量创建一年的分表,
按订单创建时间的月份创建,表名为 orders_202001 orders_202002 以此类推,
订单流水表也是类似。

2. 创建订单时按获取创建时间加表名,得到分表名称写入数据,
创建时间也作为订单号的前缀,根据订单号查询时也能获取到分表名称

3. 将管理后台涉及查询的接口继续改造,添加限制条件,最多只能查询 2 个月时间内的订单,
超出的分多次查询,调研了金融类项目都有查询时间限制,
可能也是做了水平分表,避免分表之后需要查询所有数据表,查询性能比没有分表更差,
查询订单数据时,我们可以使用 UNION ALL 操作符将不同分表的数据合并在一起。


分表之后的业务价值有两点:

1. 查询性能提升、用户体验更佳。

2. 节省服务器成本,如果没有分表,数据库服务器升级配置也可以满足,但是成本更高了。


转:

https://learnku.com/articles/77345

  • 上一条:
    Laravel 10.10版本发布
    下一条:
    在go语言中实现对一个程序的退出,终止或中止操作示例
  • 昵称:

    邮箱:

    0条评论 (评论内容有缓存机制,请悉知!)
    最新最热
    • 分类目录
    • 人生(杂谈)
    • 技术
    • linux
    • Java
    • php
    • 框架(架构)
    • 前端
    • ThinkPHP
    • 数据库
    • 微信(小程序)
    • Laravel
    • Redis
    • Docker
    • Go
    • swoole
    • Windows
    • Python
    • 苹果(mac/ios)
    • 相关文章
    • 在mysql中查询一个表中1至10000当中不存在的id示例(0个评论)
    • 什么情况需要考虑mysql分表及分表场景浅析(0个评论)
    • 在mysql中通过binlog + sql定位是哪台服务器的常驻进程执行了SQL流程步骤(0个评论)
    • mysql5.7中实现分区表及分区where in查询示例及分区分表对比浅析(0个评论)
    • mysql中sql_mode的各模式浅析(0个评论)
    • 近期文章
    • 在go语言中以邮件标题中获取SPF和DMARC,来判断是否为垃圾邮件之垃圾邮件过滤器功能实现(0个评论)
    • 在go语言中使用attr字段标签提取XML属性数据示例(0个评论)
    • 在laravel中介绍一个生成假数据的PHP库:FakerPHP(0个评论)
    • 在laravel框架中对环境配置文件的加载过程步骤浅析(0个评论)
    • Laravel 10.12版本发布(0个评论)
    • 在go语言中如何记录每个HTTP请求到你的Web服务器、日志记录器?(0个评论)
    • 在Go语言中如何查找一个IP地址的网络地址?(0个评论)
    • ELK + Filebeat 搭建日志系统流程步骤(0个评论)
    • 在laravel中以curl的方式请求京东联盟api获取数据流程步骤(0个评论)
    • 在go语言中使用gin框架-中间件gin.BasicAuth()实现账号密码方式认证示例(0个评论)
    • 近期评论
    • 博主 在

      2023年国务院办公厅春节放假通知:1月21日起休7天中评论 @ xiaoB 你只管努力,剩下的叫给天意;天若有情天亦老,..
    • xiaoB 在

      2023年国务院办公厅春节放假通知:1月21日起休7天中评论 会不会春节放假后又阳一次?..
    • BUG4 在

      你翻墙过吗?国内使用vpn翻墙可能会被网警抓,你需了解的事中评论 不是吧?..
    • 博主 在

      go语言+beego框架中获取get,post请求的所有参数中评论 @ t1  直接在router.go文件中配就ok..
    • Jade 在

      如何在MySQL查询中获得当月记录中评论 Dear zongscan.com team, We can skyroc..
    • 2017-06
    • 2017-08
    • 2017-09
    • 2017-10
    • 2017-11
    • 2018-01
    • 2018-05
    • 2018-10
    • 2018-11
    • 2020-02
    • 2020-03
    • 2020-04
    • 2020-05
    • 2020-06
    • 2020-07
    • 2020-08
    • 2020-09
    • 2021-02
    • 2021-04
    • 2021-07
    • 2021-08
    • 2021-11
    • 2021-12
    • 2022-02
    • 2022-03
    • 2022-05
    • 2022-06
    • 2022-07
    • 2022-08
    • 2022-09
    • 2022-10
    • 2022-11
    • 2022-12
    • 2023-01
    • 2023-03
    • 2023-04
    • 2023-05
    Top

    Copyright·© 2019 侯体宗版权所有· 粤ICP备20027696号 PHP交流群

    侯体宗的博客