侯体宗的博客
  • 首页
  • Hyperf版
  • beego仿版
  • 人生(杂谈)
  • 技术
  • 关于我
  • 更多分类
    • 文件下载
    • 文字修仙
    • 中国象棋ai
    • 群聊
    • 九宫格抽奖
    • 拼图
    • 消消乐
    • 相册

在go语言中实现使用异步方式读取MySQL数据流程步骤及代码示例

Go  /  管理员 发布于 1年前   487

在Go语言开发中如果出现在数据量很多的情况,我们可以使用异步方式读取MySQL数据库查询数据。

下面来看看如何实现异步读取MySQL数据库查询数据的?


实现异步读取MySQL数据库查询数据函数实现

示例代码:

func getTest(guid, start, end, table string, db *database.GormMysqlDB, model interface{}) ([]LogResp, error) {
    // 检查 model 的实际类型
    var esct ExtensionServiceClick
    var esit ExtensionServiceImpress
  //类型断言
    switch v := model.(type) {
    case ExtensionServiceClick:
       esct = v
    case ExtensionServiceImpress:
       esit = v
    default:
       return nil, fmt.Errorf("未知的结构体类型")
    }
    // 继续处理其他逻辑
    var totalRecords int64
    err := db.ReadTrackingDB.Table(table).Model(&esct).Count(&totalRecords).Error
    if err != nil {
       return nil, err
    }
    fmt.Println("读取总数完成:", table, ": ", totalRecords, esit)
    // 定义每个 Goroutine 处理的记录范围
    recordPerPage := 1000
    numWorkers := 5
    pageSize := 0
    if totalRecords < 5000 {
       pageSize = 1
    } else {
       pageSize = int(totalRecords) / recordPerPage / numWorkers
    }
    // 使用 WaitGroup 等待所有 Goroutine 完成
    var wg sync.WaitGroup
    wg.Add(numWorkers)
    // 使用 Channel 传递记录给主 Goroutine
    recordCh := make(chan interface{})
    // 启动多个 Goroutine 并发读取表数据
    for i := 0; i < numWorkers; i++ {
       go func(offset int) {
          defer wg.Done()
          var records []LogInfo
          // 执行查询语句,读取数据
          err := db.ReadTrackingDB.Table(table).Model(&LogInfo{}).Where("create_time >= ? and create_time <= ?", start, end).Offset(offset * pageSize * recordPerPage).Limit(pageSize * recordPerPage).Find(&records).Error
          if err != nil {
             fmt.Println("查询数据失败:", err)
             return
          }
          for _, record := range records {
             recordCh <- record
          }
       }(i)
    }
    logRsp := make([]LogResp, 0)
    // 启动一个 Goroutine 用于接收并处理数据
    go func() {
       for record := range recordCh {
          // 处理记录
          log := LogResp{
             Time:   timeToStr(record.CreateTime),
             Table:  table,
             Detail: record.Extra,
          }
          logRsp = append(logRsp, log)
          fmt.Println("log:", log, "record:", record)
       }
    }()
    // 等待所有 Goroutine 完成
    wg.Wait()
    close(recordCh)
    fmt.Println("logRsp:", logRsp)
    return nil, nil
}

这段代码是一个函数getTest,其目的是从数据库中读取数据并进行处理。

函数接受一些参数,包括 guid、start、end、table、db 和 model,返回一个 []LogResp 类型的切片和一个错误。


代码的主要逻辑如下:

1.首先,通过类型断言将 model 转换为具体的结构体类型 ExtensionServiceClick 或 ExtensionServiceImpress。

如果 model 不是这两种类型之一,则返回一个错误。

然后,使用给定的数据库连接 db 执行查询语句来获取总记录数,并将结果存储在 totalRecords 变量中。

接下来,根据总记录数计算每个 Goroutine 处理的记录范围。

在这里,每个 Goroutine 处理的记录数量由 recordPerPage、numWorkers 和 pageSize 决定。


2.使用 sync.WaitGroup 和 chan 实现并发读取表数据。

首先,创建一个等待组 wg,并使用 wg.Add(numWorkers) 将等待组的计数器设置为 numWorkers。

然后,创建一个 recordCh 通道用于传递记录给主 Goroutine。


3.启动多个 Goroutine 并发读取表数据。

每个 Goroutine 执行查询语句,读取数据,并将每条记录发送到 recordCh 通道中。


4.启动一个 Goroutine 用于接收并处理数据。

该 Goroutine 循环从 recordCh 通道中接收记录,并将其处理后存储在 logRsp 切片中。


5.最后,使用 wg.Wait() 等待所有 Goroutine 完成,并关闭 recordCh 通道。

函数返回 logRsp 切片和一个 nil 错误。


总结

这段代码通过并发读取数据库中的数据,将处理后的结果存储在 logRsp 切片中,并返回给调用方。

使用 sync.WaitGroup 和 chan 可以实现并发的数据处理和同步。


  • 上一条:
    使用Laravel Lift扩展包提升您的Eloquent模型
    下一条:
    在go语言中学习并发性编程知识流程步骤
  • 昵称:

    邮箱:

    0条评论 (评论内容有缓存机制,请悉知!)
    最新最热
    • 分类目录
    • 人生(杂谈)
    • 技术
    • linux
    • Java
    • php
    • 框架(架构)
    • 前端
    • ThinkPHP
    • 数据库
    • 微信(小程序)
    • Laravel
    • Redis
    • Docker
    • Go
    • swoole
    • Windows
    • Python
    • 苹果(mac/ios)
    • 相关文章
    • 在go中实现一个常用的先进先出的缓存淘汰算法示例代码(0个评论)
    • 在go+gin中使用"github.com/skip2/go-qrcode"实现url转二维码功能(0个评论)
    • 在go语言中使用api.geonames.org接口实现根据国际邮政编码获取地址信息功能(1个评论)
    • 在go语言中使用github.com/signintech/gopdf实现生成pdf分页文件功能(0个评论)
    • 在go语言中使用github.com/signintech/gopdf实现生成pdf文件功能(0个评论)
    • 近期文章
    • 智能合约Solidity学习CryptoZombie二课:让你的僵尸猎食(0个评论)
    • 智能合约Solidity学习CryptoZombie第一课:生成一只你的僵尸(0个评论)
    • 在go中实现一个常用的先进先出的缓存淘汰算法示例代码(0个评论)
    • 在go+gin中使用"github.com/skip2/go-qrcode"实现url转二维码功能(0个评论)
    • 在go语言中使用api.geonames.org接口实现根据国际邮政编码获取地址信息功能(1个评论)
    • 在go语言中使用github.com/signintech/gopdf实现生成pdf分页文件功能(0个评论)
    • gmail发邮件报错:534 5.7.9 Application-specific password required...解决方案(0个评论)
    • 欧盟关于强迫劳动的规定的官方举报渠道及官方举报网站(0个评论)
    • 在go语言中使用github.com/signintech/gopdf实现生成pdf文件功能(0个评论)
    • Laravel从Accel获得5700万美元A轮融资(0个评论)
    • 近期评论
    • 122 在

      学历:一种延缓就业设计,生活需求下的权衡之选中评论 工作几年后,报名考研了,到现在还没认真学习备考,迷茫中。作为一名北漂互联网打工人..
    • 123 在

      Clash for Windows作者删库跑路了,github已404中评论 按理说只要你在国内,所有的流量进出都在监控范围内,不管你怎么隐藏也没用,想搞你分..
    • 原梓番博客 在

      在Laravel框架中使用模型Model分表最简单的方法中评论 好久好久都没看友情链接申请了,今天刚看,已经添加。..
    • 博主 在

      佛跳墙vpn软件不会用?上不了网?佛跳墙vpn常见问题以及解决办法中评论 @1111老铁这个不行了,可以看看近期评论的其他文章..
    • 1111 在

      佛跳墙vpn软件不会用?上不了网?佛跳墙vpn常见问题以及解决办法中评论 网站不能打开,博主百忙中能否发个APP下载链接,佛跳墙或极光..
    • 2016-10
    • 2017-09
    • 2020-03
    • 2020-05
    • 2020-06
    • 2020-07
    • 2020-12
    • 2021-01
    • 2021-05
    • 2021-06
    • 2021-07
    • 2021-08
    • 2021-10
    • 2021-11
    • 2021-12
    • 2022-01
    • 2022-02
    • 2022-03
    • 2022-04
    • 2022-05
    • 2022-06
    • 2022-07
    • 2022-08
    • 2022-09
    • 2022-10
    • 2022-11
    • 2022-12
    • 2023-01
    • 2023-02
    • 2023-03
    • 2023-04
    • 2023-05
    • 2023-06
    • 2023-07
    • 2023-08
    • 2023-09
    • 2023-10
    • 2023-11
    • 2023-12
    • 2024-01
    • 2024-02
    • 2024-03
    • 2024-04
    • 2024-05
    • 2024-06
    • 2024-07
    • 2024-08
    • 2024-11
    • 2025-02
    • 2025-04
    • 2025-05
    • 2025-06
    Top

    Copyright·© 2019 侯体宗版权所有· 粤ICP备20027696号 PHP交流群

    侯体宗的博客