使用golang编写一个并发工作队列


Posted in Golang onMay 08, 2021

其实golang用一个函数可以构建一个并发队列,现在编写一个灵活可控的队列程序

先定义一个工作

type Worker struct {
    ID      int
    RepJobs chan int64
    SM      *SM
    quit    chan bool
}

包含了workid和执行任务的id,上面的SM只是任务具体内容,这个和具体业务相关,大家自己编写自己的SM业务逻辑

然后定义工作池

type workerPool struct {
    workerChan chan *Worker
    workerList []*Worker
}

这个里面定义了一个工作队列的切片,可以自定义工作队列的个数,甚至后期还可以添加work,还定义了一个队列类型的管道。

定义完成过后就可以初始化工作池了

func InitWorkerPool() error {
    n := 3
    WorkerPool = &workerPool{
        workerChan: make(chan *Worker, n),
        workerList: make([]*Worker, 0, n),
    }
    for i := 0; i < n; i++ {
        worker := NewWorker(i)
        WorkerPool.workerList = append(WorkerPool.workerList, worker)
        worker.Start()
        log.Debugf("worker %d started", worker.ID)
    }
    return nil
}

这个里面我写死了worker的个数是3,当然这个可以通过读取配置文件或者参数传递的方式;这个里面逐一启动work

worker.Start(),这个是关键

func (w *Worker) Start() {
    go func() {
        for {
            WorkerPool.workerChan <- w
            select {
            case jobID := <-w.RepJobs:
                log.Debugf("worker: %d, will handle job: %d", w.ID, jobID)
                w.handleRepJob(jobID)
            case q := <-w.quit:
                if q {
                    log.Debugf("worker: %d, will stop.", w.ID)
                    return
                }
            }
        }
    }()
}

这个就是go 启动一个协程,先把自己放到workerChan中,然后不断从w.RepJobs管道中获取任务并执行,如果执行完成后又把自己放回到队列中。

所以如果你要有任务需要执行,放到这个管道中即可

func Dispatch() {
    for {
        select {
        case job := <-jobQueue:
            go func(jobID int64) {
                println("Trying to dispatch job: %d", jobID)
                worker := <-WorkerPool.workerChan
                worker.RepJobs <- jobID
            }(job)
        }
    }
}

从管道中拿出一个worker并把任务id放到worker中去执行。

当然你可以停止worker,甚至可以停止job

func (w *Worker) Stop() {
    go func() {
        w.quit <- true
    }()
}
func (wp *workerPool) StopJobs(jobs []int64) {
    log.Debugf("Works working on jobs: %v will be stopped", jobs)
    for _, id := range jobs {
        for _, w := range wp.workerList {
            if w.SM.JobID == id {
                log.Debugf("found a worker whose job ID is %d, will try to stop it", id)
                w.SM.Stop(id)
            }
        }
    }
}

补充一下,int64和字符串转换。

string到int

int,err:=strconv.Atoi(string)

string到int64

int64, err := strconv.ParseInt(string, 10, 64)

int到string

string:=strconv.Itoa(int)

int64到string

string:=strconv.FormatInt(int64,10)

以上为个人经验,希望能给大家一个参考,也希望大家多多支持三水点靠木。如有错误或未考虑完全的地方,望不吝赐教。

Golang 相关文章推荐
golang interface判断为空nil的实现代码
Apr 24 Golang
go:垃圾回收GC触发条件详解
Apr 24 Golang
Go语言中的UTF-8实现
Apr 26 Golang
关于golang高并发的实现与注意事项说明
May 08 Golang
再次探讨go实现无限 buffer 的 channel方法
Jun 13 Golang
K8s部署发布Golang应用程序的实现方法
Jul 16 Golang
Golang并发操作中常见的读写锁详析
Aug 30 Golang
Golang 1.18 多模块Multi-Module工作区模式的新特性
Apr 11 Golang
golang定时器
Apr 14 Golang
Golang Elasticsearches 批量修改查询及发送MQ
Apr 19 Golang
实现GO语言对数组切片去重
Apr 20 Golang
Golang 实现 WebSockets 之创建 WebSockets
Apr 24 Golang
Go 在 MongoDB 中常用查询与修改的操作
May 07 #Golang
golang 实现时间戳和时间的转化
May 07 #Golang
Golang Gob编码(gob包的使用详解)
May 07 #Golang
go mod 安装依赖 unkown revision问题的解决方案
解决golang 关于全局变量的坑
May 06 #Golang
Goland使用Go Modules创建/管理项目的操作
解决goland 导入项目后import里的包报红问题
You might like
PHP 异步执行方法,模拟多线程的应用分析
2013/06/03 PHP
详解PHP的Yii框架的运行机制及其路由功能
2016/03/17 PHP
jQuery初学:find()方法及children方法的区别分析
2011/01/31 Javascript
js实现checkbox全选和反选示例
2014/05/01 Javascript
Javascript与jQuery方法的隐藏与显示
2015/01/19 Javascript
莱鸟介绍javascript onclick事件
2016/01/06 Javascript
javascript鼠标右键菜单自定义效果
2020/12/08 Javascript
基于JavaScript实现购物网站商品放大镜效果
2016/09/06 Javascript
基于iScroll实现内容滚动效果
2018/03/21 Javascript
JS二级菜单不同实现方法分析【4种方法】
2018/12/21 Javascript
Vue实现的父组件向子组件传值功能示例
2019/01/19 Javascript
微信小程序textarea层级过高的解决方法
2019/03/04 Javascript
JavaScript实现随机点名器实例详解
2019/05/07 Javascript
vue-cli webpack配置文件分析
2019/05/20 Javascript
在Vue mounted方法中使用data变量详解
2019/11/05 Javascript
利用JavaScript模拟京东按键输入功能
2020/12/01 Javascript
[02:36]DOTA2英雄基础教程 斯拉克
2013/11/29 DOTA
python如何在终端里面显示一张图片
2016/08/17 Python
Python实现的批量修改文件后缀名操作示例
2018/12/07 Python
Python网络爬虫之爬取微博热搜
2019/04/18 Python
详解如何从TensorFlow的mnist数据集导出手写体数字图片
2019/08/05 Python
OpenCV里的imshow()和Matplotlib.pyplot的imshow()的实现
2019/11/25 Python
打印tensorflow恢复模型中所有变量与操作节点方式
2020/05/26 Python
英国最大的滑板品牌选择:Route One
2019/09/22 全球购物
巴西本土电商平台:Americanas
2020/06/21 全球购物
出纳岗位职责
2013/11/09 职场文书
市场营销求职信范文
2014/02/21 职场文书
目标管理责任书
2014/04/15 职场文书
小学教师个人总结
2015/02/05 职场文书
房屋维修申请报告
2015/05/18 职场文书
护士自荐信范文(2016推荐篇)
2016/01/28 职场文书
2016年主题党日活动总结
2016/04/05 职场文书
Python中for后接else的语法使用
2021/05/18 Python
php实现自动生成验证码的实例讲解
2021/11/17 PHP
Redis实现订单过期删除的方法步骤
2022/06/05 Redis
MySQL中正则表达式(REGEXP)使用详解
2022/07/07 MySQL