使用golang编写一个并发工作队列


Posted in Golang onMay 08, 2021

其实golang用一个函数可以构建一个并发队列,现在编写一个灵活可控的队列程序

先定义一个工作

type Worker struct {
    ID      int
    RepJobs chan int64
    SM      *SM
    quit    chan bool
}

包含了workid和执行任务的id,上面的SM只是任务具体内容,这个和具体业务相关,大家自己编写自己的SM业务逻辑

然后定义工作池

type workerPool struct {
    workerChan chan *Worker
    workerList []*Worker
}

这个里面定义了一个工作队列的切片,可以自定义工作队列的个数,甚至后期还可以添加work,还定义了一个队列类型的管道。

定义完成过后就可以初始化工作池了

func InitWorkerPool() error {
    n := 3
    WorkerPool = &workerPool{
        workerChan: make(chan *Worker, n),
        workerList: make([]*Worker, 0, n),
    }
    for i := 0; i < n; i++ {
        worker := NewWorker(i)
        WorkerPool.workerList = append(WorkerPool.workerList, worker)
        worker.Start()
        log.Debugf("worker %d started", worker.ID)
    }
    return nil
}

这个里面我写死了worker的个数是3,当然这个可以通过读取配置文件或者参数传递的方式;这个里面逐一启动work

worker.Start(),这个是关键

func (w *Worker) Start() {
    go func() {
        for {
            WorkerPool.workerChan <- w
            select {
            case jobID := <-w.RepJobs:
                log.Debugf("worker: %d, will handle job: %d", w.ID, jobID)
                w.handleRepJob(jobID)
            case q := <-w.quit:
                if q {
                    log.Debugf("worker: %d, will stop.", w.ID)
                    return
                }
            }
        }
    }()
}

这个就是go 启动一个协程,先把自己放到workerChan中,然后不断从w.RepJobs管道中获取任务并执行,如果执行完成后又把自己放回到队列中。

所以如果你要有任务需要执行,放到这个管道中即可

func Dispatch() {
    for {
        select {
        case job := <-jobQueue:
            go func(jobID int64) {
                println("Trying to dispatch job: %d", jobID)
                worker := <-WorkerPool.workerChan
                worker.RepJobs <- jobID
            }(job)
        }
    }
}

从管道中拿出一个worker并把任务id放到worker中去执行。

当然你可以停止worker,甚至可以停止job

func (w *Worker) Stop() {
    go func() {
        w.quit <- true
    }()
}
func (wp *workerPool) StopJobs(jobs []int64) {
    log.Debugf("Works working on jobs: %v will be stopped", jobs)
    for _, id := range jobs {
        for _, w := range wp.workerList {
            if w.SM.JobID == id {
                log.Debugf("found a worker whose job ID is %d, will try to stop it", id)
                w.SM.Stop(id)
            }
        }
    }
}

补充一下,int64和字符串转换。

string到int

int,err:=strconv.Atoi(string)

string到int64

int64, err := strconv.ParseInt(string, 10, 64)

int到string

string:=strconv.Itoa(int)

int64到string

string:=strconv.FormatInt(int64,10)

以上为个人经验,希望能给大家一个参考,也希望大家多多支持三水点靠木。如有错误或未考虑完全的地方,望不吝赐教。

Golang 相关文章推荐
一文读懂go中semaphore(信号量)源码
Apr 03 Golang
go语言map与string的相互转换的实现
Apr 07 Golang
go语言-在mac下brew升级golang
Apr 25 Golang
Go语言中break label与goto label的区别
Apr 28 Golang
使用Golang的channel交叉打印两个数组的操作
Apr 29 Golang
golang slice元素去重操作
Apr 30 Golang
golang日志包logger的用法详解
May 05 Golang
golang gopm get -g -v 无法获取第三方库的解决方案
May 05 Golang
golang 实现并发求和
May 08 Golang
Golang 语言控制并发 Goroutine的方法
Jun 30 Golang
详解Go语言Slice作为函数参数的使用
Jul 02 Golang
GO中sync包自由控制并发示例详解
Aug 05 Golang
Go 在 MongoDB 中常用查询与修改的操作
May 07 #Golang
golang 实现时间戳和时间的转化
May 07 #Golang
Golang Gob编码(gob包的使用详解)
May 07 #Golang
go mod 安装依赖 unkown revision问题的解决方案
解决golang 关于全局变量的坑
May 06 #Golang
Goland使用Go Modules创建/管理项目的操作
解决goland 导入项目后import里的包报红问题
You might like
使用 PHPMAILER 发送邮件实例应用
2012/11/07 PHP
关于PHP堆栈与列队的学习
2013/06/21 PHP
php5.3 注意事项说明
2013/07/01 PHP
php查询mssql出现乱码的解决方法
2014/12/29 PHP
详解 PHP加密解密字符串函数附源码下载
2015/12/18 PHP
PHP利用Socket获取网站的SSL证书与公钥
2017/06/18 PHP
javaScript 数值型和字符串型之间的转换
2009/07/25 Javascript
自己写了一个展开和收起的多更能型的js效果
2013/03/05 Javascript
jQuery实现的原图对比窗帘效果
2014/06/15 Javascript
node.js中的fs.realpathSync方法使用说明
2014/12/16 Javascript
.NET微信公众号开发之创建自定义菜单
2015/07/16 Javascript
javascript入门之数组[新手必看]
2016/11/21 Javascript
JavaScript学习笔记--常用的互动方法
2016/12/07 Javascript
JS绘制微信小程序画布时钟
2016/12/24 Javascript
angular.js 路由及页面传参示例
2017/02/24 Javascript
js中less常用的方法小结
2017/08/09 Javascript
vue-cli创建的项目,配置多页面的实现方法
2018/03/15 Javascript
Nodejs中怎么实现函数的串行执行
2019/03/02 NodeJs
vue.js的简单自动求和计算实例
2019/11/08 Javascript
js 闭包深入理解与实例分析
2020/03/19 Javascript
微信小程序实现导航栏和内容上下联动功能代码
2020/06/29 Javascript
python抓取某汽车网数据解析html存入excel示例
2013/12/04 Python
python3学习之Splash的安装与实例教程
2018/07/09 Python
python中cPickle类使用方法详解
2018/08/27 Python
python 3调用百度OCR API实现剪贴板文字识别
2018/09/04 Python
python实现代码统计器
2019/09/19 Python
Python 基于wxpy库实现微信添加好友功能(简洁)
2019/11/29 Python
如何在 Django 模板中输出 &quot;{{&quot;
2020/01/24 Python
Lombok插件安装(IDEA)及配置jar包使用详解
2020/11/04 Python
亚洲领先的设计购物网站:Pinkoi
2020/11/26 全球购物
电脑租赁公司创业计划书
2014/01/08 职场文书
市场营销策划方案
2014/06/11 职场文书
音乐教师求职信
2014/06/28 职场文书
党的群众路线对照检查材料范文
2014/09/24 职场文书
慰问信模板
2015/02/14 职场文书
辛亥革命观后感
2015/06/02 职场文书