首页
所有分类
TAGS
文字工具 EMOJI BIBLE
数据库 MySQL

MySQL之高可用集群部署及故障切换实现

Posted in MySQL onApril 22, 2021

一、MHA

 1、概念

MySQL之高可用集群部署及故障切换实现

2、MHA 的组成

MySQL之高可用集群部署及故障切换实现

3、MHA 的特点

MySQL之高可用集群部署及故障切换实现

二、搭建MySQL+MHA

思路和准备工作

1、MHA架构
数据库安装
一主两从
MHA搭建

2、故障模拟
模拟主库失效
备选主库成为主库
原故障主库恢复重新加入到MHA成为从库

3、准备4台安装MySQL虚拟机
MHAmanager IP：192.168.221.30
MySQL1 IP：192.168.221.20
MySQL2 IP：192.168.221.100
MySQL3 IP: 192.168.221.110

MySQL之高可用集群部署及故障切换实现

1、关闭防火墙，检测端口是否开启

systemctl stop firewalld
systemctl disable firewalld
setenforce 0
netstat -natp | grep 3306

MySQL之高可用集群部署及故障切换实现

2、修改mysql节点的主机名

mysql1（192.168.221.20）

hostnamectl set-hostname mysql1
su -
hostnamectl set-hostname mysql2
su -
hostnamectl set-hostname mysql3
su -

MySQL之高可用集群部署及故障切换实现

3、修改三台MySQL服务器的主配置文件/etc/my.cnf，并创建命令软链接

MySQL1
vim /etc/my.cnf
[mysqld]
server-id = 1
log_bin = master-bin
log-slave-updates = true

systemctl restart mysqld
ln -s /usr/local/mysql/bin/mysql /usr/sbin/
ln -s /usr/local/mysql/bin/mysqlbinlog /usr/sbin/

MySQL2
vim /etc/my.cnf
server-id = 2  
#server-id = 3  MySQL3则为3，三台服务器 server-id 不能一样
log_bin = master-bin
relay-log = relay-log-bin
relay-log-index = slave-relay-bin.index
systemctl restart mysqld

ln -s /usr/local/mysql/bin/mysql /usr/sbin/
ln -s /usr/local/mysql/bin/mysqlbinlog /usr/sbin/

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

4、配置MySQL一主两从

(1)所有MySQL服务器进行MySQL授权
mysql1（192.168.221.20）
mysql2（192.168.221.100）
mysql3（192.168.221.110）

3台都要配置
mysql -uroot -p123
grant replication slave on *.* to 'myslave'@'192.168.221.%' identified by '123';
grant all privileges on *.* to 'mha'@'192.168.221.%' identified by 'manager';
grant all privileges on *.* to 'mha'@'mysql1' identified by 'manager';
grant all privileges on *.* to 'mha'@'mysql2' identified by 'manager';
grant all privileges on *.* to 'mha'@'mysql3' identified by 'manager';
flush privileges;
show master status;

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

(2)在 Slave1、Slave2 节点执行同步操作
change master to master_host='192.168.221.20',master_user='myslave',master_password='123',master_log_file='master-bin.000005',master_log_pos=1991;

start slave;

show slave status\G
Slave_IO_Running: Yes
Slave_SQL_Running: Yes

#一般 Slave_IO_Running: No 的可能性：
#网络不通
#my.cnf配置有问题
#密码、file文件名、pos偏移量不对
#防火墙没有关闭

MySQL之高可用集群部署及故障切换实现

(3)Slave1、Slave2 节点设置为只读模式
mysql2（192.168.221.100）
mysql3（192.168.221.110）

set global read_only=1;
#改回读写状态set global read_only=0;

MySQL之高可用集群部署及故障切换实现

(4)主从复制验证
mysql1（192.168.221.20）
创建库

create database srs;
use test;
create table test(id int);
insert into test values(1);

mysql2（192.168.221.100）
mysql3（192.168.221.110）
查询库验证

show databases;

MySQL之高可用集群部署及故障切换实现

5、安装 MHA 软件

（1）所有服务器上都安装 MHA 依赖的环境
MHAmanager（192.168.221.30）
mysql1（192.168.221.20）
mysql2（192.168.221.100）
mysql3（192.168.221.110）

首先安装 epel 源，需要在线源安装
再在所有服务器上安装 node 组件
#安装在线源
mv /etc/yum.repos.d/repos.bak/CentOS-* /etc/yum.repos.d/
yum list

yum install epel-release --nogpgcheck -y

yum install -y perl-DBD-MySQL \
perl-Config-Tiny \
perl-Log-Dispatch \
perl-Parallel-ForkManager \
perl-ExtUtils-CBuilder \
perl-ExtUtils-MakeMaker \
perl-CPAN

MySQL之高可用集群部署及故障切换实现

（2）所有服务器安装MHA node软件包
MHAmanager（192.168.221.30）
mysql1（192.168.221.20）
mysql2（192.168.221.100）
mysql3（192.168.221.110）

对于每个操作系统版本不一样，这里 CentOS7.4 必须选择 0.57 版本。
在所有服务器上必须先安装 node 组件，最后在 MHA-manager 节点上安装 manager 组件，因为 manager 依赖 node 组件。
#将软件包mha4mysql-node-0.57.tar.gz放入/opt目录下
cd /opt
tar zxvf mha4mysql-node-0.57.tar.gz
cd mha4mysql-node-0.57
perl Makefile.PL
make && make install

在 MHA manager 节点上安装 manager 组件
将软件包mha4mysql-manager-0.57.tar.gz放入/opt目录下

cd /opt
tar zxvf mha4mysql-manager-0.57.tar.gz
cd mha4mysql-manager-0.57
perl Makefile.PL
make && make install
#node组件安装后也会在/usr/local/bin 下面会生成几个脚本（这些工具通常由 MHAManager 的脚本触发，无需人为操作）
#manager 组件安装后在/usr/local/bin 下面会生成几个工具

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

6、在所有服务器上配置无密码认证

（1）在 manager 节点上配置到所有数据库节点的无密码认证
MHAmanager（192.168.221.30）

ssh-keygen -t rsa 				#一路按回车键
ssh-copy-id 192.168.221.20
ssh-copy-id 192.168.221.100
ssh-copy-id 192.168.221.110

（2）在 mysql1 上配置到数据库节点 mysql2 和 mysql3 的无密码认证 ssh-keygen -t rsa
mysql1（192.168.221.20）

ssh-keygen -t rsa
ssh-copy-id 192.168.221.100
ssh-copy-id 192.168.221.110

（3）在 mysql2 上配置到数据库节点 mysql1 和 mysql3 的无密码认证
mysql2（192.168.221.100）

ssh-keygen -t rsa
ssh-copy-id 192.168.221.20
ssh-copy-id 192.168.221.110

（4）在 mysql3 上配置到数据库节点 mysql1 和 mysql2 的无密码认证
mysql3（192.168.221.110）

ssh-keygen -t rsa
ssh-copy-id 192.168.221.20
ssh-copy-id 192.168.221.100
篇幅太长不予演示

MySQL之高可用集群部署及故障切换实现

7、在 manager 节点上配置 MHA

MHAmanager（192.168.221.30）
（1）在 manager 节点上复制相关脚本到/usr/local/bin 目录
cp -rp /opt/mha4mysql-manager-0.57/samples/scripts /usr/local/bin

#复制后会有四个执行文件
ll /usr/local/bin/scripts/

（2）复制上述的自动切换时 VIP 管理的脚本到 /usr/local/bin 目录，这里使用master_ip_failover脚本来管理 VIP 和故障切换
cp /usr/local/bin/scripts/master_ip_failover /usr/local/bin

#先清空原有内容
echo '' > /usr/local/bin/master_ip_failover

#直接复制并修改vip相关参数
vim /usr/local/bin/master_ip_failover
#!/usr/bin/env perl
use strict;
use warnings FATAL => 'all';

use Getopt::Long;

my (
$command, $ssh_user, $orig_master_host, $orig_master_ip,
$orig_master_port, $new_master_host, $new_master_ip, $new_master_port
);
#############################添加内容部分#########################################
my $vip = '192.168.221.200';							#指定vip的地址
my $brdc = '192.168.221.255';							#指定vip的广播地址
my $ifdev = 'ens33';									#指定vip绑定的网卡
my $key = '1';											#指定vip绑定的虚拟网卡序列号
my $ssh_start_vip = "/sbin/ifconfig ens33:$key $vip";	#代表此变量值为ifconfig ens33:1 192.168.221.200
my $ssh_stop_vip = "/sbin/ifconfig ens33:$key down";	#代表此变量值为ifconfig ens33:1 down
my $exit_code = 0;										#指定退出状态码为0
#my $ssh_start_vip = "/usr/sbin/ip addr add $vip/24 brd $brdc dev $ifdev label $ifdev:$key;/usr/sbin/arping -q -A -c 1 -I $ifdev $vip;iptables -F;";
#my $ssh_stop_vip = "/usr/sbin/ip addr del $vip/24 dev $ifdev label $ifdev:$key";
##################################################################################
GetOptions(
'command=s' => \$command,
'ssh_user=s' => \$ssh_user,
'orig_master_host=s' => \$orig_master_host,
'orig_master_ip=s' => \$orig_master_ip,
'orig_master_port=i' => \$orig_master_port,
'new_master_host=s' => \$new_master_host,
'new_master_ip=s' => \$new_master_ip,
'new_master_port=i' => \$new_master_port,
);

exit &main();

sub main {

print "\n\nIN SCRIPT TEST====$ssh_stop_vip==$ssh_start_vip===\n\n";

if ( $command eq "stop" || $command eq "stopssh" ) {

my $exit_code = 1;
eval {
print "Disabling the VIP on old master: $orig_master_host \n";
&stop_vip();
$exit_code = 0;
};
if ($@) {
warn "Got Error: $@\n";
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "start" ) {

my $exit_code = 10;
eval {
print "Enabling the VIP - $vip on the new master - $new_master_host \n";
&start_vip();
$exit_code = 0;
};
if ($@) {
warn $@;
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "status" ) {
print "Checking the Status of the script.. OK \n";
exit 0;
}
else {
&usage();
exit 1;
}
}
sub start_vip() {
`ssh $ssh_user\@$new_master_host \" $ssh_start_vip \"`;
}
## A simple system call that disable the VIP on the old_master
sub stop_vip() {
`ssh $ssh_user\@$orig_master_host \" $ssh_stop_vip \"`;
}

sub usage {
print
"Usage: master_ip_failover --command=start|stop|stopssh|status --orig_master_host=host --orig_master_ip=ip --orig_master_port=port --new_master_host=host --new_master_ip=ip --new_master_port=port\n";
}

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

mkdir /etc/masterha
cp /opt/mha4mysql-manager-0.57/samples/conf/app1.cnf /etc/masterha
echo '' > /etc/masterha/app1.cnf
vim /etc/masterha/app1.cnf
[server default]
manager_log=/var/log/masterha/app1/manager.log
manager_workdir=/var/log/masterha/app1
master_binlog_dir=/usr/local/mysql/data
master_ip_failover_script=/usr/local/bin/master_ip_failover
master_ip_online_change_script=/usr/local/bin/master_ip_online_change
user=mha
password=manager
ping_interval=1
remote_workdir=/tmp
repl_user=myslave
repl_password=123
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.221.100 -s 192.168.221.110
shutdown_script=""
ssh_user=root

[server1]
hostname=192.168.221.20
port=3306

[server2]
candidate_master=1
check_repl_delay=0
hostname=192.168.221.100
port=3306

[server3]
hostname=192.168.221.110
port=3306

#--------------------------配置文件解释--------------------------------------------------------------------------
[server default]
manager_log=/var/log/masterha/app1/manager.log　　　 #manager日志
manager_workdir=/var/log/masterha/app1.log　　　　	#manager工作目录
master_binlog_dir=/usr/local/mysql/data/　　　　　　　#master保存binlog的位置，这里的路径要与master里配置的binlog的路径一致，以便MHA能找到
master_ip_failover_script=/usr/local/bin/master_ip_failover　          　#设置自动failover时候的切换脚本，也就是上面的那个脚本
master_ip_online_change_script=/usr/local/bin/master_ip_online_change　　#设置手动切换时候的切换脚本
user=mha					#设置监控用户root
password=manager			#设置mysql中root用户的密码，这个密码是前文中创建监控用户的那个密码
ping_interval=1				#设置监控主库，发送ping包的时间间隔1秒，默认是3秒，尝试三次没有回应的时候自动进行failover
remote_workdir=/tmp			#设置远端mysql在发生切换时binlog的保存位置
repl_user=myslave			#设置复制用户的用户
repl_password=123		#设置复制用户的密码
report_script=/usr/local/send_report　　#设置发生切换后发送的报警的脚本
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.221.100 -s 192.168.221.110	#指定检查的从服务器IP地址
shutdown_script=""			#设置故障发生后关闭故障主机脚本（该脚本的主要作用是关闭主机防止发生脑裂,这里没有使用）
ssh_user=root				#设置ssh的登录用户名

[server1]
hostname=192.168.221.20
port=3306

[server2]
hostname=192.168.221.100
port=3306
candidate_master=1
#设置为候选master，设置该参数以后，发生主从切换以后将会将此从库提升为主库，即使这个主库不是集群中最新的slave
check_repl_delay=0
#默认情况下如果一个slave落后master 超过100M的relay logs的话，MHA将不会选择该slave作为一个新的master， 因为对于这个slave的恢复需要花费很长时间；通过设置check_repl_delay=0，MHA触发切换在选择一个新的master的时候将会忽略复制延时，这个参数对于设置了candidate_master=1的主机非常有用，因为这个候选主在切换的过程中一定是新的master

[server3]
hostname=192.168.221.110
port=3306

MySQL之高可用集群部署及故障切换实现
MySQL之高可用集群部署及故障切换实现

8、第一次配置需要在 Master 节点上手动开启虚拟IP

Master（192.168.221.20）

/sbin/ifconfig ens33:1 192.168.221.200/24

MySQL之高可用集群部署及故障切换实现

9、在 manager 节点上测试

（1）在 manager 节点上测试 ssh 无密码认证
MHAmanager（192.168.221.30）

masterha_check_ssh -conf=/etc/masterha/app1.cnf
#如果正常最后会输出 successfully；
#如果失败可以去配置服务器无密码认证的地方看看有没有问题

（2）在 manager 节点上测试 mysql 主从连接情况
MHAmanager（192.168.221.30）
masterha_check_repl -conf=/etc/masterha/app1.cnf
#最后出现 MySQL Replication Health is OK 字样说明正常；
#出现MySQL Replication Health is NOT OK!的，可以去看一下mysql服务器上的软链接是否少创建-->本文位置：2、修改三台MySQL服务器的主配置文件/etc/my.cnf，并创建命令软链接

（3）在 manager 节点上启动 MHA
MHAmanager（192.168.221.30）
nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &
#------------------------组件解释----------------------------------------------------------------------------------
--remove_dead_master_conf：该参数代表当发生主从切换后，老的主库的 ip 将会从配置文件中移除。
--manger_log：日志存放位置。
--ignore_last_failover：在缺省情况下，如果 MHA 检测到连续发生宕机，且两次宕机间隔不足 8 小时的话，则不会进行 Failover， 之所以这样限制是为了避免 ping-pong 效应。该参数代表忽略上次 MHA 触发切换产生的文件，默认情况下，MHA 发生切换后会在日志记目录，也就是上面设置的日志app1.failover.complete文件，下次再次切换的时候如果发现该目录下存在该文件将不允许触发切换，除非在第一次切换后收到删除该文件，为了方便，这里设置为--ignore_last_failover。

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

10、查看相关状态

MHAmanager（192.168.221.30）

查看 MHA 状态，可以看到当前的 master 是 Mysql1 节点。
masterha_check_status --conf=/etc/masterha/app1.cnf

查看 MHA 日志，也以看到当前的 master 是 192.168.221.20
cat /var/log/masterha/app1/manager.log | grep "current master"

查看 Mysql1 的 VIP 地址，查看 Mysql1 的 VIP 地址 192.168.163.200 是否存在，这个 VIP 地址不会因为 manager 节点停止 MHA 服务而消失。
ifconfig

补充：若要关闭 manager 服务，可以使用如下命令。
masterha_stop --conf=/etc/masterha/app1.cnf
或者可以直接采用 kill 进程 ID 的方式关闭。

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

三、故障模拟

1、故障模拟

（1）在 manager 节点上监控观察日志记录
MHAmanager（192.168.221.30）

tail -f /var/log/masterha/app1/manager.log

MySQL之高可用集群部署及故障切换实现

（2）在 Master 节点 Mysql1 上停止mysql服务
mysql1（192.168.221.20）

systemctl stop mysqld
或
pkill -9 mysql
正常自动切换一次后，MHA 进程会退出。HMA 会自动修改 app1.cnf 文件内容，将宕机的 mysql1 节点删除。

MySQL之高可用集群部署及故障切换实现

（3）查看 mysql2 是否接管 VIP
mysql2（192.168.221.100）

ifconfig

MySQL之高可用集群部署及故障切换实现

（4）回到manager 节点上监控观察日志记录

tail -f /var/log/masterha/app1/manager.log

故障切换备选主库的算法：
1、一般判断从库的是从（position/GTID）判断优劣，数据有差异，最接近于master的slave，成为备选主。
2、数据一致的情况下，按照配置文件顺序，选择备选主库。
3、设定有权重（candidate_master=1），按照权重强制指定备选主。
（1）默认情况下如果一个slave落后master 100M的relay logs的话，即使有权重，也会失效。
（2）如果check_repl_delay=0的话，即使落后很多日志，也强制选择其为备选主。

MySQL之高可用集群部署及故障切换实现

2、故障修复

mysql1（192.168.221.20）
（1）修复master

systemctl restart mysqld
netstat -natp | grep 3306

MySQL之高可用集群部署及故障切换实现

mysql2（192.168.221.100）
（2）修复主从

在现主库服务器 Mysql2查看二进制文件和同步点
mysql -uroot -p123 -e 'show master status;'
#在数据库中执行show master status;

在原主库服务器 mysql1 执行同步操作
mysql1（192.168.221.20）
change master to master_host='192.168.221.100',master_user='myslave',master_password='123',master_log_file='master-bin.000001',master_log_pos=1747;

start slave;
show slave status\G

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

（3）在 manager 节点上修改配置文件app1.cnf
MHAmanager（192.168.221.30）

再把这个记录添加进去，因为它检测掉失效时候会自动消失
vim /etc/masterha/app1.cnf
……
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.221.20 -s 192.168.221.110
......
[server1]
hostname=192.168.221.100
port=3306

[server2]
candidate_master=1
check_repl_delay=0
hostname=192.168.221.20
port=3306

[server3]
hostname=192.168.221.110
port=3306

MySQL之高可用集群部署及故障切换实现

（4）在 manager 节点上启动 MHA
MHAmanager（192.168.221.30）

masterha_stop --conf=/etc/masterha/app1.cnf

nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &

masterha_check_status --conf=/etc/masterha/app1.cnf

MySQL之高可用集群部署及故障切换实现

到此这篇关于MySQL之高可用集群部署及故障切换实现的文章就介绍到这了,更多相关MySQL 高可用集群部署内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木！

MySQL之高可用集群部署及故障切换实现

- Author -

荣少吃的少

声明：登载此文出于传递更多信息之目的，并不意味着赞同其观点或证实其描述。

MySQL 相关文章推荐
为什么MySQL 删除表数据 磁盘空间还一直被占用
Oct 16 MySQL
Mysql数据库手动及定时备份步骤
Nov 07 MySQL
SQL基础的查询语句
Nov 11 MySQL
面试中老生常谈的MySQL问答集锦夯实基础
Mar 13 MySQL
MySQL优化及索引解析
Mar 17 MySQL
浅谈MySQL中的六种日志
Mar 23 MySQL
MySQL分区以及建索引的方法总结
Apr 13 MySQL
提高系统的吞吐量解决数据库重复写入问题
Apr 23 MySQL
MySQL sql模式设置引起的问题
May 15 MySQL
MySQL示例讲解数据库约束以及表的设计
Jun 16 MySQL
MySQL新手入门进阶语句汇总
Sep 23 MySQL
mysql序号rownum行号实现方式
Dec 24 MySQL
教你用eclipse连接mysql数据库
MySQL 慢查询日志深入理解
MySQL root密码的重置方法
MySQL性能压力基准测试工具sysbench的使用简介
Apr 21 #MySQL
Mysql MVCC机制原理详解
详解MySQL 用户权限管理
mysql死锁和分库分表问题详解
Apr 16 #MySQL
分块(1) 安卓(1) 循环(3) 查找算法(1) 移动开发(2) 二维数组(2) IDEA(2) 嵌套(1) OpenLayer(1) android studio(3)
You might like
深入PHP操作MongoDB的技术总结
2013/06/02 PHP
关于Anemometer图形化显示MySQL慢日志的工具搭建及使用的详细介绍
2020/07/13 PHP
document.documentElement &amp;&amp; document.documentElement.scrollTop
2007/12/01 Javascript
用JQuery模仿淘宝的图片放大镜显示效果
2011/09/15 Javascript
JavaScript极简入门教程（三）：数组
2014/10/25 Javascript
jQuery选择器源码解读（一）：Sizzle方法
2015/03/31 Javascript
javascript正则表达式中的replace方法详解
2015/04/20 Javascript
angularJS与bootstrap结合实现动态加载弹出提示内容
2015/10/16 Javascript
js闭包用法实例详解
2016/12/13 Javascript
vue.js做一个简单的编辑菜谱功能
2018/05/08 Javascript
一文快速了解JQuery中的AJAX
2019/05/31 jQuery
微信小程序 动态修改页面数据及参数传递过程详解
2019/09/27 Javascript
Angular 多级路由实现登录页面跳转(小白教程)
2019/11/19 Javascript
纯 JS 实现放大缩小拖拽功能(完整代码)
2019/11/25 Javascript
jQuery实现日历效果
2020/09/11 jQuery
[00:34]TI7不朽珍藏III——纯金地穴编织者饰品展示
2017/07/15 DOTA
Python实现对PPT文件进行截图操作的方法
2015/04/28 Python
python检测某个变量是否有定义的方法
2015/05/20 Python
Python使用ftplib实现简易FTP客户端的方法
2015/06/03 Python
Python进程间通信之共享内存详解
2017/10/30 Python
详解K-means算法在Python中的实现
2017/12/05 Python
Python静态类型检查新工具之pyright 使用指南
2019/04/26 Python
python 弹窗提示警告框MessageBox的实例
2019/06/18 Python
python打开windows应用程序的实例
2019/06/28 Python
解决Pytorch 训练与测试时爆显存(out of memory)的问题
2019/08/20 Python
在pycharm中创建django项目的示例代码
2020/05/28 Python
Python requests HTTP验证登录实现流程
2020/11/05 Python
阿迪达斯新加坡官方网站：adidas新加坡
2019/12/06 全球购物
Java平台和其他软件平台有什么不同
2015/06/05 面试题
科室工作个人总结的自我评价
2013/10/29 职场文书
一年级小学生评语
2014/04/22 职场文书
汽车运用工程专业求职信
2014/06/18 职场文书
自愿离婚协议书范文2014
2014/10/12 职场文书
红楼梦读书笔记
2015/06/25 职场文书
读《教育心理学》心得体会
2016/01/22 职场文书
使用golang编写一个并发工作队列
2021/05/08 Golang