首页
所有分类
TAGS
文字工具 EMOJI BIBLE
数据库 MySQL

MySQL之高可用集群部署及故障切换实现

Posted in MySQL onApril 22, 2021

一、MHA

 1、概念

MySQL之高可用集群部署及故障切换实现

2、MHA 的组成

MySQL之高可用集群部署及故障切换实现

3、MHA 的特点

MySQL之高可用集群部署及故障切换实现

二、搭建MySQL+MHA

思路和准备工作

1、MHA架构
数据库安装
一主两从
MHA搭建

2、故障模拟
模拟主库失效
备选主库成为主库
原故障主库恢复重新加入到MHA成为从库

3、准备4台安装MySQL虚拟机
MHAmanager IP：192.168.221.30
MySQL1 IP：192.168.221.20
MySQL2 IP：192.168.221.100
MySQL3 IP: 192.168.221.110

MySQL之高可用集群部署及故障切换实现

1、关闭防火墙，检测端口是否开启

systemctl stop firewalld
systemctl disable firewalld
setenforce 0
netstat -natp | grep 3306

MySQL之高可用集群部署及故障切换实现

2、修改mysql节点的主机名

mysql1（192.168.221.20）

hostnamectl set-hostname mysql1
su -
hostnamectl set-hostname mysql2
su -
hostnamectl set-hostname mysql3
su -

MySQL之高可用集群部署及故障切换实现

3、修改三台MySQL服务器的主配置文件/etc/my.cnf，并创建命令软链接

MySQL1
vim /etc/my.cnf
[mysqld]
server-id = 1
log_bin = master-bin
log-slave-updates = true

systemctl restart mysqld
ln -s /usr/local/mysql/bin/mysql /usr/sbin/
ln -s /usr/local/mysql/bin/mysqlbinlog /usr/sbin/

MySQL2
vim /etc/my.cnf
server-id = 2  
#server-id = 3  MySQL3则为3，三台服务器 server-id 不能一样
log_bin = master-bin
relay-log = relay-log-bin
relay-log-index = slave-relay-bin.index
systemctl restart mysqld

ln -s /usr/local/mysql/bin/mysql /usr/sbin/
ln -s /usr/local/mysql/bin/mysqlbinlog /usr/sbin/

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

4、配置MySQL一主两从

(1)所有MySQL服务器进行MySQL授权
mysql1（192.168.221.20）
mysql2（192.168.221.100）
mysql3（192.168.221.110）

3台都要配置
mysql -uroot -p123
grant replication slave on *.* to 'myslave'@'192.168.221.%' identified by '123';
grant all privileges on *.* to 'mha'@'192.168.221.%' identified by 'manager';
grant all privileges on *.* to 'mha'@'mysql1' identified by 'manager';
grant all privileges on *.* to 'mha'@'mysql2' identified by 'manager';
grant all privileges on *.* to 'mha'@'mysql3' identified by 'manager';
flush privileges;
show master status;

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

(2)在 Slave1、Slave2 节点执行同步操作
change master to master_host='192.168.221.20',master_user='myslave',master_password='123',master_log_file='master-bin.000005',master_log_pos=1991;

start slave;

show slave status\G
Slave_IO_Running: Yes
Slave_SQL_Running: Yes

#一般 Slave_IO_Running: No 的可能性：
#网络不通
#my.cnf配置有问题
#密码、file文件名、pos偏移量不对
#防火墙没有关闭

MySQL之高可用集群部署及故障切换实现

(3)Slave1、Slave2 节点设置为只读模式
mysql2（192.168.221.100）
mysql3（192.168.221.110）

set global read_only=1;
#改回读写状态set global read_only=0;

MySQL之高可用集群部署及故障切换实现

(4)主从复制验证
mysql1（192.168.221.20）
创建库

create database srs;
use test;
create table test(id int);
insert into test values(1);

mysql2（192.168.221.100）
mysql3（192.168.221.110）
查询库验证

show databases;

MySQL之高可用集群部署及故障切换实现

5、安装 MHA 软件

（1）所有服务器上都安装 MHA 依赖的环境
MHAmanager（192.168.221.30）
mysql1（192.168.221.20）
mysql2（192.168.221.100）
mysql3（192.168.221.110）

首先安装 epel 源，需要在线源安装
再在所有服务器上安装 node 组件
#安装在线源
mv /etc/yum.repos.d/repos.bak/CentOS-* /etc/yum.repos.d/
yum list

yum install epel-release --nogpgcheck -y

yum install -y perl-DBD-MySQL \
perl-Config-Tiny \
perl-Log-Dispatch \
perl-Parallel-ForkManager \
perl-ExtUtils-CBuilder \
perl-ExtUtils-MakeMaker \
perl-CPAN

MySQL之高可用集群部署及故障切换实现

（2）所有服务器安装MHA node软件包
MHAmanager（192.168.221.30）
mysql1（192.168.221.20）
mysql2（192.168.221.100）
mysql3（192.168.221.110）

对于每个操作系统版本不一样，这里 CentOS7.4 必须选择 0.57 版本。
在所有服务器上必须先安装 node 组件，最后在 MHA-manager 节点上安装 manager 组件，因为 manager 依赖 node 组件。
#将软件包mha4mysql-node-0.57.tar.gz放入/opt目录下
cd /opt
tar zxvf mha4mysql-node-0.57.tar.gz
cd mha4mysql-node-0.57
perl Makefile.PL
make && make install

在 MHA manager 节点上安装 manager 组件
将软件包mha4mysql-manager-0.57.tar.gz放入/opt目录下

cd /opt
tar zxvf mha4mysql-manager-0.57.tar.gz
cd mha4mysql-manager-0.57
perl Makefile.PL
make && make install
#node组件安装后也会在/usr/local/bin 下面会生成几个脚本（这些工具通常由 MHAManager 的脚本触发，无需人为操作）
#manager 组件安装后在/usr/local/bin 下面会生成几个工具

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

6、在所有服务器上配置无密码认证

（1）在 manager 节点上配置到所有数据库节点的无密码认证
MHAmanager（192.168.221.30）

ssh-keygen -t rsa 				#一路按回车键
ssh-copy-id 192.168.221.20
ssh-copy-id 192.168.221.100
ssh-copy-id 192.168.221.110

（2）在 mysql1 上配置到数据库节点 mysql2 和 mysql3 的无密码认证 ssh-keygen -t rsa
mysql1（192.168.221.20）

ssh-keygen -t rsa
ssh-copy-id 192.168.221.100
ssh-copy-id 192.168.221.110

（3）在 mysql2 上配置到数据库节点 mysql1 和 mysql3 的无密码认证
mysql2（192.168.221.100）

ssh-keygen -t rsa
ssh-copy-id 192.168.221.20
ssh-copy-id 192.168.221.110

（4）在 mysql3 上配置到数据库节点 mysql1 和 mysql2 的无密码认证
mysql3（192.168.221.110）

ssh-keygen -t rsa
ssh-copy-id 192.168.221.20
ssh-copy-id 192.168.221.100
篇幅太长不予演示

MySQL之高可用集群部署及故障切换实现

7、在 manager 节点上配置 MHA

MHAmanager（192.168.221.30）
（1）在 manager 节点上复制相关脚本到/usr/local/bin 目录
cp -rp /opt/mha4mysql-manager-0.57/samples/scripts /usr/local/bin

#复制后会有四个执行文件
ll /usr/local/bin/scripts/

（2）复制上述的自动切换时 VIP 管理的脚本到 /usr/local/bin 目录，这里使用master_ip_failover脚本来管理 VIP 和故障切换
cp /usr/local/bin/scripts/master_ip_failover /usr/local/bin

#先清空原有内容
echo '' > /usr/local/bin/master_ip_failover

#直接复制并修改vip相关参数
vim /usr/local/bin/master_ip_failover
#!/usr/bin/env perl
use strict;
use warnings FATAL => 'all';

use Getopt::Long;

my (
$command, $ssh_user, $orig_master_host, $orig_master_ip,
$orig_master_port, $new_master_host, $new_master_ip, $new_master_port
);
#############################添加内容部分#########################################
my $vip = '192.168.221.200';							#指定vip的地址
my $brdc = '192.168.221.255';							#指定vip的广播地址
my $ifdev = 'ens33';									#指定vip绑定的网卡
my $key = '1';											#指定vip绑定的虚拟网卡序列号
my $ssh_start_vip = "/sbin/ifconfig ens33:$key $vip";	#代表此变量值为ifconfig ens33:1 192.168.221.200
my $ssh_stop_vip = "/sbin/ifconfig ens33:$key down";	#代表此变量值为ifconfig ens33:1 down
my $exit_code = 0;										#指定退出状态码为0
#my $ssh_start_vip = "/usr/sbin/ip addr add $vip/24 brd $brdc dev $ifdev label $ifdev:$key;/usr/sbin/arping -q -A -c 1 -I $ifdev $vip;iptables -F;";
#my $ssh_stop_vip = "/usr/sbin/ip addr del $vip/24 dev $ifdev label $ifdev:$key";
##################################################################################
GetOptions(
'command=s' => \$command,
'ssh_user=s' => \$ssh_user,
'orig_master_host=s' => \$orig_master_host,
'orig_master_ip=s' => \$orig_master_ip,
'orig_master_port=i' => \$orig_master_port,
'new_master_host=s' => \$new_master_host,
'new_master_ip=s' => \$new_master_ip,
'new_master_port=i' => \$new_master_port,
);

exit &main();

sub main {

print "\n\nIN SCRIPT TEST====$ssh_stop_vip==$ssh_start_vip===\n\n";

if ( $command eq "stop" || $command eq "stopssh" ) {

my $exit_code = 1;
eval {
print "Disabling the VIP on old master: $orig_master_host \n";
&stop_vip();
$exit_code = 0;
};
if ($@) {
warn "Got Error: $@\n";
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "start" ) {

my $exit_code = 10;
eval {
print "Enabling the VIP - $vip on the new master - $new_master_host \n";
&start_vip();
$exit_code = 0;
};
if ($@) {
warn $@;
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "status" ) {
print "Checking the Status of the script.. OK \n";
exit 0;
}
else {
&usage();
exit 1;
}
}
sub start_vip() {
`ssh $ssh_user\@$new_master_host \" $ssh_start_vip \"`;
}
## A simple system call that disable the VIP on the old_master
sub stop_vip() {
`ssh $ssh_user\@$orig_master_host \" $ssh_stop_vip \"`;
}

sub usage {
print
"Usage: master_ip_failover --command=start|stop|stopssh|status --orig_master_host=host --orig_master_ip=ip --orig_master_port=port --new_master_host=host --new_master_ip=ip --new_master_port=port\n";
}

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

mkdir /etc/masterha
cp /opt/mha4mysql-manager-0.57/samples/conf/app1.cnf /etc/masterha
echo '' > /etc/masterha/app1.cnf
vim /etc/masterha/app1.cnf
[server default]
manager_log=/var/log/masterha/app1/manager.log
manager_workdir=/var/log/masterha/app1
master_binlog_dir=/usr/local/mysql/data
master_ip_failover_script=/usr/local/bin/master_ip_failover
master_ip_online_change_script=/usr/local/bin/master_ip_online_change
user=mha
password=manager
ping_interval=1
remote_workdir=/tmp
repl_user=myslave
repl_password=123
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.221.100 -s 192.168.221.110
shutdown_script=""
ssh_user=root

[server1]
hostname=192.168.221.20
port=3306

[server2]
candidate_master=1
check_repl_delay=0
hostname=192.168.221.100
port=3306

[server3]
hostname=192.168.221.110
port=3306

#--------------------------配置文件解释--------------------------------------------------------------------------
[server default]
manager_log=/var/log/masterha/app1/manager.log　　　 #manager日志
manager_workdir=/var/log/masterha/app1.log　　　　	#manager工作目录
master_binlog_dir=/usr/local/mysql/data/　　　　　　　#master保存binlog的位置，这里的路径要与master里配置的binlog的路径一致，以便MHA能找到
master_ip_failover_script=/usr/local/bin/master_ip_failover　          　#设置自动failover时候的切换脚本，也就是上面的那个脚本
master_ip_online_change_script=/usr/local/bin/master_ip_online_change　　#设置手动切换时候的切换脚本
user=mha					#设置监控用户root
password=manager			#设置mysql中root用户的密码，这个密码是前文中创建监控用户的那个密码
ping_interval=1				#设置监控主库，发送ping包的时间间隔1秒，默认是3秒，尝试三次没有回应的时候自动进行failover
remote_workdir=/tmp			#设置远端mysql在发生切换时binlog的保存位置
repl_user=myslave			#设置复制用户的用户
repl_password=123		#设置复制用户的密码
report_script=/usr/local/send_report　　#设置发生切换后发送的报警的脚本
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.221.100 -s 192.168.221.110	#指定检查的从服务器IP地址
shutdown_script=""			#设置故障发生后关闭故障主机脚本（该脚本的主要作用是关闭主机防止发生脑裂,这里没有使用）
ssh_user=root				#设置ssh的登录用户名

[server1]
hostname=192.168.221.20
port=3306

[server2]
hostname=192.168.221.100
port=3306
candidate_master=1
#设置为候选master，设置该参数以后，发生主从切换以后将会将此从库提升为主库，即使这个主库不是集群中最新的slave
check_repl_delay=0
#默认情况下如果一个slave落后master 超过100M的relay logs的话，MHA将不会选择该slave作为一个新的master， 因为对于这个slave的恢复需要花费很长时间；通过设置check_repl_delay=0，MHA触发切换在选择一个新的master的时候将会忽略复制延时，这个参数对于设置了candidate_master=1的主机非常有用，因为这个候选主在切换的过程中一定是新的master

[server3]
hostname=192.168.221.110
port=3306

MySQL之高可用集群部署及故障切换实现
MySQL之高可用集群部署及故障切换实现

8、第一次配置需要在 Master 节点上手动开启虚拟IP

Master（192.168.221.20）

/sbin/ifconfig ens33:1 192.168.221.200/24

MySQL之高可用集群部署及故障切换实现

9、在 manager 节点上测试

（1）在 manager 节点上测试 ssh 无密码认证
MHAmanager（192.168.221.30）

masterha_check_ssh -conf=/etc/masterha/app1.cnf
#如果正常最后会输出 successfully；
#如果失败可以去配置服务器无密码认证的地方看看有没有问题

（2）在 manager 节点上测试 mysql 主从连接情况
MHAmanager（192.168.221.30）
masterha_check_repl -conf=/etc/masterha/app1.cnf
#最后出现 MySQL Replication Health is OK 字样说明正常；
#出现MySQL Replication Health is NOT OK!的，可以去看一下mysql服务器上的软链接是否少创建-->本文位置：2、修改三台MySQL服务器的主配置文件/etc/my.cnf，并创建命令软链接

（3）在 manager 节点上启动 MHA
MHAmanager（192.168.221.30）
nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &
#------------------------组件解释----------------------------------------------------------------------------------
--remove_dead_master_conf：该参数代表当发生主从切换后，老的主库的 ip 将会从配置文件中移除。
--manger_log：日志存放位置。
--ignore_last_failover：在缺省情况下，如果 MHA 检测到连续发生宕机，且两次宕机间隔不足 8 小时的话，则不会进行 Failover， 之所以这样限制是为了避免 ping-pong 效应。该参数代表忽略上次 MHA 触发切换产生的文件，默认情况下，MHA 发生切换后会在日志记目录，也就是上面设置的日志app1.failover.complete文件，下次再次切换的时候如果发现该目录下存在该文件将不允许触发切换，除非在第一次切换后收到删除该文件，为了方便，这里设置为--ignore_last_failover。

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

10、查看相关状态

MHAmanager（192.168.221.30）

查看 MHA 状态，可以看到当前的 master 是 Mysql1 节点。
masterha_check_status --conf=/etc/masterha/app1.cnf

查看 MHA 日志，也以看到当前的 master 是 192.168.221.20
cat /var/log/masterha/app1/manager.log | grep "current master"

查看 Mysql1 的 VIP 地址，查看 Mysql1 的 VIP 地址 192.168.163.200 是否存在，这个 VIP 地址不会因为 manager 节点停止 MHA 服务而消失。
ifconfig

补充：若要关闭 manager 服务，可以使用如下命令。
masterha_stop --conf=/etc/masterha/app1.cnf
或者可以直接采用 kill 进程 ID 的方式关闭。

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

三、故障模拟

1、故障模拟

（1）在 manager 节点上监控观察日志记录
MHAmanager（192.168.221.30）

tail -f /var/log/masterha/app1/manager.log

MySQL之高可用集群部署及故障切换实现

（2）在 Master 节点 Mysql1 上停止mysql服务
mysql1（192.168.221.20）

systemctl stop mysqld
或
pkill -9 mysql
正常自动切换一次后，MHA 进程会退出。HMA 会自动修改 app1.cnf 文件内容，将宕机的 mysql1 节点删除。

MySQL之高可用集群部署及故障切换实现

（3）查看 mysql2 是否接管 VIP
mysql2（192.168.221.100）

ifconfig

MySQL之高可用集群部署及故障切换实现

（4）回到manager 节点上监控观察日志记录

tail -f /var/log/masterha/app1/manager.log

故障切换备选主库的算法：
1、一般判断从库的是从（position/GTID）判断优劣，数据有差异，最接近于master的slave，成为备选主。
2、数据一致的情况下，按照配置文件顺序，选择备选主库。
3、设定有权重（candidate_master=1），按照权重强制指定备选主。
（1）默认情况下如果一个slave落后master 100M的relay logs的话，即使有权重，也会失效。
（2）如果check_repl_delay=0的话，即使落后很多日志，也强制选择其为备选主。

MySQL之高可用集群部署及故障切换实现

2、故障修复

mysql1（192.168.221.20）
（1）修复master

systemctl restart mysqld
netstat -natp | grep 3306

MySQL之高可用集群部署及故障切换实现

mysql2（192.168.221.100）
（2）修复主从

在现主库服务器 Mysql2查看二进制文件和同步点
mysql -uroot -p123 -e 'show master status;'
#在数据库中执行show master status;

在原主库服务器 mysql1 执行同步操作
mysql1（192.168.221.20）
change master to master_host='192.168.221.100',master_user='myslave',master_password='123',master_log_file='master-bin.000001',master_log_pos=1747;

start slave;
show slave status\G

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

（3）在 manager 节点上修改配置文件app1.cnf
MHAmanager（192.168.221.30）

再把这个记录添加进去，因为它检测掉失效时候会自动消失
vim /etc/masterha/app1.cnf
……
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.221.20 -s 192.168.221.110
......
[server1]
hostname=192.168.221.100
port=3306

[server2]
candidate_master=1
check_repl_delay=0
hostname=192.168.221.20
port=3306

[server3]
hostname=192.168.221.110
port=3306

MySQL之高可用集群部署及故障切换实现

（4）在 manager 节点上启动 MHA
MHAmanager（192.168.221.30）

masterha_stop --conf=/etc/masterha/app1.cnf

nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &

masterha_check_status --conf=/etc/masterha/app1.cnf

MySQL之高可用集群部署及故障切换实现

到此这篇关于MySQL之高可用集群部署及故障切换实现的文章就介绍到这了,更多相关MySQL 高可用集群部署内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木！

MySQL之高可用集群部署及故障切换实现

- Author -

荣少吃的少

声明：登载此文出于传递更多信息之目的，并不意味着赞同其观点或证实其描述。

MySQL 相关文章推荐
一看就懂的MySQL的聚簇索引及聚簇索引是如何长高的
May 25 MySQL
mysql外连接与内连接查询的不同之处
Jun 03 MySQL
MySQL 如何设计统计数据表
Jun 15 MySQL
Mysql中where与on的区别及何时使用详析
Aug 04 MySQL
千万级用户系统SQL调优实战分享
Mar 03 MySQL
面试提问mysql一张表到底能存多少数据
Mar 13 MySQL
Linux系统下MySQL配置主从分离的步骤
Mar 21 MySQL
MySQL表锁、行锁、排它锁及共享锁的使用详解
Apr 02 MySQL
Mysql 8.x 创建用户以及授予权限的操作记录
Apr 18 MySQL
mysql如何查询连续记录
May 11 MySQL
Mysql中常用的join连接方式
May 11 MySQL
深入理解MySQL中MVCC与BufferPool缓存机制
May 25 MySQL
教你用eclipse连接mysql数据库
MySQL 慢查询日志深入理解
MySQL root密码的重置方法
MySQL性能压力基准测试工具sysbench的使用简介
Apr 21 #MySQL
Mysql MVCC机制原理详解
详解MySQL 用户权限管理
mysql死锁和分库分表问题详解
Apr 16 #MySQL
Debian(1) 虚拟键盘(1) 鸿蒙(2) HarmonyOS(1) xhunter1.sys(1) 华为(1) 蓝牙耳机(1) RustDesk(1) 蓝牙(1) 鸿蒙3.0(1)
You might like
ThinkPHP路由详解
2015/07/27 PHP
PHP数据库连接mysql与mysqli对比分析
2016/01/04 PHP
深入理解PHP的远程多会话调试
2017/09/21 PHP
Yii框架连表查询操作示例
2019/09/06 PHP
用javascript动态调整iframe高度的方法
2007/03/06 Javascript
event.X和event.clientX的区别分析
2011/10/06 Javascript
JS 去前后空格大全(IE9亲测)
2013/07/15 Javascript
jQuery实现仿Google首页拖动效果的方法
2015/05/04 Javascript
javascript生成不重复的随机数
2015/07/17 Javascript
JavaScript优化专题之Loading and Execution加载和运行
2016/01/20 Javascript
JS重载实现方法分析
2016/12/16 Javascript
JavaScript中数据类型转换总结
2016/12/25 Javascript
利用Node.js对文件进行重命名
2017/03/12 Javascript
JS数组搜索之折半搜索实现方法分析
2017/03/27 Javascript
js遍历添加栏目类添加css 再点击其它删除css【推荐】
2018/06/12 Javascript
element-ui树形控件后台返回的数据+生成组织树的工具类
2020/03/05 Javascript
手把手带你搭建一个node cli的方法示例
2020/08/07 Javascript
Python编程求解二叉树中和为某一值的路径代码示例
2018/01/04 Python
将字典转换为DataFrame并进行频次统计的方法
2018/04/08 Python
python 实现在txt指定行追加文本的方法
2018/04/29 Python
Django 路由控制的实现代码
2018/11/08 Python
Django 反向生成url实例详解
2019/07/30 Python
Python散点图与折线图绘制过程解析
2019/11/30 Python
python GUI库图形界面开发之PyQt5布局控件QGridLayout详细使用方法与实例
2020/03/06 Python
python学生管理系统的实现
2020/04/05 Python
python3.6.8 + pycharm + PyQt5 环境搭建的图文教程
2020/06/11 Python
Pycharm配置autopep8实现流程解析
2020/11/28 Python
Django和Ueditor自定义存储上传文件的文件名
2021/02/25 Python
详解移动端Html5页面中1px边框的几种解决方法
2018/07/24 HTML / CSS
图书馆志愿者活动总结
2014/06/27 职场文书
对照检查剖析材料
2014/09/30 职场文书
小学母亲节活动总结
2015/02/10 职场文书
老兵退伍感言
2015/08/03 职场文书
nginx限制并发连接请求数的方法
2021/04/01 Servers
使用kubeadm命令行工具创建kubernetes集群
2022/03/31 Servers
详解Flutter自定义应用程序内键盘的实现方法
2022/06/14 Java/Android