首页
所有分类
TAGS
文字工具 EMOJI BIBLE
数据库 MySQL

MySQL之高可用集群部署及故障切换实现

Posted in MySQL onApril 22, 2021

一、MHA

 1、概念

MySQL之高可用集群部署及故障切换实现

2、MHA 的组成

MySQL之高可用集群部署及故障切换实现

3、MHA 的特点

MySQL之高可用集群部署及故障切换实现

二、搭建MySQL+MHA

思路和准备工作

1、MHA架构
数据库安装
一主两从
MHA搭建

2、故障模拟
模拟主库失效
备选主库成为主库
原故障主库恢复重新加入到MHA成为从库

3、准备4台安装MySQL虚拟机
MHAmanager IP：192.168.221.30
MySQL1 IP：192.168.221.20
MySQL2 IP：192.168.221.100
MySQL3 IP: 192.168.221.110

MySQL之高可用集群部署及故障切换实现

1、关闭防火墙，检测端口是否开启

systemctl stop firewalld
systemctl disable firewalld
setenforce 0
netstat -natp | grep 3306

MySQL之高可用集群部署及故障切换实现

2、修改mysql节点的主机名

mysql1（192.168.221.20）

hostnamectl set-hostname mysql1
su -
hostnamectl set-hostname mysql2
su -
hostnamectl set-hostname mysql3
su -

MySQL之高可用集群部署及故障切换实现

3、修改三台MySQL服务器的主配置文件/etc/my.cnf，并创建命令软链接

MySQL1
vim /etc/my.cnf
[mysqld]
server-id = 1
log_bin = master-bin
log-slave-updates = true

systemctl restart mysqld
ln -s /usr/local/mysql/bin/mysql /usr/sbin/
ln -s /usr/local/mysql/bin/mysqlbinlog /usr/sbin/

MySQL2
vim /etc/my.cnf
server-id = 2  
#server-id = 3  MySQL3则为3，三台服务器 server-id 不能一样
log_bin = master-bin
relay-log = relay-log-bin
relay-log-index = slave-relay-bin.index
systemctl restart mysqld

ln -s /usr/local/mysql/bin/mysql /usr/sbin/
ln -s /usr/local/mysql/bin/mysqlbinlog /usr/sbin/

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

4、配置MySQL一主两从

(1)所有MySQL服务器进行MySQL授权
mysql1（192.168.221.20）
mysql2（192.168.221.100）
mysql3（192.168.221.110）

3台都要配置
mysql -uroot -p123
grant replication slave on *.* to 'myslave'@'192.168.221.%' identified by '123';
grant all privileges on *.* to 'mha'@'192.168.221.%' identified by 'manager';
grant all privileges on *.* to 'mha'@'mysql1' identified by 'manager';
grant all privileges on *.* to 'mha'@'mysql2' identified by 'manager';
grant all privileges on *.* to 'mha'@'mysql3' identified by 'manager';
flush privileges;
show master status;

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

(2)在 Slave1、Slave2 节点执行同步操作
change master to master_host='192.168.221.20',master_user='myslave',master_password='123',master_log_file='master-bin.000005',master_log_pos=1991;

start slave;

show slave status\G
Slave_IO_Running: Yes
Slave_SQL_Running: Yes

#一般 Slave_IO_Running: No 的可能性：
#网络不通
#my.cnf配置有问题
#密码、file文件名、pos偏移量不对
#防火墙没有关闭

MySQL之高可用集群部署及故障切换实现

(3)Slave1、Slave2 节点设置为只读模式
mysql2（192.168.221.100）
mysql3（192.168.221.110）

set global read_only=1;
#改回读写状态set global read_only=0;

MySQL之高可用集群部署及故障切换实现

(4)主从复制验证
mysql1（192.168.221.20）
创建库

create database srs;
use test;
create table test(id int);
insert into test values(1);

mysql2（192.168.221.100）
mysql3（192.168.221.110）
查询库验证

show databases;

MySQL之高可用集群部署及故障切换实现

5、安装 MHA 软件

（1）所有服务器上都安装 MHA 依赖的环境
MHAmanager（192.168.221.30）
mysql1（192.168.221.20）
mysql2（192.168.221.100）
mysql3（192.168.221.110）

首先安装 epel 源，需要在线源安装
再在所有服务器上安装 node 组件
#安装在线源
mv /etc/yum.repos.d/repos.bak/CentOS-* /etc/yum.repos.d/
yum list

yum install epel-release --nogpgcheck -y

yum install -y perl-DBD-MySQL \
perl-Config-Tiny \
perl-Log-Dispatch \
perl-Parallel-ForkManager \
perl-ExtUtils-CBuilder \
perl-ExtUtils-MakeMaker \
perl-CPAN

MySQL之高可用集群部署及故障切换实现

（2）所有服务器安装MHA node软件包
MHAmanager（192.168.221.30）
mysql1（192.168.221.20）
mysql2（192.168.221.100）
mysql3（192.168.221.110）

对于每个操作系统版本不一样，这里 CentOS7.4 必须选择 0.57 版本。
在所有服务器上必须先安装 node 组件，最后在 MHA-manager 节点上安装 manager 组件，因为 manager 依赖 node 组件。
#将软件包mha4mysql-node-0.57.tar.gz放入/opt目录下
cd /opt
tar zxvf mha4mysql-node-0.57.tar.gz
cd mha4mysql-node-0.57
perl Makefile.PL
make && make install

在 MHA manager 节点上安装 manager 组件
将软件包mha4mysql-manager-0.57.tar.gz放入/opt目录下

cd /opt
tar zxvf mha4mysql-manager-0.57.tar.gz
cd mha4mysql-manager-0.57
perl Makefile.PL
make && make install
#node组件安装后也会在/usr/local/bin 下面会生成几个脚本（这些工具通常由 MHAManager 的脚本触发，无需人为操作）
#manager 组件安装后在/usr/local/bin 下面会生成几个工具

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

6、在所有服务器上配置无密码认证

（1）在 manager 节点上配置到所有数据库节点的无密码认证
MHAmanager（192.168.221.30）

ssh-keygen -t rsa 				#一路按回车键
ssh-copy-id 192.168.221.20
ssh-copy-id 192.168.221.100
ssh-copy-id 192.168.221.110

（2）在 mysql1 上配置到数据库节点 mysql2 和 mysql3 的无密码认证 ssh-keygen -t rsa
mysql1（192.168.221.20）

ssh-keygen -t rsa
ssh-copy-id 192.168.221.100
ssh-copy-id 192.168.221.110

（3）在 mysql2 上配置到数据库节点 mysql1 和 mysql3 的无密码认证
mysql2（192.168.221.100）

ssh-keygen -t rsa
ssh-copy-id 192.168.221.20
ssh-copy-id 192.168.221.110

（4）在 mysql3 上配置到数据库节点 mysql1 和 mysql2 的无密码认证
mysql3（192.168.221.110）

ssh-keygen -t rsa
ssh-copy-id 192.168.221.20
ssh-copy-id 192.168.221.100
篇幅太长不予演示

MySQL之高可用集群部署及故障切换实现

7、在 manager 节点上配置 MHA

MHAmanager（192.168.221.30）
（1）在 manager 节点上复制相关脚本到/usr/local/bin 目录
cp -rp /opt/mha4mysql-manager-0.57/samples/scripts /usr/local/bin

#复制后会有四个执行文件
ll /usr/local/bin/scripts/

（2）复制上述的自动切换时 VIP 管理的脚本到 /usr/local/bin 目录，这里使用master_ip_failover脚本来管理 VIP 和故障切换
cp /usr/local/bin/scripts/master_ip_failover /usr/local/bin

#先清空原有内容
echo '' > /usr/local/bin/master_ip_failover

#直接复制并修改vip相关参数
vim /usr/local/bin/master_ip_failover
#!/usr/bin/env perl
use strict;
use warnings FATAL => 'all';

use Getopt::Long;

my (
$command, $ssh_user, $orig_master_host, $orig_master_ip,
$orig_master_port, $new_master_host, $new_master_ip, $new_master_port
);
#############################添加内容部分#########################################
my $vip = '192.168.221.200';							#指定vip的地址
my $brdc = '192.168.221.255';							#指定vip的广播地址
my $ifdev = 'ens33';									#指定vip绑定的网卡
my $key = '1';											#指定vip绑定的虚拟网卡序列号
my $ssh_start_vip = "/sbin/ifconfig ens33:$key $vip";	#代表此变量值为ifconfig ens33:1 192.168.221.200
my $ssh_stop_vip = "/sbin/ifconfig ens33:$key down";	#代表此变量值为ifconfig ens33:1 down
my $exit_code = 0;										#指定退出状态码为0
#my $ssh_start_vip = "/usr/sbin/ip addr add $vip/24 brd $brdc dev $ifdev label $ifdev:$key;/usr/sbin/arping -q -A -c 1 -I $ifdev $vip;iptables -F;";
#my $ssh_stop_vip = "/usr/sbin/ip addr del $vip/24 dev $ifdev label $ifdev:$key";
##################################################################################
GetOptions(
'command=s' => \$command,
'ssh_user=s' => \$ssh_user,
'orig_master_host=s' => \$orig_master_host,
'orig_master_ip=s' => \$orig_master_ip,
'orig_master_port=i' => \$orig_master_port,
'new_master_host=s' => \$new_master_host,
'new_master_ip=s' => \$new_master_ip,
'new_master_port=i' => \$new_master_port,
);

exit &main();

sub main {

print "\n\nIN SCRIPT TEST====$ssh_stop_vip==$ssh_start_vip===\n\n";

if ( $command eq "stop" || $command eq "stopssh" ) {

my $exit_code = 1;
eval {
print "Disabling the VIP on old master: $orig_master_host \n";
&stop_vip();
$exit_code = 0;
};
if ($@) {
warn "Got Error: $@\n";
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "start" ) {

my $exit_code = 10;
eval {
print "Enabling the VIP - $vip on the new master - $new_master_host \n";
&start_vip();
$exit_code = 0;
};
if ($@) {
warn $@;
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "status" ) {
print "Checking the Status of the script.. OK \n";
exit 0;
}
else {
&usage();
exit 1;
}
}
sub start_vip() {
`ssh $ssh_user\@$new_master_host \" $ssh_start_vip \"`;
}
## A simple system call that disable the VIP on the old_master
sub stop_vip() {
`ssh $ssh_user\@$orig_master_host \" $ssh_stop_vip \"`;
}

sub usage {
print
"Usage: master_ip_failover --command=start|stop|stopssh|status --orig_master_host=host --orig_master_ip=ip --orig_master_port=port --new_master_host=host --new_master_ip=ip --new_master_port=port\n";
}

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

mkdir /etc/masterha
cp /opt/mha4mysql-manager-0.57/samples/conf/app1.cnf /etc/masterha
echo '' > /etc/masterha/app1.cnf
vim /etc/masterha/app1.cnf
[server default]
manager_log=/var/log/masterha/app1/manager.log
manager_workdir=/var/log/masterha/app1
master_binlog_dir=/usr/local/mysql/data
master_ip_failover_script=/usr/local/bin/master_ip_failover
master_ip_online_change_script=/usr/local/bin/master_ip_online_change
user=mha
password=manager
ping_interval=1
remote_workdir=/tmp
repl_user=myslave
repl_password=123
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.221.100 -s 192.168.221.110
shutdown_script=""
ssh_user=root

[server1]
hostname=192.168.221.20
port=3306

[server2]
candidate_master=1
check_repl_delay=0
hostname=192.168.221.100
port=3306

[server3]
hostname=192.168.221.110
port=3306

#--------------------------配置文件解释--------------------------------------------------------------------------
[server default]
manager_log=/var/log/masterha/app1/manager.log　　　 #manager日志
manager_workdir=/var/log/masterha/app1.log　　　　	#manager工作目录
master_binlog_dir=/usr/local/mysql/data/　　　　　　　#master保存binlog的位置，这里的路径要与master里配置的binlog的路径一致，以便MHA能找到
master_ip_failover_script=/usr/local/bin/master_ip_failover　          　#设置自动failover时候的切换脚本，也就是上面的那个脚本
master_ip_online_change_script=/usr/local/bin/master_ip_online_change　　#设置手动切换时候的切换脚本
user=mha					#设置监控用户root
password=manager			#设置mysql中root用户的密码，这个密码是前文中创建监控用户的那个密码
ping_interval=1				#设置监控主库，发送ping包的时间间隔1秒，默认是3秒，尝试三次没有回应的时候自动进行failover
remote_workdir=/tmp			#设置远端mysql在发生切换时binlog的保存位置
repl_user=myslave			#设置复制用户的用户
repl_password=123		#设置复制用户的密码
report_script=/usr/local/send_report　　#设置发生切换后发送的报警的脚本
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.221.100 -s 192.168.221.110	#指定检查的从服务器IP地址
shutdown_script=""			#设置故障发生后关闭故障主机脚本（该脚本的主要作用是关闭主机防止发生脑裂,这里没有使用）
ssh_user=root				#设置ssh的登录用户名

[server1]
hostname=192.168.221.20
port=3306

[server2]
hostname=192.168.221.100
port=3306
candidate_master=1
#设置为候选master，设置该参数以后，发生主从切换以后将会将此从库提升为主库，即使这个主库不是集群中最新的slave
check_repl_delay=0
#默认情况下如果一个slave落后master 超过100M的relay logs的话，MHA将不会选择该slave作为一个新的master， 因为对于这个slave的恢复需要花费很长时间；通过设置check_repl_delay=0，MHA触发切换在选择一个新的master的时候将会忽略复制延时，这个参数对于设置了candidate_master=1的主机非常有用，因为这个候选主在切换的过程中一定是新的master

[server3]
hostname=192.168.221.110
port=3306

MySQL之高可用集群部署及故障切换实现
MySQL之高可用集群部署及故障切换实现

8、第一次配置需要在 Master 节点上手动开启虚拟IP

Master（192.168.221.20）

/sbin/ifconfig ens33:1 192.168.221.200/24

MySQL之高可用集群部署及故障切换实现

9、在 manager 节点上测试

（1）在 manager 节点上测试 ssh 无密码认证
MHAmanager（192.168.221.30）

masterha_check_ssh -conf=/etc/masterha/app1.cnf
#如果正常最后会输出 successfully；
#如果失败可以去配置服务器无密码认证的地方看看有没有问题

（2）在 manager 节点上测试 mysql 主从连接情况
MHAmanager（192.168.221.30）
masterha_check_repl -conf=/etc/masterha/app1.cnf
#最后出现 MySQL Replication Health is OK 字样说明正常；
#出现MySQL Replication Health is NOT OK!的，可以去看一下mysql服务器上的软链接是否少创建-->本文位置：2、修改三台MySQL服务器的主配置文件/etc/my.cnf，并创建命令软链接

（3）在 manager 节点上启动 MHA
MHAmanager（192.168.221.30）
nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &
#------------------------组件解释----------------------------------------------------------------------------------
--remove_dead_master_conf：该参数代表当发生主从切换后，老的主库的 ip 将会从配置文件中移除。
--manger_log：日志存放位置。
--ignore_last_failover：在缺省情况下，如果 MHA 检测到连续发生宕机，且两次宕机间隔不足 8 小时的话，则不会进行 Failover， 之所以这样限制是为了避免 ping-pong 效应。该参数代表忽略上次 MHA 触发切换产生的文件，默认情况下，MHA 发生切换后会在日志记目录，也就是上面设置的日志app1.failover.complete文件，下次再次切换的时候如果发现该目录下存在该文件将不允许触发切换，除非在第一次切换后收到删除该文件，为了方便，这里设置为--ignore_last_failover。

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

10、查看相关状态

MHAmanager（192.168.221.30）

查看 MHA 状态，可以看到当前的 master 是 Mysql1 节点。
masterha_check_status --conf=/etc/masterha/app1.cnf

查看 MHA 日志，也以看到当前的 master 是 192.168.221.20
cat /var/log/masterha/app1/manager.log | grep "current master"

查看 Mysql1 的 VIP 地址，查看 Mysql1 的 VIP 地址 192.168.163.200 是否存在，这个 VIP 地址不会因为 manager 节点停止 MHA 服务而消失。
ifconfig

补充：若要关闭 manager 服务，可以使用如下命令。
masterha_stop --conf=/etc/masterha/app1.cnf
或者可以直接采用 kill 进程 ID 的方式关闭。

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

三、故障模拟

1、故障模拟

（1）在 manager 节点上监控观察日志记录
MHAmanager（192.168.221.30）

tail -f /var/log/masterha/app1/manager.log

MySQL之高可用集群部署及故障切换实现

（2）在 Master 节点 Mysql1 上停止mysql服务
mysql1（192.168.221.20）

systemctl stop mysqld
或
pkill -9 mysql
正常自动切换一次后，MHA 进程会退出。HMA 会自动修改 app1.cnf 文件内容，将宕机的 mysql1 节点删除。

MySQL之高可用集群部署及故障切换实现

（3）查看 mysql2 是否接管 VIP
mysql2（192.168.221.100）

ifconfig

MySQL之高可用集群部署及故障切换实现

（4）回到manager 节点上监控观察日志记录

tail -f /var/log/masterha/app1/manager.log

故障切换备选主库的算法：
1、一般判断从库的是从（position/GTID）判断优劣，数据有差异，最接近于master的slave，成为备选主。
2、数据一致的情况下，按照配置文件顺序，选择备选主库。
3、设定有权重（candidate_master=1），按照权重强制指定备选主。
（1）默认情况下如果一个slave落后master 100M的relay logs的话，即使有权重，也会失效。
（2）如果check_repl_delay=0的话，即使落后很多日志，也强制选择其为备选主。

MySQL之高可用集群部署及故障切换实现

2、故障修复

mysql1（192.168.221.20）
（1）修复master

systemctl restart mysqld
netstat -natp | grep 3306

MySQL之高可用集群部署及故障切换实现

mysql2（192.168.221.100）
（2）修复主从

在现主库服务器 Mysql2查看二进制文件和同步点
mysql -uroot -p123 -e 'show master status;'
#在数据库中执行show master status;

在原主库服务器 mysql1 执行同步操作
mysql1（192.168.221.20）
change master to master_host='192.168.221.100',master_user='myslave',master_password='123',master_log_file='master-bin.000001',master_log_pos=1747;

start slave;
show slave status\G

MySQL之高可用集群部署及故障切换实现

MySQL之高可用集群部署及故障切换实现

（3）在 manager 节点上修改配置文件app1.cnf
MHAmanager（192.168.221.30）

再把这个记录添加进去，因为它检测掉失效时候会自动消失
vim /etc/masterha/app1.cnf
……
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.221.20 -s 192.168.221.110
......
[server1]
hostname=192.168.221.100
port=3306

[server2]
candidate_master=1
check_repl_delay=0
hostname=192.168.221.20
port=3306

[server3]
hostname=192.168.221.110
port=3306

MySQL之高可用集群部署及故障切换实现

（4）在 manager 节点上启动 MHA
MHAmanager（192.168.221.30）

masterha_stop --conf=/etc/masterha/app1.cnf

nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &

masterha_check_status --conf=/etc/masterha/app1.cnf

MySQL之高可用集群部署及故障切换实现

到此这篇关于MySQL之高可用集群部署及故障切换实现的文章就介绍到这了,更多相关MySQL 高可用集群部署内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木！

MySQL之高可用集群部署及故障切换实现

- Author -

荣少吃的少

声明：登载此文出于传递更多信息之目的，并不意味着赞同其观点或证实其描述。

MySQL 相关文章推荐
mysql多表查询-笔记七
Apr 05 MySQL
详解MySQL事务的隔离级别与MVCC
Apr 22 MySQL
MySQL 存储过程的优缺点分析
May 20 MySQL
MySQL8.0的WITH查询详情
Aug 30 MySQL
MySQL磁盘碎片整理实例演示
Apr 03 MySQL
MySQL创建管理子分区
Apr 13 MySQL
MySQL提取JSON字段数据实现查询
Apr 22 MySQL
MySQL 执行数据库更新update操作的时候数据库卡死了
May 02 MySQL
MySQL sql模式设置引起的问题
May 15 MySQL
MySQL数据库安装方法与图形化管理工具介绍
May 30 MySQL
mysql sock 文件解析及作用讲解
Jul 15 MySQL
SQL中去除重复数据的几种方法汇总(窗口函数对数据去重)
May 08 MySQL
教你用eclipse连接mysql数据库
MySQL 慢查询日志深入理解
MySQL root密码的重置方法
MySQL性能压力基准测试工具sysbench的使用简介
Apr 21 #MySQL
Mysql MVCC机制原理详解
详解MySQL 用户权限管理
mysql死锁和分库分表问题详解
Apr 16 #MySQL
保加利亚购物网站(3) DB面试题(126) Android面试题(6) 冰岛购物网站(1) C++面试题(199) C#面试题(90) PHP面试题(54) 网络工程师面试题(96) .NET面试题(131) JAVA面试题(401)
You might like
两种php调用Java对象的方法
2006/10/09 PHP
php后台如何避免用户直接进入方法实例
2013/10/15 PHP
浅谈discuz密码加密的方式
2014/05/22 PHP
PHP读取大文件的多种方法介绍
2016/04/04 PHP
PHP mongodb操作类定义与用法示例【适合mongodb2.x和mongodb3.x】
2018/06/16 PHP
jQuery1.3.2 升级到jQuery1.4.4需要修改的地方
2011/01/06 Javascript
js replace替换所有匹配的字符串
2014/02/13 Javascript
AngularJS入门教程（零）：引导程序
2014/12/06 Javascript
js+css实现文字散开重组动画特效代码分享
2015/08/21 Javascript
PhotoSwipe异步动态加载图片方法
2016/08/25 Javascript
Vue 2中ref属性的使用方法及注意事项
2017/06/12 Javascript
详解微信小程序 template添加绑定事件
2017/06/23 Javascript
js图片放大镜实例讲解(必看篇)
2017/07/17 Javascript
想用好React的你必须要知道的一些事情
2017/07/24 Javascript
浅谈JavaScript作用域和闭包
2017/09/18 Javascript
JS跳转手机站url的若干注意事项
2017/10/18 Javascript
vue中引入第三方字体文件的方法示例
2018/12/17 Javascript
基于vue+axios+lrz.js微信端图片压缩上传方法
2019/06/25 Javascript
vue 实现tab切换保持数据状态
2020/07/21 Javascript
Python文件右键找不到IDLE打开项解决办法
2015/06/08 Python
Python基于回溯法子集树模板解决马踏棋盘问题示例
2017/09/11 Python
解决pycharm每次新建项目都要重新安装一些第三方库的问题
2019/01/17 Python
Python基于WordCloud制作词云图
2019/11/29 Python
PyQt5 界面显示无响应的实现
2020/03/26 Python
罗技英国官方网站：Logitech UK
2020/11/03 全球购物
工程师求职简历的自我评价分享
2013/10/10 职场文书
中学生校园广播稿
2014/01/16 职场文书
求职意向书范文
2014/04/01 职场文书
工会换届选举方案
2014/05/21 职场文书
公司股份转让协议书范本
2015/01/28 职场文书
常务副总经理岗位职责
2015/02/02 职场文书
英语导游词
2015/02/13 职场文书
2015年度党员个人总结
2015/02/14 职场文书
html+css实现文字折叠特效实例
2021/06/02 HTML / CSS
浅谈redis整数集为什么不能降级
2021/07/25 Redis
nginx lua 操作 mysql
2022/05/15 Servers