it编程 > 前端脚本 > Powershell

shell脚本批量导出redis key-value方式

37人参与 2025-08-02 Powershell

1 背景

需求:工作中需要导出线上redis数据,但需避免使用keys命令全量扫描,导致瞬间响应卡顿,从而引发超时等问题

方法:最安全的方式是通过dump.rdb备份文件,在本地redis实例上恢复,然后执行shell脚本,使用scan渐进扫描批量导出key-value。

2 详细步骤

2.1 本地docker启动redis

本地通过docker-compose创建redis实例,并挂载配置文件和数据目录

version: '3'
services:
  redis:
    image: redis
    container_name: redis
    restart: always
    command: redis-server /etc/redis/redis.conf
    ports:
      - 46379:6379
    environment:
      tz: asia/shanghai
      lang: en_us.utf-8
    volumes:
      - ./mnt/conf/redis.conf:/etc/redis/redis.conf:rw
      - ./mnt/data:/data:rw

指定dump恢复目录及文件,和redis实例密码

mkdir -p ./mnt/conf
vim ./mnt/conf/redis.conf
requirepass gsef7nooih5r
dbfilename dump.rdb
dir /data
docker-compose up -d
docker logs -f redis
# 进入容器
docker exec -it redis bash

# 认证
auth gsef7nooih5r

# 查询key数量
dbsize

2.2 shell批量导出脚本

docker exec -it redis bash
# 换源并安装vim
sed -i 's/deb.debian.org/mirrors.aliyun.com/g' /etc/apt/sources.list  \
    && apt update -y \
    && apt-get install -y vim

# 解决vim中文乱码
echo -e "syntax on \nset termencoding=utf-8 \nset encoding=utf8 \nset fileencodings=utf8,ucs-bom,gbk,cp936,gb2312,gb18030" >> ~/.vimrc

使用的scan命令渐进遍历,相对于keys命令全量遍历速度慢些,但胜在安全,对redis的负载低。其中:

vim redis_export.sh
#!/bin/bash
redis_host=localhost
redis_port=6379
redis_password=gsef7nooih5r
cnt=1000

key_name=vc_*
key_file=key_list.txt
value_file=value_list.txt
result_file=kv_result.txt
interval=0.01

redis-cli -h $redis_host -p $redis_port -a $redis_password scan 0 match "$key_name"  count $cnt 2>/dev/null> scan_tmp_result
new_cursor=`sed -n '1p' scan_tmp_result`
sed -n '2,$p' scan_tmp_result > $key_file

while [ $new_cursor -ne 0 ]
do
  redis-cli -h $redis_host -p $redis_port -a $redis_password scan $new_cursor match "$key_name" count $cnt 2>/dev/null> scan_tmp_result
  new_cursor=`sed -n '1p' scan_tmp_result`
  echo `cat $key_file |wc -l`
  sed -n '2,$p' scan_tmp_result >> $key_file
done
total=`cat $key_file |wc -l`
echo $total

> $value_file
i=0
for key in `cat $key_file`
do
    i=$(($i+1))
    if [[ ${i}%1000 -eq 0 || ${i} -eq $total ]]; then
	    echo "$i / $total"
    fi
    echo "get $key" | redis-cli $interval -h $redis_host -p $redis_port -a $redis_password 2>/dev/null >> $value_file
done
paste $key_file $value_file > $result_file
rm -f scan_tmp_result $value_file $key_file
bash ./redis_export.sh

3 附录

记录下实践时的其它方法/功能:

redis-cli  -a gsef7nooih5r --scan --pattern "vc_*">/tmp/redis.log
echo "keys vc_*" | redis-cli -a gsef7nooih5r >/tmp/redis.log

总结

以上为个人经验,希望能给大家一个参考,也希望大家多多支持代码网。

(0)

您想发表意见!!点此发布评论

推荐阅读

使用Shell脚本操作多个MySQL数据库的步骤详解

08-13

linux下shell脚本启动jar包实现过程

07-25

win10怎么将命令提示符或PowerShell命令输出保存到txt文本文件?

08-14

Win10怎么使用PowerShell格式化磁盘?

08-14

Linux flock原理分析(shell进阶)

07-07

PowerShell 2.0已弃用! Win11 Canary27891预览版更新发布

07-04

猜你喜欢

版权声明:本文内容由互联网用户贡献,该文观点仅代表作者本人。本站仅提供信息存储服务,不拥有所有权,不承担相关法律责任。 如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 2386932994@qq.com 举报,一经查实将立刻删除。

发表评论