如何在Redis里按模式删除数据

一台Redis服务器在很短的时间里消耗了几十个G的内存,最终因为SWAP而宕机。因为这台服务器的社会背景比较复杂,所以一时无法判断犯罪嫌疑人到底是谁。

最开始的直觉是认为肯定有人保存了大体积的数据,于是问题就变成了找出哪些键占用的空间比较大,DBA同事用了redis-rdb-tools等工具来分析数据文件。可惜的是虽然找到了一些大体积的键,但最终都排除了嫌疑,问题似乎陷入了僵局。

在被直觉带入死胡同之后,我们开始调整调查的角度:即便一个键本身占用的空间并不大,但是如果相同模式的键数量很多的话,那么合计起来一样会占用大量空间,于是问题就变成了找出哪些相同模式的键占用的空间比较大。这次我不想用什么工具,而是打算在测试服务器上一边删除可疑键一边查看内存变化情况:

shell> /path/to/redis-cli keys foo:* | xargs /path/to/redis-cli del

悲催的是一运行这个命令服务器就挂了!因为数据太多了,所以KEYS受不了。此时应该使用SCAN,它有游标的概念,每次迭代只涉及很少的数据。

直接在命令行使用SCAN有些麻烦,于是我用了PHP

<?php

$redis = new Redis();
$redis->setOption(Redis::OPT_SCAN, Redis::SCAN_RETRY);

$match = 'foo:*';
$count = 10000;

while ($keys = $redis->scan($it, $match, $count)) {
    $redis->del($keys);
}

?>

在删除的同时注意监控内存变化情况,就能确认问题了:

shell> watch -d -n 1 '/path/to/redis-cli info | grep memory'

至于可疑键的获取,我是瞎蒙的,简单通过MONITOR或者SCAN获取采样数据即可,另外从此案例看,监控键总数的变化幅度是很重要的,从INFO里能拿到它。

如何在Redis里按模式删除数据》上有6个想法

  1. 利用redis-rdb-tools可以获得每一个key所占的表的数据大小
    是一个csv文件,剩下可以用文本分析的方法分析csv,应该能够比较容易定位相同类型的key所占的总大小

  2. Pingback引用通告: 清理即将爆炸的redis – 破|立

发表评论

电子邮件地址不会被公开。 必填项已用*标注