请选择 进入手机版 | 继续访问电脑版

Redis中国用户组(CRUG)论坛

 找回密码
 立即注册

扫一扫,访问微社区

搜索
热搜: 活动 交友 discuz
查看: 9851|回复: 2

Redis监控工具,命令和调优

[复制链接]
  • TA的每日心情
    开心
    2017-8-30 15:46
  • 签到天数: 94 天

    [LV.6]常住居民II

    371

    主题

    479

    帖子

    3831

    积分

    管理员

    Rank: 9Rank: 9Rank: 9

    积分
    3831

    最佳新人活跃会员宣传达人突出贡献优秀版主荣誉管理论坛元老

    发表于 2016-8-26 09:55:35 | 显示全部楼层 |阅读模式
    Redis监控工具,命令和调优1.图形化监控
    因为要对Redis做性能测试,发现了GitHub上有个python写的RedisLive监控工具评价不错。结果鼓捣了半天,最后发现其主页中引用了Google的jsapi脚本,必须在线连接谷歌的服务,Stackoverflow上说把js脚本下载到本地也没法解决问题,坑爹!正要放弃时发现了一个从RedisLive fork出去的项目redis-monitor,应该是国人改的吧,去掉了对谷歌jsapi的依赖,并完善了多Redis实例的管理,最终终于看到了久违的曲线图。
    首先要保证安装了python。之后下载下列python包安装。可以手动下载tar.gz解压后执行python setup.py install逐一安装,或直接用pip下载:
    1. tornado:一个python的web框架
    2. redis.py:python的redis客户端
    3. python-dateutil
    4. backports.ssl_match_hostname
    5. argparse
    6. setuptools
    7. six
    复制代码

    之后从GitHub上下载解压redis-monitor-master,修改src/redis_live.conf。必须配置一个单独的Redis实例存储监控数据,同时可以配置多个要监控的Redis实例。之后启动redis-monitor有些麻烦,需要启动两个前台进程和两个后台进程:

    1. #in src/script/redis-monitor.sh add redis-monitor as a startup service

    2. #start web with port 8888
    3. $ python redis_live.py

    4. # start info collector
    5. $ python redis_monitor.py

    6. #start daemon
    7. $ python redis_live_daemon.py
    8. $ python redis_monitor_daemon.py
    复制代码


    2.命令行监控
    前面可以看到,虽然图形化监控Redis比较美观、直接,但是安装起来比较麻烦。如果只是想简单看一下Redis的负载情况的话,完全可以用它提供的一些命令来完成。
    2.1 吞吐量
    Redis提供的INFO命令不仅能够查看实时的吞吐量(ops/sec),还能看到一些有用的运行时信息。下面用grep过滤出一些比较重要的实时信息,比如已连接的和在阻塞的客户端、已用内存、拒绝连接、实时的tps和数据流量等:
    1. [root@vm redis-3.0.3]# src/redis-cli -h 127.0.0.1 info | grep -e "connected_clients" -e "blocked_clients" -e "used_memory_human" -e "used_memory_peak_human" -e "rejected_connections" -e "evicted_keys" -e "instantaneous"

    2. connected_clients:1
    3. blocked_clients:0
    4. used_memory_human:799.66K
    5. used_memory_peak_human:852.35K
    6. instantaneous_ops_per_sec:0
    7. instantaneous_input_kbps:0.00
    8. instantaneous_output_kbps:0.00
    9. rejected_connections:0
    10. evicted_keys:0
    复制代码

    2.2 延迟2.2.1 客户端PING
    从客户端可以监控Redis的延迟,利用Redis提供的PING命令,不断PING服务端,记录服务端响应PONG的时间。下面开两个终端,一个监控延迟,一个监视服务端收到的命令:
    1. [root@vm redis-3.0.3]# src/redis-cli --latency -h 127.0.0.1
    2. min: 0, max: 1, avg: 0.08

    3. [root@vm redis-3.0.3]# src/redis-cli -h 127.0.0.1
    4. 127.0.0.1:6379> monitor
    5. OK
    6. 1439361594.867170 [0 127.0.0.1:59737] "PING"
    7. 1439361594.877413 [0 127.0.0.1:59737] "PING"
    8. 1439361594.887643 [0 127.0.0.1:59737] "PING"
    9. 1439361594.897858 [0 127.0.0.1:59737] "PING"
    10. 1439361594.908063 [0 127.0.0.1:59737] "PING"
    11. 1439361594.918277 [0 127.0.0.1:59737] "PING"
    12. 1439361594.928469 [0 127.0.0.1:59737] "PING"
    13. 1439361594.938693 [0 127.0.0.1:59737] "PING"
    14. 1439361594.948899 [0 127.0.0.1:59737] "PING"
    15. 1439361594.959110 [0 127.0.0.1:59737] "PING"
    复制代码

    如果我们故意用DEBUG命令制造延迟,就能看到一些输出上的变化:
    1. [root@vm redis-3.0.3]# src/redis-cli --latency -h 127.0.0.1
    2. min: 0, max: 1995, avg: 1.60 (2361 samples)

    3. [root@vm redis-3.0.3]# src/redis-cli -h 127.0.0.1
    4. 127.0.0.1:6379> debug sleep 1
    5. OK
    6. (1.00s)
    7. 127.0.0.1:6379> debug sleep .15
    8. OK
    9. 127.0.0.1:6379> debug sleep .5
    10. OK
    11. (0.50s)
    12. 127.0.0.1:6379> debug sleep 2
    13. OK
    14. (2.00s)
    复制代码

    2.2.2 服务端内部机制
    服务端内部的延迟监控稍微麻烦一些,因为延迟记录的默认阈值是0。尽管空间和时间耗费很小,Redis为了高性能还是默认关闭了它。所以首先我们要开启它,设置一个合理的阈值,例如下面命令中设置的100ms:
    1. 127.0.0.1:6379> CONFIG SET latency-monitor-threshold 100
    2. OK
    复制代码

    因为Redis执行命令非常快,所以我们用DEBUG命令人为制造一些慢执行命令:
    1. 127.0.0.1:6379> debug sleep 2
    2. OK
    3. (2.00s)
    4. 127.0.0.1:6379> debug sleep .15
    5. OK
    6. 127.0.0.1:6379> debug sleep .5
    7. OK
    复制代码

    下面就用LATENCY的各种子命令来查看延迟记录:

    LATEST:四列分别表示事件名、最近延迟的Unix时间戳、最近的延迟、最大延迟。
    HISTORY:延迟的时间序列。可用来产生图形化显示或报表。
    GRAPH:以图形化的方式显示。最下面以竖行显示的是指延迟在多久以前发生。
    RESET:清除延迟记录。
    1. 127.0.0.1:6379> latency latest
    2. 1) 1) "command"
    3.    2) (integer) 1439358778
    4.    3) (integer) 500
    5.    4) (integer) 2000

    6. 127.0.0.1:6379> latency history command
    7. 1) 1) (integer) 1439358773
    8.    2) (integer) 2000
    9. 2) 1) (integer) 1439358776
    10.    2) (integer) 150
    11. 3) 1) (integer) 1439358778
    12.    2) (integer) 500

    13. 127.0.0.1:6379> latency graph command
    14. command - high 2000 ms, low 150 ms (all time high 2000 ms)
    15. --------------------------------------------------------------------------------
    16. #  
    17. |  
    18. |  
    19. |_#

    20. 666
    21. mmm
    复制代码

    在执行一条DEBUG命令会发现GRAPH图的变化,多出一条新的柱状线,下面的时间2s就是指延迟刚发生两秒钟:
    1. 127.0.0.1:6379> debug sleep 1.5
    2. OK
    3. (1.50s)
    4. 127.0.0.1:6379> latency graph command
    5. command - high 2000 ms, low 150 ms (all time high 2000 ms)
    6. --------------------------------------------------------------------------------
    7. #   
    8. |  #
    9. |  |
    10. |_#|

    11. 2222
    12. 333s
    13. mmm
    复制代码

    还有一个有趣的子命令DOCTOR,它能列出一些指导建议,例如开启慢日志进一步追查问题原因,查看是否有大对象被踢出或过期,以及操作系统的配置建议等。
    1. 127.0.0.1:6379> latency doctor
    2. Dave, I have observed latency spikes in this Redis instance. You don't mind talking about it, do you Dave?

    3. 1. command: 3 latency spikes (average 883ms, mean deviation 744ms, period 210.00 sec). Worst all time event 2000ms.

    4. I have a few advices for you:

    5. - Check your Slow Log to understand what are the commands you are running which are too slow to execute. Please check http://redis.io/commands/slowlog for more information.
    6. - Deleting, expiring or evicting (because of maxmemory policy) large objects is a blocking operation. If you have very large objects that are often deleted, expired, or evicted, try to fragment those objects into multiple smaller objects.
    7. - I detected a non zero amount of anonymous huge pages used by your process. This creates very serious latency events in different conditions, especially when Redis is persisting on disk. To disable THP support use the command 'echo never > /sys/kernel/mm/transparent_hugepage/enabled', make sure to also add it into /etc/rc.local so that the command will be executed again after a reboot. Note that even if you have already disabled THP, you still need to restart the Redis process to get rid of the huge pages already created.
    复制代码

    2.2.3 度量延迟Baseline
    延迟中的一部分是来自环境的,比如操作系统内核、虚拟化环境等等。Redis提供了让我们度量这一部分延迟基线(Baseline)的方法:
    1. [root@vm redis-3.0.3]# src/redis-cli --intrinsic-latency 100 -h 127.0.0.1
    2. Max latency so far: 2 microseconds.
    3. Max latency so far: 3 microseconds.
    4. Max latency so far: 26 microseconds.
    5. Max latency so far: 37 microseconds.
    6. Max latency so far: 1179 microseconds.
    7. Max latency so far: 1623 microseconds.
    8. Max latency so far: 1795 microseconds.
    9. Max latency so far: 2142 microseconds.

    10. 35818026 total runs (avg latency: 2.7919 microseconds / 27918.90 nanoseconds per run).
    11. Worst run took 767x longer than the average latency.
    复制代码

    –intrinsic-latency后面是测试的时长(秒),一般100秒足够了。
    2.3 持续实时监控
    Unix的WATCH命令是一个非常实用的工具,它可以实时监视任意命令的输出结果。比如上面我们提到的命令,稍加改造就能变成持续地实时监控工具:
    1. [root@vm redis-3.0.3]# watch -n 1 -d "src/redis-cli -h 127.0.0.1 info | grep -e "connected_clients" -e "blocked_clients" -e "used_memory_human" -e "used_memory_peak_human" -e "rejected_connections" -e "evicted_keys" -e "instantaneous""

    2. Every 1.0s: src/redis-cli -h 127.0.0.1 info | grep -e...  Wed Aug 12 14:30:40 2015

    3. connected_clients:1
    4. blocked_clients:0
    5. used_memory_human:799.66K
    6. used_memory_peak_human:852.35K
    7. instantaneous_ops_per_sec:0
    8. instantaneous_input_kbps:0.01
    9. instantaneous_output_kbps:1.23
    10. rejected_connections:0
    11. evicted_keys:0

    12. [root@vm redis-3.0.3]# watch -n 1 -d "src/redis-cli -h 127.0.0.1 latency graph command"

    13. Every 1.0s: src/redis-cli -h 127.0.0.1 latency graph command                                                                                                               Wed Aug 12 14:33:25 2015

    14. command - high 2000 ms, low 150 ms (all time high 2000 ms)
    15. --------------------------------------------------------------------------------
    16. #
    17. |  #
    18. |  |
    19. |_#|

    20. 4441
    21. 0006
    22. mmmm
    复制代码

    2.4 慢操作日志
    像SORT、LREM、SUNION等操作在大对象上会非常耗时,使用时要注意参照官方API上每个命令的算法复杂度。用前面介绍过的慢操作日志监控操作的执行时间。就像主流数据库提供的慢SQL日志一样,Redis也提供了记录慢操作的日志。注意这部分日志只会计算纯粹的操作耗时。
    slowlog-log-slower-than设置慢操作的阈值,slowlog-max-len设置保存个数,因为慢操作日志与延迟记录一样,都是保存在内存中的:
    1. 127.0.0.1:6379> config set slowlog-log-slower-than 500
    2. OK
    3. 127.0.0.1:6379> debug sleep 1
    4. OK
    5. (0.50s)
    6. 127.0.0.1:6379> debug sleep .6
    7. OK
    8. 127.0.0.1:6379> slowlog get 10
    9. 1) 1) (integer) 2
    10.    2) (integer) 1439369937
    11.    3) (integer) 473178
    12.    4) 1) "debug"
    13.       2) "sleep"
    14.       3) ".6"
    15. 2) 1) (integer) 1
    16.    2) (integer) 1439369821
    17.    3) (integer) 499357
    18.    4) 1) "debug"
    19.       2) "sleep"
    20.       3) "1"
    21. 3) 1) (integer) 0
    22.    2) (integer) 1439365058
    23.    3) (integer) 417846
    24.    4) 1) "debug"
    25.       2) "sleep"
    26.       3) "1"
    复制代码

    输出的四列的含义分别是:记录的自增ID、命令执行时的时间戳、命令的执行耗时(ms)、命令的内容。注意上面的DEBUG命令并没有包含休眠时间,而只是命令的处理时间。

    3.官方优化建议3.1 网络延迟
    客户端可以通过TCP/IP或Unix域Socket连接到Redis。通常在千兆网络环境中,TCP/IP网络延迟是200us(微秒),Unix域Socket可以低到30us。关于Unix域Socket(Unix Domain Socket)还是比较常用的技术,具体请参考Nginx+PHP-FPM的域Socket配置方法
    什么是域Socket?
    维基百科:“Unix domain socket 或者 IPCsocket 是一种终端,可以使同一台操作系统上的两个或多个进程进行数据通信。与管道相比,Unix domain sockets 既可以使用字节流数和数据队列,而管道通信则只能通过字节流。U**nix domain sockets的接口和Internet socket很像,但它不使用网络底层协议来通信。Unix domain socket的功能是POSIX操作系统里的一种组件。Unix domain sockets使用系统文件的地址来作为自己的身份。它可以被系统进程引用。所以两个进程可以同时打开一个Unix domain sockets来进行通信。不过这种通信方式是发生在系统内核里而不会在网络里传播**。”
    网络方面我们能做的就是减少在网络往返时间RTT(Round-Trip Time)。官方提供了以下一些建议:
    • 长连接:不要频繁连接/断开到服务器的连接,尽可能保持长连接(Jedis现在就是这样做的)。
    • 域Socket:如果客户端与Redis服务端在同一台机器上的话,使用Unix域Socket。
    • 多参数命令:相比管道,优先使用多参数命令,如mset/mget/hmset/hmget等。
    • 管道化:其次使用管道减少RTT。
    • LUA脚本:对于有数据依赖而无法使用管道的命令,可以考虑在Redis服务端执行LUA脚本。
    3.2 磁盘I/O3.2.1 写磁盘
    尽管Redis也是基于多路I/O复用的单线程机制,但是却没有像Nginx一样提供CPU Affinity的设置,避免fork出的子进程也跑在Redis主进程依附的CPU内核上,导致后台进程影响主进程。所以还是让操作系统自己去调度Redis主进程和后台进程吧。但反过来,如果不开启持久化机制的话,为Redis设置亲和性是否能进一步提升性能呢?
    3.2.2 操作系统Swap
    如果系统内存不足,可能会将Redis对应的某些页从内存swap到磁盘文件上。可以通过/proc文件夹中的smaps文件查看是否有数据页被swap。如果发现大量页被swap,则可以用vmstat和iostat进一步追查原因:
    1. [root@vm redis-3.0.3]# src/redis-cli -h 127.0.0.1 info | grep process_id
    2. process_id:24191

    3. [root@vm redis-3.0.3]# cat /proc/24191/smaps | grep "Swap"
    4. Swap:                  0 kB
    5. Swap:                  0 kB
    6. Swap:                  0 kB
    7. Swap:                  0 kB
    8. Swap:                  0 kB
    9.             ...
    10. Swap:                  0 kB
    11. Swap:                  0 kB
    12. Swap:                  0 kB
    13. Swap:                  0 kB
    复制代码

    3.3 其他因素3.3.1 Fork子进程
    写RDB文件和rewrite AOF文件都需要fork出一个后台进程,fork操作的主要消耗在于页表的拷贝,不同系统的耗时会有些差异。其中,Xen问题比较严重。
    3.3.2 Transparent Huge Page
    此外,如果Linux开启了THP(Transparent Huge Page)功能的话,会极大地影响延迟。
    3.3.3 Key过期
    Redis同时使用主动和被动两种方式剔除已经过期的Key:
    • 被动:当客户端访问到Key时,发现已经过期,则剔除
    • 主动:每100ms剔除一批Key,假如过期Key超过25%则反复执行
    所以,要避免同一时间超过25%的Key过期导致的Redis阻塞,设置过期时间时可以稍微随机化一些。

    4.最后一招:WatchDog
    官方说法提供的最后一招(last resort)就是WatchDog。它能够将慢操作的整个函数执行栈打印到Redis日志中。因为它与前面介绍过的将记录保存在内存中的延迟和满操作记录不同,所以记得使用前要在redis.conf中配置logfile日志路径:
    1. [root@vm redis-3.0.3]# src/redis-cli -h 127.0.0.1
    2. 127.0.0.1:6379> CONFIG SET watchdog-period 500
    3. OK
    4. 127.0.0.1:6379> debug sleep 1
    5. OK

    6. [root@vm redis-3.0.3]# tailf redis.log
    7.       `-._    `-.__.-'    _.-'                                       
    8.           `-._        _.-'                                          
    9.               `-.__.-'                                               

    10. 51091:M 12 Aug 15:36:53.337 # Server started, Redis version 3.0.3
    11. 51091:M 12 Aug 15:36:53.338 # WARNING overcommit_memory is set to 0! Background save may fail under low memory condition. To fix this issue add 'vm.overcommit_memory = 1' to /etc/sysctl.conf and then reboot or run the command 'sysctl vm.overcommit_memory=1' for this to take effect.
    12. 51091:M 12 Aug 15:36:53.338 # WARNING you have Transparent Huge Pages (THP) support enabled in your kernel. This will create latency and memory usage issues with Redis. To fix this issue run the command 'echo never > /sys/kernel/mm/transparent_hugepage/enabled' as root, and add it to your /etc/rc.local in order to retain the setting after a reboot. Redis must be restarted after THP is disabled.
    13. 51091:M 12 Aug 15:36:53.343 # WARNING: The TCP backlog setting of 511 cannot be enforced because /proc/sys/net/core/somaxconn is set to the lower value of 128.
    14. 51091:M 12 Aug 15:36:53.343 * DB loaded from disk: 0.000 seconds
    15. 51091:M 12 Aug 15:36:53.343 * The server is now ready to accept connections on port 6379

    16. 51091:signal-handler (1439365058)
    17. --- WATCHDOG TIMER EXPIRED ---
    18. src/redis-server 127.0.0.1:6379(logStackTrace+0x43)[0x450363]
    19. /lib64/libpthread.so.0(__nanosleep+0x2d)[0x3c0740ef3d]
    20. /lib64/libpthread.so.0[0x3c0740f710]
    21. /lib64/libpthread.so.0[0x3c0740f710]
    22. /lib64/libpthread.so.0(__nanosleep+0x2d)[0x3c0740ef3d]
    23. src/redis-server 127.0.0.1:6379(debugCommand+0x58d)[0x45180d]
    24. src/redis-server 127.0.0.1:6379(call+0x72)[0x4201b2]
    25. src/redis-server 127.0.0.1:6379(processCommand+0x3e5)[0x4207d5]
    26. src/redis-server 127.0.0.1:6379(processInputBuffer+0x4f)[0x42c66f]
    27. src/redis-server 127.0.0.1:6379(readQueryFromClient+0xc2)[0x42c7b2]
    28. src/redis-server 127.0.0.1:6379(aeProcessEvents+0x13c)[0x41a52c]
    29. src/redis-server 127.0.0.1:6379(aeMain+0x2b)[0x41a7eb]
    30. src/redis-server 127.0.0.1:6379(main+0x2cd)[0x423c8d]
    31. /lib64/libc.so.6(__libc_start_main+0xfd)[0x3c0701ed5d]
    32. src/redis-server 127.0.0.1:6379[0x419b49]
    33. 51091:signal-handler (51091:signal-handler (1439365058) ) --------
    复制代码


    附:参考资料
    不得不说,Redis的官方文档写得非常不错!从中能学到很多不只是Redis,还有系统方面的知识。前面推荐大家仔细阅读官方网站上的每个主题。


  • TA的每日心情
    开心
    2016-12-20 08:35
  • 签到天数: 64 天

    [LV.6]常住居民II

    59

    主题

    76

    帖子

    1632

    积分

    版主

    Rank: 7Rank: 7Rank: 7

    积分
    1632

    最佳新人热心会员活跃会员推广达人优秀版主

    发表于 2016-8-29 08:42:36 | 显示全部楼层
    很强大啊
    回复

    使用道具 举报

    该用户从未签到

    0

    主题

    1

    帖子

    25

    积分

    新手上路

    Rank: 1

    积分
    25
    发表于 3 天前 | 显示全部楼层
    你好,关于redis-monitor找到的资料不多,能问你他的配置文件redis-live.conf各个配置项都什么意思么




    ,{"master_slave_sms": "1,1", "RedisStatsServer": {"port": 7001, "server": "10.10.40.145"}
    , "sms_alert": "192.168.110.207:9999", "DataStoreType": "redis", "RedisServers": [{"instance": "Master1", "group": "PRSOnline", "port": 5707, "server": "10.10.209.104"}
    , {"instance": "M2", "group": "PRSOnline", "port": 5708, "server": "10.10.209.104"}
    , {"instance": "M3", "group": "PRSOnline", "port": 5709, "server": "10.10.209.104"}
    , {"instance": "M4", "group": "PRSOnline", "port": 5710, "server": "10.10.209.104"}
    , {"instance": "Slave1", "group": "PRSOnline", "port": 5707, "server": "10.10.209.150"}
    , {"instance": "S2", "group": "PRSOnline", "port": 5708, "server": "10.10.209.150"}
    , {"instance": "S3", "group": "PRSOnline", "port": 5709, "server": "10.10.209.150"}
    , {"instance": "S4", "group": "PRSOnline", "port": 5710, "server": "10.10.209.150"}
    , {"instance": "I1", "group": "PRSOffline", "port": 5711, "server": "10.10.209.104"}
    , {"instance": "I2", "group": "PRSOffline", "port": 5712, "server": "10.10.209.104"}
    , {"instance": "I1", "group": "PRSOffline", "port": 5711, "server": "10.10.209.150"}
    , {"instance": "I2", "group": "PRSOffline", "port": 5712, "server": "10.10.209.150"}
    , {"instance": "01", "group": "SiteAPRS", "port": 6679, "server": "192.168.251.212"}
    , {"instance": "02", "group": "SiteAPRS", "port": 6680, "server": "192.168.251.212"}
    , {"instance": "01", "group": "SiteACATS", "port": 6779, "server": "192.168.251.213"}
    , {"instance": "02", "group": "SiteACATS", "port": 6780, "server": "192.168.251.213"}
    ]}
    您需要登录后才可以回帖 登录 | 立即注册

    本版积分规则

    阿里云
    阿里云

    Archiver|手机版|小黑屋|Redis中国用户组 ( 京ICP备15003959号

    GMT+8, 2017-12-17 04:33 , Processed in 0.261573 second(s), 32 queries .

    Powered by Discuz! X3.2

    © 2001-2013 Comsenz Inc.

    快速回复 返回顶部 返回列表