使用Redis实现限流

news/2024/12/24 2:17:40 标签: redis, 数据库, 缓存

使用Redis实现限流的三种方式

请添加图片描述

目录

  1. 概述
  2. 基于计数器的固定窗口限流
    • 实现原理
    • 适用场景
    • 实现步骤
    • 代码实现
    • 缺点
  3. 基于滑动窗口的限流
    • 实现原理
    • 适用场景
    • 实现步骤
    • 代码实现
    • 优点
    • 缺点
  4. 基于令牌桶算法的限流
    • 实现原理
    • 适用场景
    • 实现步骤
    • Lua脚本实现
    • Java实现
    • 优点
    • 缺点
  5. 总结

概述

在分布式系统中，限流是保护服务的重要手段之一。通过限流，可以防止接口被恶意刷请求或突发流量压垮，从而保证系统的稳定性。Redis是一个高性能的键值存储工具，因其高效的读写性能和丰富的数据结构，被广泛用于限流场景。本文将介绍三种使用Redis实现限流的方式，并通过代码示例说明其实现原理和应用场景。

限流算法的核心目标是控制资源的访问速率，以防止系统过载。在不同的业务场景下，限流的需求和实现方式也有所不同。例如，在Web服务中，限流可以用于控制用户请求的频率，以防止服务被滥用；在API网关中，限流可以用于保护后端服务不受过多请求的影响。限流算法的设计需要考虑到实际业务的特点，如请求的分布、峰值流量的大小等。

基于计数器的固定窗口限流

实现原理

固定窗口限流是一种最简单的限流方式。它将时间划分为固定大小的窗口，通常是秒或分钟级别的。在每个窗口内，统计请求的次数，并与预设的阈值进行比较。如果请求次数超过阈值，则拒绝后续请求，直到下一个窗口开始。这种限流方式简单直观，易于实现，但可能存在边界问题，即在窗口切换时请求量可能会突然增加。

适用场景

固定窗口限流适用于流量较为均匀的场景，适合简单的限流需求。例如，对于一个小型网站，如果其访问量相对稳定，没有明显的高峰和低谷，那么固定窗口限流可能是一个合适的选择。

实现步骤

  1. 使用Redis的INCR命令记录每个窗口的请求次数。
  2. 设置键的过期时间为窗口时长。
  3. 判断请求次数是否超过阈值。

代码实现

import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.data.redis.core.StringRedisTemplate;
import org.springframework.stereotype.Service;

import java.util.concurrent.TimeUnit;

@Service
public class FixedWindowRateLimiter {

    @Autowired
    private StringRedisTemplate redisTemplate;

    public boolean isAllowed(String key, int limit, int windowSeconds) {
        String redisKey = "rate_limit:" + key;
        Long count = redisTemplate.opsForValue().increment(redisKey);

        if (count == 1) {
            redisTemplate.expire(redisKey, windowSeconds, TimeUnit.SECONDS);
        }

        return count <= limit;
    }
}

缺点

固定窗口限流的主要缺点是边界问题。在窗口切换时，请求量可能会突然增加，导致短时间内的流量突增。此外，如果请求分布不均匀，固定窗口限流可能无法有效控制流量。

基于滑动窗口的限流

实现原理

滑动窗口限流通过更精细地统计一定时间范围内的请求，避免了固定窗口限流的边界问题。它不是将时间划分为固定大小的窗口，而是维护一个滑动的时间窗口，通常使用有序集合（ZSET）来实现。在这个窗口内，记录每个请求的时间戳，并在每次请求时移除超出窗口的请求记录。这样，可以更准确地控制请求的速率，避免了固定窗口限流的边界问题。

适用场景

滑动窗口限流适用于对流量分布较为敏感的场景。例如，在一些高流量的Web服务中，请求可能在某些时间段内集中到达，而在其他时间段内相对较少。滑动窗口限流可以更准确地控制这些请求，避免因固定窗口限流导致的流量突增问题。

实现步骤

  1. 使用Redis的有序集合（ZSET）存储每次请求的时间戳。
  2. 每次请求时，移除集合中超出时间窗口的记录。
  3. 统计集合中剩余的记录数，判断是否超出阈值。

代码实现

import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.data.redis.core.StringRedisTemplate;
import org.springframework.stereotype.Service;

import java.time.Instant;
import java.util.concurrent.TimeUnit;

@Service
public class SlidingWindowRateLimiter {

    @Autowired
    private StringRedisTemplate redisTemplate;

    public boolean isAllowed(String key, int limit, int windowSeconds) {
        String redisKey = "rate_limit:" + key;
        long currentTime = Instant.now().getEpochSecond();
        long windowStart = currentTime - windowSeconds;

        // 添加当前请求时间戳到ZSET中
        redisTemplate.opsForZSet().add(redisKey, String.valueOf(currentTime), currentTime);

        // 移除ZSET中超出时间窗口的请求
        redisTemplate.opsForZSet().removeRangeByScore(redisKey, 0, windowStart);

        // 获取当前窗口内的请求数量
        Long count = redisTemplate.opsForZSet().zCard(redisKey);

        return count != null && count <= limit;
    }
}

优点

滑动窗口限流较好地解决了固定窗口限流的边界问题，能够更准确地控制请求的速率。

缺点

滑动窗口限流的实现比固定窗口限流更复杂，对Redis的性能要求更高。特别是在高并发场景下，需要频繁地更新有序集合，可能会对Redis的性能产生影响。

基于令牌桶算法的限流

实现原理

令牌桶算法是最常用的限流算法之一。其核心思想是按照固定的速率向桶中放入令牌，用户每次请求需要获取一个令牌，如果桶为空，则拒绝请求。令牌桶算法可以控制请求的速率，并且支持突发流量。当桶中的令牌不足时，请求会被阻塞或拒绝，直到桶中有可用的令牌。

适用场景

令牌桶算法适用于对流量速率有严格控制的场景，例如API网关、秒杀系统等。这些场景下，需要精确控制请求的速率，并且能够处理突发的流量。

实现步骤

  1. 初始化令牌桶大小和放令牌的速率。
  2. 使用Redis的Lua脚本实现原子操作，保证线程安全。
  3. 判断是否有足够令牌满足请求。

Lua脚本实现

local key = KEYS[1]
local capacity = tonumber(ARGV[1])
local tokens = tonumber(ARGV[2])
local now = tonumber(ARGV[3])
local refillTime = tonumber(ARGV[4])

local currentTokens = tonumber(redis.call("get", key)) or capacity
local lastRefillTime = tonumber(redis.call("get", key .. ":time")) or now

local timeElapsed = now - lastRefillTime
local refillTokens = math.floor(timeElapsed / refillTime)

currentTokens = math.min(capacity, currentTokens + refillTokens)
if currentTokens > 0 then
    redis.call("set", key, currentTokens - 1)
    redis.call("set", key .. ":time", now)
    return 1
else
    return 0
end

Java实现

import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.data.redis.core.StringRedisTemplate;
import org.springframework.data.redis.core.script.DefaultRedisScript;
import org.springframework.stereotype.Service;

import java.util.Collections;

@Service
public class TokenBucketRateLimiter {

    @Autowired
    private StringRedisTemplate redisTemplate;

    private static final String LUA_SCRIPT = "-- Lua Script Here (见上文)";

    public boolean isAllowed(String key, int capacity, int tokens, int refillTime) {
        DefaultRedisScript<Long> script = new DefaultRedisScript<>(LUA_SCRIPT, Long.class);
        Long result = redisTemplate.execute(
                script,
                Collections.singletonList("rate_limit:" + key),
                String.valueOf(capacity),
                String.valueOf(tokens),
                String.valueOf(System.currentTimeMillis() / 1000),
                String.valueOf(refillTime) 
        );
        
            return result != null && result == 1;
}

优点

令牌桶算法能够精确控制流量，并且支持突发流量处理。

缺点

令牌桶算法的实现较为复杂，需要Lua脚本支持。在高并发场景下，对Redis的性能要求较高。

总结

限流是确保分布式系统稳定性的关键技术之一。通过使用Redis，我们可以高效地实现限流功能。本文介绍了三种基于Redis的限流方法：固定窗口限流、滑动窗口限流和令牌桶算法限流，每种方法都有其适用场景和优缺点。固定窗口限流简单易实现，但可能存在边界问题；滑动窗口限流更精确，但实现复杂度和性能要求更高；令牌桶算法能够精确控制流量，支持突发流量，但实现最为复杂。选择合适的限流方案，可以有效地保护系统不受流量冲击，提高系统的可用性和用户体验。

在实际应用中，需要根据业务特点和流量分布选择合适的限流策略。例如，对于需要严格速率控制的API服务，令牌桶算法可能是更好的选择；而对于相对简单的应用，固定窗口限流可能已经足够。此外，限流策略的调整也是一个动态的过程，需要根据系统的运行情况和业务需求进行调整。

限流技术的发展也在不断进步，新的算法和工具不断涌现。例如，一些云服务提供商提供了基于机器学习的智能限流服务，可以根据实时流量动态调整限流策略。随着技术的发展，限流技术将更加智能化和精细化，为分布式系统的稳定性和性能提供更有力的保障。


http://www.niftyadmin.cn/n/5797220.html

相关文章

Pinia---新一代的Vuex

Pinia---新一代的Vuex

关于Pinia的一些问题 pinia是用来做什么的&#xff1f; 集中状态管理工具&#xff0c;新一代的Vuex Pinia中还需要mutation吗&#xff1f; 不需要&#xff0c;action既支持同步也支持异步 Pinia如何实现getter&#xff1f; computed计算属性函数 Pinia产生的Store如何解构赋…
阅读更多...
如何使用 Python 执行 SQL 查询？

如何使用 Python 执行 SQL 查询？

一、常用的Python SQL库 在Python中执行SQL查询&#xff0c;最常用的库包括&#xff1a; sqlite3&#xff1a;用于与SQLite数据库交互&#xff0c;适合小型项目或测试环境。psycopg2&#xff1a;用于与PostgreSQL数据库交互&#xff0c;功能强大&#xff0c;支持复杂查询。my…
阅读更多...
FastAPI vs Go 性能对比分析

FastAPI vs Go 性能对比分析

FastAPI vs Go 性能对比分析 总体结论 FastAPI 虽然性能优秀&#xff0c;但整体上仍无法完全达到 Go 的性能水平。 详细对比 优势 FastAPI 开发效率高Python生态系统丰富自动API文档生成类型检查和验证异步支持好 Go 原生性能更强内存占用更低并发处理能力强编译型语言的优…
阅读更多...
javaEE-线程的常用方法-4

javaEE-线程的常用方法-4

目录 一.start():启动一个线程 调用start()方法 start()方法只能调用一次&#xff1a; java中的API: start()和run()的区别: 二.中断一个线程 中断线程方法1:引入标志位 中断线程方法2:调⽤interrupt()⽅法 抛出的异常: 三.等待一个线程 join() 四、获取线程引用 五…
阅读更多...
TCP/IP 介绍：网络通信的基石

TCP/IP 介绍：网络通信的基石

TCP/IP 介绍&#xff1a;网络通信的基石 计算机通信协议概述 在数字时代&#xff0c;计算机之间的通信变得至关重要。计算机通信协议&#xff08;Computer Communication Protocol&#xff09;是一套规则&#xff0c;定义了计算机如何相互交流信息。这些协议确保了不同制造商…
阅读更多...
12.19问答解析

12.19问答解析

概述 某中小型企业有四个部门&#xff0c;分别是市场部、行政部、研发部和工程部&#xff0c;请合理规划IP地址和VLAN&#xff0c;实现企业内部能够互联互通&#xff0c;同时要求市场部、行政部和工程部能够访问外网环境(要求使用OSPF协议)&#xff0c;研发部不能访问外网环境…
阅读更多...
【go每日一题】：并发任务调度器

【go每日一题】：并发任务调度器

问题描述 需要实现一个并发的任务调度器&#xff0c;能够处理多个并发任务并限制同时执行的任务数量。 每个任务是一个函数&#xff0c;任务执行可能需要一段时间。 调度器的目的是控制同时执行的任务数量&#xff08;即并发度&#xff09;&#xff0c;以防止任务数过多导致系…
阅读更多...
如何详细地遵循RustDesk的步骤来搭建远程访问和自定义服务器？

如何详细地遵循RustDesk的步骤来搭建远程访问和自定义服务器？

要详细地遵循RustDesk的步骤来搭建远程访问和自定义服务器&#xff0c;你可以按照以下几个主要步骤进行操作&#xff1a; 下载并安装RustDesk&#xff1a;前往RustDesk的官方网站&#xff08;https://rustdesk.com/&#xff09;下载适用于你的操作系统的安装程序。然后&#xf…
阅读更多...
最新文章

Copyright @ 2022~2023