百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术分类 > 正文

Spring Cloud Gateway网关如何快速实施限流方案?-Part 6

ztj100 2024-10-29 18:20 26 浏览 0 评论

熔断降级

在分布式系统中,网关作为流量的入口,大量请求进入网关,向后端远程系统或服务发起调用,后端服务不可避免的会产生调用失败(超时或者异常),失败时不能让请求堆积在网关上,需要快速失败并返回回去,这就需要在网关上做熔断、降级操作。

限流

网关上有大量请求,对指定服务进行限流,可以很大程度上提高服务的可用性与稳定性,限流的目的是通过对并发访问/请求进行限速,或对一个时间窗口内的请求进行限速来保护系统。一旦达到限制速率则可以拒绝服务、排队或等待、降级。

Spring Cloud Gateway内置过滤器工厂RequestRateLimiterGatewayFilterFactory

Spring Cloud Gateway内置了一个过滤器工厂RequestRateLimiterGatewayFilterFactory,可以用来直接限流。

内置的限流方案是基于Redis的限流filter,需要添加依赖spring-boot-starter-data-redis-reactive才可以自动开启。该filter使用的是redisScript来进行判断,该script使用的是request_rate_limiter.lua脚本。

打开org.springframework.cloud:spring-cloud-gateway-core:2.0.0.RELEASE jar包,可以看到该jar包使用一个request_rate_limiter.lua脚本实现限流。

目前RequestRateLimiterGatewayFilterFactory的实现依赖于 Redis,所以我们还要引入spring-boot-starter-data-redis-reactive。

下面介绍如何在Spring Cloud Gateway网关中,基于内置过滤器工厂RequestRateLimiterGatewayFilterFactory实现限流。

1. 在Spring Cloud Gateway 项目中,引入响应的jar包。

<dependencies>

<!-- Spring Cloud Gateway的依赖-->

<dependency>

<groupId>org.springframework.cloud</groupId>

<artifactId>spring-cloud-starter-gateway</artifactId>

</dependency>

<dependency>

<groupId>org.springframework.boot</groupId>

<artifactId>spring-boot-starter-data-redis-reactive</artifactId>

</dependency>

</dependencies>

2. 在application.yml 配置文件中,进行相关限流配置。

配置按照请求IP 来限流

server.port: 8081

spring:

application:

name: gateway

redis:

host: localhost

port: 6379

cloud:

gateway:

routes:

- id: rateLimit_route

uri: http://localhost:8000/hello/rateLimit

order: 0

predicates:

- Path=/test/rateLimit

filters:

#filter名称必须是RequestRateLimiter

- name: RequestRateLimiter

args:

#使用SpEL按名称引用bean

key-resolver: "#{@remoteAddrKeyResolver}"

#流速(每秒) - 令牌桶每秒填充平均速率

redis-rate-limiter.replenishRate: 1

#令牌桶的容量,允许在一秒钟内完成的最大请求数

redis-rate-limiter.burstCapacity: 5

logging:

level:

#org.springframework.cloud.gateway: debug

cn.springcloud.book.filter: debug

上述配置中,设置redis.host=localhost,redis.port=6369,分别表示redis的主机和端口。

  • burstCapacity,令牌桶容量。
  • replenishRate,令牌桶每秒填充平均速率。
  • key-resolver,用于限流的键的解析器的 Bean 对象名字。它使用 SpEL 表达式根据#{@beanName}从 Spring 容器中获取 Bean 对象。

令牌桶算法如下图所示:

3. 编写key-resolver对应的remoteAddrKeyResolver(Bean名称)

具体代码如下。自定义限流标准的key,这里采用IP限流。

通过exchange 对象获取请求信息,请求IP地址等等。

public class RemoteAddrKeyResolver implements KeyResolver {

public static final String BEAN_NAME = "remoteAddrKeyResolver";

@Override

public Mono<String> resolve(ServerWebExchange exchange) {

return Mono.just(exchange.getRequest().getRemoteAddress().getAddress().getHostAddress());

}

}

把key 对应的解析器配置加载到Spring 容器中,代码如下。

@SpringBootApplication

public class GatewayApplication {

@Bean(name = RemoteAddrKeyResolver.BEAN_NAME)

public RemoteAddrKeyResolver remoteAddrKeyResolver() {

return new RemoteAddrKeyResolver();

}

public static void main(String[] args) {

SpringApplication.run(GatewayApplication.class, args);

}

}

4. 启动应用测试

启动Redis,启动Spring Cloud Gateway测试应用,访问如下地址:

http://localhost:8081/test/rateLimit /test/rateLimit 是网关设置的过滤URL。

正常情况下,可以返回结果。

当快速访问多次时,浏览器就返回429 状态码。这是网关限流拒绝请求。

从HttpStatus代码中可以看成,429返回码表示:Too Many Requests.

示例项目代码:

https://github.com/rickiechina/spring-cloud-code/tree/master/ch18-6/ch18-6-2-gateway

相关推荐

人生苦短,我要在VSCode里面用Python

轻沉发自浅度寺量子位出品|公众号QbitAI在程序员圈子里,VisualStudioCode(以下简称VSCode)可以说是目前最火的代码编辑器之一了。它是微软出品的一款可扩展的轻量...

亲测可用:Pycharm2019.3专业版永久激活教程

概述随着2020年的到来,又有一批Pycharm的激活码到期了,各位同仁估计也是在到处搜索激活方案,在这里,笔者为大家收录了一个永久激活的方案,亲测可用,欢迎下载尝试:免责声明本项目只做个人学习研究之...

Python新手入门很简单(python教程入门)

我之前学习python走过很多的歧途,自学永远都是瞎猫碰死耗子一样,毫无头绪。后来心里一直都有一个做头条知识分享的梦,希望自己能够帮助曾经类似自己的人,于是我来了,每天更新5篇Python文章,喜欢的...

Pycharm的设置和基本使用(pycharm运行设置)

这篇文章,主要是针对刚开始学习python语言,不怎么会使用pycharm的童鞋们;我来带领大家详细了解下pycharm页面及常用的一些功能,让大家能通过此篇文章能快速的开始编写python代码。一...

依旧是25年最拔尖的PyTorch实用教程!堪比付费级内容!

我真的想知道作者到底咋把PyTorch教程整得这么牛的啊?明明在内容上已经足以成为付费教材了,但作者偏要免费开源给大家学习!...

手把手教你 在Pytorch框架上部署和测试关键点人脸检测项目DBFace

这期教向大家介绍仅仅1.3M的轻量级高精度的关键点人脸检测模型DBFace,并手把手教你如何在自己的电脑端进行部署和测试运行,运行时bug解决。01.前言前段时间DBFace人脸检测库横空出世,...

进入Python的世界02外篇-Pycharm配置Pyqt6

为什么这样配置,要开发带UI的python也只能这样了,安装过程如下:一安装工具打开终端:pipinstallPyQt6PyQt6-tools二打开设置并汉化点击plugin,安装汉化插件,...

vs code如何配置使用Anaconda(vscode调用anaconda库)

上一篇文章中(Anaconda使用完全指南),我们能介绍了Anaconda的安装和使用,以及如何在pycharm中配置Anaconda。本篇,将继续介绍在vscode中配置conda...

pycharm中conda解释器无法配置(pycharm配置anaconda解释器)

之前用的好好的pycharm正常配置解释器突然不能用了?可以显示有这个环境然后确认后可以conda正在配置解释器,但是进度条结束后还是不成功!!试过了pycharm重启,pycharm重装,anaco...

Volta:跨平台开发者的福音,统一前端js工具链从未如此简单!

我们都知道现在已经进入了Rust时代,不仅很多终端常用的工具都被rust重写了,而且现在很多前端工具也开始被Rust接手了,这不,现在就出现了一款JS工具管理工具,有了它,你可以管理多版本的js工具,...

开发者的福音,ElectronEgg: 新一代桌面应用开发框架

今天给大家介绍一个开源项目electron-egg。如果你是一个JS的前端开发人员,以前面对这项任务桌面应用开发在时,可能会感到无从下手,甚至觉得这是一项困难的挑战。ElectronEgg的出现,它能...

超强经得起考验的低代码开发平台Frappe

#挑战30天在头条写日记#开始进行管理软件的开发来讲,如果从头做起不是不可以,但选择一款免费的且经得起时间考验的低代码开发平台是非常有必要的,将大幅提升代码的质量、加快开发的效率、以及提高程序的扩展性...

一文带你搞懂Vue3 底层源码(vue3核心源码解析)

作者:妹红大大转发链接:https://mp.weixin.qq.com/s/D_PRIMAD6i225Pn-a_lzPA前言vue3出来有一段时间了。今天正式开始记录一下梗vue3.0.0-be...

Windows 11 + WSL2 打造轻量级 Linux 本地开发环境实战教程

一、前言...

基于小程序 DSL(微信、支付宝)的,可扩展的多端研发框架

Mor(发音为/mr/,类似more),是饿了么开发的一款基于小程序DSL的,可扩展的多端研发框架,使用小程序原生DSL构建,使用者只需书写一套(微信或支付宝)小程序,就可以通过Mor...

取消回复欢迎 发表评论: