限流采用令牌桶和滑动窗口算法,数据结构包括环形缓冲区和原子操作;熔断运用断路器模式,数据结构包含滑动窗口、计数器和状态机。gin web 框架中,限流通过判断令牌是否充足来限制请求,熔断通过判断错误率是否达到阈值来触发熔断。
Go 框架中限流和熔断的算法和数据结构
限流
- 令牌桶算法:使用固定速率向桶中添加令牌,当请求到达时,会先从桶中取走一个令牌,若桶中没有令牌,则请求会被拒绝。
- 滑动窗口算法:将时间划分为多个窗口,每个窗口跟踪一定时间段内的请求数。当请求数超过某个阈值时,触发限流。
数据结构
立即学习“go语言免费学习笔记(深入)”;
- 环形缓冲区:用于存储令牌或请求计数。
- 原子操作:确保令牌或请求计数的并发访问安全。
熔断
- 断路器模式:通过熔断机制,当错误率达到一定阈值时,熔断开关将打开,停止处理请求。当错误率下降后,熔断开关将关闭,恢复请求处理。
数据结构
立即学习“go语言免费学习笔记(深入)”;
- 滑动窗口:跟踪一段时间内的错误率。
- 计数器:记录错误计数和成功计数。
- 状态机:管理熔断开关的状态(打开/关闭)。
实战案例
在 Gin Web 框架中,使用如下代码实现限流和熔断:
package main
import (
"context"
"fmt"
"net/http"
"time"
"github.com/gin-gonic/gin"
"github.com/juju/ratelimit"
)
func main() {
r := gin.Default()
// 创建限流器,令牌桶算法,每秒最多允许 10 个请求
limiter := ratelimit.NewBucket(time.Second*1, 10)
// 限流中间件
r.Use(func(c *gin.Context) {
// 尝试从限流器获取令牌
if !limiter.Allow() {
c.AbortWithStatus(http.StatusTooManyRequests)
return
}
c.Next()
})
// 创建熔断器
breaker := NewBreaker(10, time.Minute*1)
// 熔断中间件
r.Use(func(c *gin.Context) {
// 检测熔断器状态
if breaker.IsTripped() {
c.AbortWithStatus(http.StatusServiceUnavailable)
return
}
// 执行请求
if _, err := c.Writer.Write([]byte("Hello world!")); err != nil {
breaker.MarkFailed()
} else {
breaker.MarkSuccessful()
}
c.Next()
})
r.GET("/", func(c *gin.Context) {
c.JSON(http.StatusOK, gin.H{"message": "Hello world!"})
})
r.Run(":8080")
}
这个示例演示了如何使用令牌桶算法实现限流,以及使用断路器模式实现熔断。