限流与熔断实战:限流:使用令牌桶算法限制请求数量,防止系统过载。熔断:使用滑动窗口熔断算法,当失败率较高时触发,快速隔离故障服务,避免进一步影响。
Go框架中高并发场景下的限流与熔断
引言
在高并发场景中,限流和熔断是保障系统稳定性和可用性的重要机制。本文将介绍Go框架中实现限流和熔断的常见技术,并提供实战案例进行说明。
限流
限流旨在限制同时处理的请求数量,防止系统过载。Go框架中常用的限流算法包括:
- 令牌桶算法:利用一个容量固定的令牌桶,每单位时间释放一定数量的令牌。当请求到来时,若桶中还有令牌则允许请求通过,否则拒绝。
- 滑动窗口算法:以固定大小的窗口为单位统计请求数量。当窗口内请求数 превыступить threshold时,对超出部分的请求进行限制。
代码实例:
立即学习“go语言免费学习笔记(深入)”;
import (
"context"
"github.com/go-kit/kit/ratelimit"
httptransport "github.com/go-kit/kit/transport/http"
)
var limiter = ratelimit.NewTokenBucket(100) // 每秒生成100个令牌
httpHandler := httptransport.NewServer(
makeHelloEndpoint(), // 提供服务的Endpoint
decodeHTTPHelloRequest, // HTTP请求解码函数
encodeHTTPHelloResponse, // HTTP响应编码函数
&httptransport.ServerOptions{RateLimit: limiter}, // 设置限流器
)
熔断
熔断机制在请求失败率过高时触发,旨在快速将服务从生产环境中隔离,避免进一步影响。Go框架中常用的熔断算法有:
- 滑动窗口熔断:与滑动窗口限流类似,记录最近一段时间内的失败率,当失败率高于阈值时触发熔断。
- 回路熔断:当熔断被触发后,服务会立即进入关闭状态,在一定时间后尝试重新连接,如果成功则解除熔断;否则继续保持关闭状态。
代码实例:
立即学习“go语言免费学习笔记(深入)”;
import (
"context"
"fmt"
"github.com/sony/gobreaker"
"time"
)
var cb = gobreaker.NewCircuitBreaker(gobreaker.Settings{
Name: "greeting",
MaxRequests: 5, // 熔断前的最大失败请求数
Interval: time.Second * 30, // 熔断状态持续时间
})
// 实际业务代码
func hello(name string) error {
if name == "" {
return fmt.Errorf("empty name")
}
return nil
}
func main() {
for {
if err := cb.Execute(func() error {
return hello("world")
}); err != nil {
fmt.Println("circuit is open")
} else {
fmt.Println("circuit is closed")
}
time.Sleep(time.Second)
}
}