本文探讨了 go 框架中限流和熔断机制在大型互联网业务中的应用。限流通过限制请求速率防止系统过载,go 中常用的限流手段包括速率限制器。熔断在系统出错率达到一定阈值时暂时禁止请求访问,go 中常用的熔断手段包括错误组和熔断器状态。这些机制在电商平台限流和微服务熔断等实战案例中得到了广泛应用。
Go 框架限流和熔断在大型互联网业务中的应用案例
引言
在大规模互联网应用中,限流和熔断机制是保障系统稳定和可用性的重要手段。本文将探讨 Golang 框架中常用的限流和熔断实践,并通过实战案例演示其应用场景。
限流
限流是一种通过限制请求速率来防止系统过载的机制。Go 框架中常用的限流手段包括:
立即学习“go语言免费学习笔记(深入)”;
package main
import (
"context"
"fmt"
"golang.org/x/time/rate"
"time"
)
func main() {
// 创建速率限制器,限制每秒最多 10 个请求
limiter := rate.NewLimiter(10, 10)
for {
ctx := context.Background()
if err := limiter.Wait(ctx); err != nil {
// 达到限流,拒绝请求
fmt.Println("限流了")
continue
}
// 处理请求
fmt.Println("处理请求")
time.Sleep(time.Second)
}
}
熔断
熔断是一种当系统出错率达到一定阈值时,暂时禁止请求访问的机制。Go 框架中常用的熔断手段包括:
package main
import (
"context"
"fmt"
"golang.org/x/sync/errgroup"
"sync/atomic"
"time"
)
func main() {
// 熔断器状态
var熔断 atomic.Bool
for {
// 创建错误组,用于收集请求结果
g := new(errgroup.Group)
// 发送 10 个请求
for i := 0; i < 10; i++ {
g.Go(func() error {
// 模拟请求
time.Sleep(time.Second)
if random.Intn(10) == 0 {
// 随机产生错误
returnfmt.Errorf("请求失败")
}
return nil
})
}
// 如果错误率超过 50%,则触发熔断
if errorRate >= 0.5 {
熔断.Store(true)
fmt.Println("熔断了")
continue
}
// 如果熔断状态为 true,则拒绝请求
if 熔断.Load() {
fmt.Println("熔断中,拒绝请求")
continue
}
// 等待请求结果
if err := g.Wait(); err != nil {
// 计算错误率
errorRate = float64(errgroup.Wrap(err).NumFailures) / float64(g.N())
// 如果错误率超过 50%,则触发熔断
if errorRate >= 0.5 {
熔断.Store(true)
fmt.Println("熔断了")
}
}
}
}
实战案例
电商平台限流
在电商业务中,限流可以防止用户在促销活动期间同时发起海量请求,导致系统崩溃。通过使用限流机制,可以控制商品页面和下单接口的访问速率,确保系统稳定。
微服务熔断
在微服务架构中,熔断机制可以及时发现和隔离故障服务,防止故障服务影响到其他服务。通过使用熔断机制,当某个微服务出错率达到阈值时,可以自动熔断,直到服务恢复正常。