您现在的位置是:亿华云 > IT科技
Golang 熔断器的实现
亿华云2025-10-03 21:58:02【IT科技】6人已围观
简介Go 项目中使用熔断技术提高系统容错性。本文介绍了 Go熔断器和其使用。熔断器像是一个保险丝。当我们依赖的服务出现问题时,可以及时容错。一方面可以减少依赖服务对自身访问的依赖,防止出现雪崩效应;另一方
Go 项目中使用熔断技术提高系统容错性。熔断本文介绍了 Go 熔断器和其使用。实现
熔断器像是熔断一个保险丝。当我们依赖的实现服务出现问题时,可以及时容错。熔断一方面可以减少依赖服务对自身访问的实现依赖,防止出现雪崩效应;另一方面降低请求频率以方便上游尽快恢复服务。熔断
熔断器的实现应用也非常广泛。除了在我们应用中,熔断为了请求服务时使用熔断器外,实现在 web 网关、熔断微服务中,实现也有非常广泛的熔断应用。本文将从源码角度学习 sony 开源的实现一个熔断器实现 github/sony/gobreaker。(代码注释可以从github/lpflpf/gobreaker 查看)
熔断器的熔断模式
gobreaker 是基于《微软云设计模式》一书中的熔断器模式的 Golang 实现。有 sony 公司开源,目前 star 数有 1.2K。使用人数较多。
下面是模式定义的一个状态机:
熔断器有三种状态,四种状态转移的情况:
三种状态:
熔断器关闭状态,服务正常访问 熔断器开启状态,香港云服务器服务异常 熔断器半开状态,部分请求限流访问四种状态转移:
在熔断器关闭状态下,当失败后并满足一定条件后,将直接转移为熔断器开启状态。 在熔断器开启状态下,如果过了规定的时间,将进入半开启状态,验证目前服务是否可用。 在熔断器半开启状态下,如果出现失败,则再次进入关闭状态。 在熔断器半开启后,所有请求(有限额)都是成功的,则熔断器关闭。所有请求将正常访问。gobreaker 的实现
gobreaker 是在上述状态机的基础上,实现的一个熔断器。
熔断器的定义
type CircuitBreaker struct { name string maxRequests uint32 // 最大请求数 (半开启状态会限流) interval time.Duration // 统计周期 timeout time.Duration // 进入熔断后的超时时间 readyToTrip func(counts Counts) bool // 通过 Counts 判断是否开启熔断。需要自定义 onStateChange func(name string, from State, to State) // 状态修改时的钩子函数 mutex sync.Mutex // 互斥锁,下面数据的更新都需要加锁 state State // 记录了当前的云服务器状态 generation uint64 // 标记属于哪个周期 counts Counts // 计数器,统计了 成功、失败、连续成功、连续失败等,用于决策是否进入熔断 expiry time.Time // 进入下个周期的时间 }其中,如下参数是我们可以自定义的:
MaxRequests:最大请求数。当在最大请求数下,均请求正常的情况下,会关闭熔断器 interval:一个正常的统计周期。如果为 0,那每次都会将计数清零 timeout: 进入熔断后,可以再次请求的时间 readyToTrip:判断熔断生效的钩子函数 onStateChagne:状态变更的钩子函数请求的执行
熔断器的执行操作,主要包括三个阶段;①请求之前的判定;②服务的请求执行;③请求后的状态和计数的更新
// 熔断器的调用 func (cb *CircuitBreaker) Execute(req func() (interface{ }, error)) (interface{ }, error) { // ①请求之前的判断 generation, err := cb.beforeRequest() if err != nil { return nil, err } defer func() { e := recover() if e != nil { // ③ panic 的捕获 cb.afterRequest(generation, false) panic(e) } }() // ② 请求和执行 result, err := req() // ③ 更新计数 cb.afterRequest(generation, err == nil) return result, err }请求之前的判定操作
请求之前,高防服务器会判断当前熔断器的状态。如果熔断器以开启,则不会继续请求。如果熔断器半开,并且已达到最大请求阈值,也不会继续请求。
func (cb *CircuitBreaker) beforeRequest() (uint64, error) { cb.mutex.Lock() defer cb.mutex.Unlock() now := time.Now() state, generation := cb.currentState(now) if state == StateOpen { // 熔断器开启,直接返回 return generation, ErrOpenState } else if state == StateHalfOpen && cb.counts.Requests >= cb.maxRequests { // 如果是半打开的状态,并且请求次数过多了,则直接返回 return generation, ErrTooManyRequests } cb.counts.onRequest() return generation, nil }其中当前状态的计算,是依据当前状态来的。如果当前状态为已开启,则判断是否已经超时,超时就可以变更状态到半开;如果当前状态为关闭状态,则通过周期判断是否进入下一个周期。
func (cb *CircuitBreaker) currentState(now time.Time) (State, uint64) { switch cb.state { case StateClosed: if !cb.expiry.IsZero() && cb.expiry.Before(now) { // 是否需要进入下一个计数周期 cb.toNewGeneration(now) } case StateOpen: if cb.expiry.Before(now) { // 熔断器由开启变更为半开 cb.setState(StateHalfOpen, now) } } return cb.state, cb.generation }周期长度的设定,也是以据当前状态来的。如果当前正常(熔断器关闭),则设置为一个 interval 的周期;如果当前熔断器是开启状态,则设置为超时时间(超时后,才能变更为半开状态)。
请求之后的处理操作
每次请求之后,会通过请求结果是否成功,对熔断器做计数。
func (cb *CircuitBreaker) afterRequest(before uint64, success bool) { cb.mutex.Lock() defer cb.mutex.Unlock() now := time.Now() // 如果不在一个周期,就不再计数 state, generation := cb.currentState(now) if generation != before { return } if success { cb.onSuccess(state, now) } else { cb.onFailure(state, now) } }如果在半开的状态下:
如果请求成功,则会判断当前连续成功的请求数 大于等于 maxRequests, 则可以把状态由半开状态转移为关闭状态 如果在半开状态下,请求失败,则会直接将半开状态转移为开启状态如果在关闭状态下:
如果请求成功,则计数更新 如果请求失败,则调用 readyToTrip 判断是否需要将状态关闭状态转移为开启状态总结
对于频繁请求一些远程或者第三方的不可靠的服务,存在失败的概率还是非常大的。使用熔断器的好处就是可以是我们自身的服务不被这些不可靠的服务拖垮,造成雪崩。 由于熔断器里面,不仅会维护不少的统计数据,还有互斥锁做资源隔离,成本也会不少。 在半开状态下,可能出现请求过多的情况。这是由于半开状态下,连续请求成功的数量未达到最大请求值。所以,熔断器对于请求时间过长(但是比较频繁)的服务可能会造成大量的 too many requests 错误很赞哦!(915)
相关文章
- 用户邮箱的静态密码可能已被钓鱼和同一密码泄露。在没有收到安全警报的情况下,用户在适当的时间内不能更改密码。在此期间,攻击者可以随意输入帐户。启用辅助身份验证后,如果攻击者无法获取移动电话动态密码,他将无法进行身份验证。这样,除非用户的电子邮件密码和手机同时被盗,否则攻击者很难破解用户的邮箱。
- Go 提问:值为 Nil 能调用函数吗?
- 增删改查这么多年,最后栽在MySQL的架构设计上
- Apache Hudi 新版本新特性超强解读
- 第五步:重复第四步,直到找到正确的纪录。
- 速度超高端GPU数百倍,摩尔定律的未来是「光」?
- MySQL的监控原理
- 2020年,中国关系型数据库市场空前繁荣
- ICANN 规章禁止转移已经被记录或者在60天前内转移的域名。
- 域名的续费和转让应该注意哪些问题?