紅魔電競(jìng)平板評(píng)測(cè)：大屏幕硬實(shí)力
前言：三年的疫情因?yàn)橐暇W(wǎng)課的原因激活了平板市場(chǎng)，如今網(wǎng)課的時(shí)代已經(jīng)過(guò)去，大家的生活都恢復(fù)到了正軌，這也就意味著，真正考驗(yàn)平板電腦生存的環(huán)境來(lái)了。也就是面對(duì)著這種殘酷的
上一篇文章介紹了 如何實(shí)現(xiàn)計(jì)數(shù)器限流。主要有兩種實(shí)現(xiàn)方式，分別是固定窗口和滑動(dòng)窗口，并且分析了 go-zero 采用固定窗口方式實(shí)現(xiàn)的源碼。
但是采用固定窗口實(shí)現(xiàn)的限流器會(huì)有兩個(gè)問(wèn)題：
這篇文章來(lái)介紹一下令牌桶算法，可以很好解決以上兩個(gè)問(wèn)題。
算法概念如下：
圖片
令牌桶算法既能夠?qū)⑺械恼?qǐng)求平均分布到時(shí)間區(qū)間內(nèi)，又能接受服務(wù)器能夠承受范圍內(nèi)的突發(fā)請(qǐng)求，因此是目前使用較為廣泛的一種限流算法。
源碼分析我們還是以 go-zero 項(xiàng)目為例，首先來(lái)看生成令牌的部分，依然是使用 Redis 來(lái)實(shí)現(xiàn)。
// core/limit/tokenlimit.go// 生成 token 速率script = `local rate = tonumber(ARGV[1])// 通容量local capacity = tonumber(ARGV[2])// 當(dāng)前時(shí)間戳local now = tonumber(ARGV[3])// 請(qǐng)求數(shù)量local requested = tonumber(ARGV[4])// 需要多少秒才能把桶填滿local fill_time = capacity/rate// 向下取整，ttl 為填滿時(shí)間 2 倍local ttl = math.floor(fill_time*2)// 當(dāng)前桶剩余容量，如果為 nil，說(shuō)明第一次使用，賦值為桶最大容量local last_tokens = tonumber(redis.call("get", KEYS[1]))if last_tokens == nil then last_tokens = capacityend// 上次請(qǐng)求時(shí)間戳，如果為 nil 則賦值 0local last_refreshed = tonumber(redis.call("get", KEYS[2]))if last_refreshed == nil then last_refreshed = 0end// 距離上一次請(qǐng)求的時(shí)間跨度local delta = math.max(0, now-last_refreshed)// 距離上一次請(qǐng)求的時(shí)間跨度能生成的 token 數(shù)量和桶內(nèi)剩余 token 數(shù)量的和// 與桶容量比較，取二者的小值local filled_tokens = math.min(capacity, last_tokens+(delta*rate))// 判斷請(qǐng)求數(shù)量和桶內(nèi) token 數(shù)量的大小local allowed = filled_tokens >= requested// 被請(qǐng)求消耗掉之后，更新剩余 token 數(shù)量local new_tokens = filled_tokensif allowed then new_tokens = filled_tokens - requestedend// 更新 redis tokenredis.call("setex", KEYS[1], ttl, new_tokens)// 更新 redis 刷新時(shí)間redis.call("setex", KEYS[2], ttl, now)return allowed`Redis 中主要保存兩個(gè) key，分別是 token 數(shù)量和刷新時(shí)間。
核心思想就是比較兩次請(qǐng)求時(shí)間間隔內(nèi)生成的 token 數(shù)量 + 桶內(nèi)剩余 token 數(shù)量，和請(qǐng)求量之間的大小，如果滿足則允許，否則則不允許。
限流器初始化：
// A TokenLimiter controls how frequently events are allowed to happen with in one second.type TokenLimiter struct { // 生成 token 速率 rate int // 桶容量 burst int store *redis.Redis // 桶 key tokenKey string // 桶刷新時(shí)間 key timestampKey string rescueLock sync.Mutex // redis 健康標(biāo)識(shí) redisAlive uint32 // redis 健康監(jiān)控啟動(dòng)狀態(tài) monitorStarted bool // 內(nèi)置單機(jī)限流器 rescueLimiter *xrate.Limiter}// NewTokenLimiter returns a new TokenLimiter that allows events up to rate and permits// bursts of at most burst tokens.func NewTokenLimiter(rate, burst int, store *redis.Redis, key string) *TokenLimiter { tokenKey := fmt.Sprintf(tokenFormat, key) timestampKey := fmt.Sprintf(timestampFormat, key) return &TokenLimiter{ rate: rate, burst: burst, store: store, tokenKey: tokenKey, timestampKey: timestampKey, redisAlive: 1, rescueLimiter: xrate.NewLimiter(xrate.Every(time.Second/time.Duration(rate)), burst), }}其中有一個(gè)變量 rescueLimiter，這是一個(gè)進(jìn)程內(nèi)的限流器。如果 Redis 發(fā)生故障了，那么就使用這個(gè)，算是一個(gè)保障，盡量避免系統(tǒng)被突發(fā)流量拖垮。
圖片
提供了四個(gè)可調(diào)用方法：
// Allow is shorthand for AllowN(time.Now(), 1).func (lim *TokenLimiter) Allow() bool { return lim.AllowN(time.Now(), 1)}// AllowCtx is shorthand for AllowNCtx(ctx,time.Now(), 1) with incoming context.func (lim *TokenLimiter) AllowCtx(ctx context.Context) bool { return lim.AllowNCtx(ctx, time.Now(), 1)}// AllowN reports whether n events may happen at time now.// Use this method if you intend to drop / skip events that exceed the rate.// Otherwise, use Reserve or Wait.func (lim *TokenLimiter) AllowN(now time.Time, n int) bool { return lim.reserveN(context.Background(), now, n)}// AllowNCtx reports whether n events may happen at time now with incoming context.// Use this method if you intend to drop / skip events that exceed the rate.// Otherwise, use Reserve or Wait.func (lim *TokenLimiter) AllowNCtx(ctx context.Context, now time.Time, n int) bool { return lim.reserveN(ctx, now, n)}最終調(diào)用的都是 reverveN 方法：
func (lim *TokenLimiter) reserveN(ctx context.Context, now time.Time, n int) bool { // 判斷 Redis 健康狀態(tài)，如果 Redis 故障，則使用進(jìn)程內(nèi)限流器 if atomic.LoadUint32(&lim.redisAlive) == 0 { return lim.rescueLimiter.AllowN(now, n) } // 執(zhí)行限流腳本 resp, err := lim.store.EvalCtx(ctx, script, []string{ lim.tokenKey, lim.timestampKey, }, []string{ strconv.Itoa(lim.rate), strconv.Itoa(lim.burst), strconv.FormatInt(now.Unix(), 10), strconv.Itoa(n), }) // redis allowed == false // Lua boolean false -> r Nil bulk reply if err == redis.Nil { return false } if errors.Is(err, context.DeadlineExceeded) || errors.Is(err, context.Canceled) { logx.Errorf("fail to use rate limiter: %s", err) return false } if err != nil { logx.Errorf("fail to use rate limiter: %s, use in-process limiter for rescue", err) // 如果有異常的話，會(huì)啟動(dòng)進(jìn)程內(nèi)限流 lim.startMonitor() return lim.rescueLimiter.AllowN(now, n) } code, ok := resp.(int64) if !ok { logx.Errorf("fail to eval redis script: %v, use in-process limiter for rescue", resp) lim.startMonitor() return lim.rescueLimiter.AllowN(now, n) } // redis allowed == true // Lua boolean true -> r integer reply with value of 1 return code == 1}最后看一下進(jìn)程內(nèi)限流的啟動(dòng)與恢復(fù)：
func (lim *TokenLimiter) startMonitor() { lim.rescueLock.Lock() defer lim.rescueLock.Unlock() // 需要加鎖保護(hù)，如果程序已經(jīng)啟動(dòng)了，直接返回，不要重復(fù)啟動(dòng) if lim.monitorStarted { return } lim.monitorStarted = true atomic.StoreUint32(&lim.redisAlive, 0) go lim.waitForRedis()}func (lim *TokenLimiter) waitForRedis() { ticker := time.NewTicker(pingInterval) // 更新監(jiān)控進(jìn)程的狀態(tài) defer func() { ticker.Stop() lim.rescueLock.Lock() lim.monitorStarted = false lim.rescueLock.Unlock() }() for range ticker.C { // 對(duì) redis 進(jìn)行健康監(jiān)測(cè)，如果 redis 服務(wù)恢復(fù)了 // 則更新 redisAlive 標(biāo)識(shí)，并退出 goroutine if lim.store.Ping() { atomic.StoreUint32(&lim.redisAlive, 1) return } }}參考文章：
本文鏈接：http://www.tebozhan.com/showinfo-26-5770-0.htmlGo-Zero 是如何實(shí)現(xiàn)令牌桶限流的？
聲明：本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí)，若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權(quán)所有 sitemap.xml
違法及侵權(quán)請(qǐng)聯(lián)系：2376512515@qq.com 津ICP備18001702號(hào)
津公網(wǎng)安備 12010102000574號(hào)