速率限制是指對用戶在一定時間段內向系統發出的請求次數進行控制,以保證系統的穩定性和資源的公平分配。
可以使用令牌桶或滑動日志方法。
public class RateLimiter { private final long maxRequests; private long lastRequestTime = System.currentTimeMillis(); private long currentRequests = 0; public RateLimiter(long maxRequestsPerSecond) { this.maxRequests = maxRequestsPerSecond; } public synchronized boolean allowRequest() { long currentTime = System.currentTimeMillis(); if (currentTime - lastRequestTime > 1000) { lastRequestTime = currentTime; currentRequests = 0; } if (currentRequests < maxRequests) { currentRequests++; return true; } return false; }}
系統以一定的頻率向桶里放入令牌。每個請求都要消耗一個令牌。如果桶里沒有令牌,請求就會被拒絕。
Redis,憑借其原子操作和過期鍵,可以在分布式系統中高效地跟蹤記錄請求次數或令牌數量。
Redis 可用于限制速率
使用一個集中式存儲,如Redis,或一個分布式配置系統,如ZooKeeper,來協調多個實例之間的速率限制。
Redis 可處理分布式速率限制
ZooKeeper 可處理分布式速率限制
有狀態的限流器會保存狀態(比如請求次數),而無狀態的限流器只根據當前的數據做出決策,不存儲過去的信息。
無狀態的限流器不會在請求之間保留任何狀態,也就是說它不會記住之前的請求。它只是根據當前請求的信息做出決策。無狀態限流器的一種常用方法是使用JWT(JSON Web Token)或類似的令牌,令牌里面包含了必要的信息。
下面是使用JWT的簡單示例:
下面是基本的實現:
import io.jsonwebtoken.Jwts;import io.jsonwebtoken.SignatureAlgorithm;import io.jsonwebtoken.Claims;public class StatelessRateLimiter { private static final String SECRET_KEY = "mySecretKey"; private static final int MAX_REQUESTS = 10; private static final int ONE_HOUR = 3600000; public String generateToken() { long expirationTime = System.currentTimeMillis() + ONE_HOUR; return Jwts.builder() .setSubject("rateLimitToken") .claim("requests", 0) .setExpiration(new Date(expirationTime)) .signWith(SignatureAlgorithm.HS512, SECRET_KEY) .compact(); } public boolean allowRequest(String token) { try { Claims claims = Jwts.parser() .setSigningKey(SECRET_KEY) .parseClaimsJws(token) .getBody(); int requests = claims.get("requests", Integer.class); if (requests < MAX_REQUESTS) { claims.put("requests", requests + 1); return true; } return false; } catch (Exception e) { return false; } }}
這是一個簡化的例子。在實際場景中,你需要處理令牌的更新,確保令牌的安全存儲,并管理其他安全方面。這里使用的JWT庫是jjwt
。
用一個列表或雙端隊列來存儲請求的時間戳。保證在每個時間窗口內的請求次數不超過限制。
import java.util.Deque;import java.util.LinkedList;public class SlidingWindowRateLimiter { private final Deque<Long> timestamps; private final int maxRequests; private final long windowSizeInMillis; public SlidingWindowRateLimiter(int maxRequests, long windowSizeInMillis) { this.timestamps = new LinkedList<>(); this.maxRequests = maxRequests; this.windowSizeInMillis = windowSizeInMillis; } public synchronized boolean allowRequest() { long currentTime = System.currentTimeMillis(); // 移除當前窗口外的時間戳 while (!timestamps.isEmpty() && timestamps.peekFirst() < currentTime - windowSizeInMillis) { timestamps.pollFirst(); } // 檢查是否添加一個新請求會超過最大限制 if (timestamps.size() < maxRequests) { timestamps.addLast(currentTime); return true; } return false; } public static void main(String[] args) { SlidingWindowRateLimiter limiter = new SlidingWindowRateLimiter(5, 1000); // 每秒5個請求 for (int i = 0; i < 10; i++) { System.out.println(limiter.allowRequest()); // 前5個為true,后5個為false try { Thread.sleep(200); //睡眠200毫秒 } catch (InterruptedException e) { e.printStackTrace(); } } }}
在這個例子中,SlidingWindowRateLimiter限制了在一定時間窗口(windowSizeInMillis)內的最大請求次數(maxRequests)。Deque用于存儲請求的時間戳。每次判斷是否可以接受新請求時,它會先刪除已經超出當前窗口的時間戳,然后再把Deque的長度和最大請求次數對比。
在API網關層實現限流器或使用集中式存儲來實現分布式速率限制方法。
要求盡可能降低延遲,應對海量的請求,并在監控和執行限制的過程中不影響系統性能。
使用HTTP頭,如X-RateLimit-Limit,X-RateLimit-Remaining,和X-RateLimit-Reset來傳達速率限制的細節。
速率限制是后端工程廣闊領域中的一項重要技術,它能夠保證系統的穩定性和資源的公平分配。我們已經了解了Java提供的各種工具和技術,可以用來實現有效的速率限制策略。無論你是準備面試,還是想要優化你的后端系統,掌握速率限制的細節都是非常必要的。建議你深入學習并進行實驗。
本文鏈接:http://www.tebozhan.com/showinfo-26-11863-0.html十道Java限流器面試題和答案
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com