QPS（Queries Per Second） 是衡量系统吞吐量的核心指标，表示每秒能处理的请求数量。以下是关于QPS的完整解析和实践指南：

---

一、QPS的核心公式

QPS = 总请求量 / 请求总时间（秒）

典型场景计算：

• 日请求量1000万：QPS = 10,000,000 / (24*3600) ≈ 116
• 高峰时段（如秒杀）：需按峰值流量计算（例如1分钟内处理10万请求 → QPS=10,000/60≈1667）

---

二、QPS性能分层与应对策略

QPS范围	适用场景	关键技术方案
< 50	内部管理系统	单机Tomcat/Spring Boot + MySQL
50~500	中小型Web应用	Nginx负载均衡 + Redis缓存 + 数据库读写分离
500~5000	电商/社交应用	微服务集群 + Redis集群 + 分库分表 + CDN
> 5000	双11/春晚级高并发	分布式架构 + 异步化+ 队列削峰 + 异地多活 + 自动扩缩容

---

三、提升QPS的6大核心手段

1. 架构优化

   • 分层设计：客户端 → CDN → 网关 → 服务层 → 缓存层 → 数据层
   • 服务无状态化：方便水平扩展
   • 热点隔离：将高频业务独立部署（如秒杀服务）

2. 并发能力提升

   // Java线程池配置示例 (Tomcat)
   server.tomcat.max-threads=1000  // 默认200，需根据压测调整
   server.tomcat.accept-count=1000 // 等待队列长度
   

3. 缓存加速

   • Redis集群：单节点QPS可达10万+
   • 多级缓存架构：

4. 数据库优化

   • 读写分离：主库写 + 多个读库
   • 分库分表：ShardingSphere / MyCAT
   • 连接池调优：

     # Druid配置示例
     spring.datasource.druid.max-active=100
     spring.datasource.druid.initial-size=10
     

5. 异步化处理

   # Celery异步任务示例（Python）
   @app.task
   def process_order(order_id):# 耗时操作save_to_db(order_id)# 接口中调用
   process_order.delay(order_id)  # 立即返回响应
   

6. 流量控制

   • 限流算法：

     // Golang令牌桶限流
     limiter := rate.NewLimiter(100, 10) // QPS=100
     if !limiter.Allow() {return errors.New("请求超限")
     }
     

   • 降级策略：超时直接返回默认数据

---

四、QPS压测实战

1. 工具选择

工具	特点	适用场景
JMeter	图形化界面，支持复杂逻辑	HTTP/API测试
wrk	轻量级，高并发低开销	基准测试
Locust	Python脚本，分布式压测	自定义场景模拟

2. 压测命令示例

# wrk测试（100线程，1000连接，持续30秒）
wrk -t100 -c1000 -d30s --latency http://api.example.com# 输出关键指标
Requests/sec: 3680  # 实际QPS
Latency: 45.2ms     # 平均延迟

3. 压测关注点

• 拐点探测：QPS增长但响应时间突增的点（系统瓶颈）
• 错误率：>0.1%需立即优化
• 资源监控：CPU >70% / 内存 >80% / 网络IO打满

---

五、QPS与其他指标的关系

指标	计算公式	与QPS的关联
TPS	每秒事务数	事务型系统中 QPS ≈ TPS
RT	平均响应时间(ms)	QPS = 并发数 / (RT/1000)
并发数	同时处理的请求数	并发数 = QPS * (RT/1000)

案例：若系统RT=50ms，要达到1000 QPS：
所需并发数 = 1000 * (0.05) = 50

---

六、高QPS系统设计案例（电商秒杀）

关键实现：

1. 库存预扣：Redis DECR 原子操作
2. 请求过滤：网关层布隆过滤器拦截重复请求
3. 最终一致性：Kafka保证订单创建

---

七、QPS 提升 Checklist

• 基准测试确定当前QPS瓶颈
• 添加应用层缓存（Redis/本地缓存）
• 优化SQL（慢查询消灭 >100ms操作）
• 线程池/连接池参数调优
• 启用Gzip压缩减少网络传输
• 静态资源CDN化
• 非核心操作异步化
• 实施限流熔断机制

实际优化效果：某电商支付接口通过Redis缓存+异步化，QPS从800提升至12,000，延迟从350ms降至28ms。