目录
一、整体高并发设计核心原则
二、接入层高并发设计（第一道防线）
1. 负载均衡（水平扩容核心）
2. 限流（防止流量冲垮服务）
3. 静态资源分离
三、应用层（Java 服务）高并发设计
1. 无状态化设计（支持水平扩容）
2. 线程模型优化
（1）Tomcat/Jetty 调优（必做）
（2）异步 Servlet / Spring WebFlux（响应式编程）
3. 异步化改造（提升吞吐量神器）
实现方案
4. 接口优化
5. 服务隔离与熔断降级
四、缓存层设计（高并发灵魂）
1. 多级缓存架构
2. 缓存核心方案
（1）缓存策略
（2）解决缓存三大问题
3. Redis 高并发部署
五、数据层高并发设计（最后一道防线）
1. MySQL 优化
2. 读写分离
3. 分库分表（海量数据必备）
4. 数据库连接池优化
六、消息队列（高并发削峰神器）
作用
生产选型
七、JVM 高并发调优
八、高并发实战经典方案（秒杀 / 下单）
九、高并发稳定性保障
总结
高并发核心目标：提升吞吐量、降低响应延迟、保证系统稳定性，核心设计思路是分层解耦、流量削峰、资源隔离、异步化、缓存化、水平扩容。
本文会按照Java 后端架构分层（接入层→应用层→服务层→数据层），结合实战方案讲清楚高并发设计，覆盖代码、架构、中间件、调优全维度。
一、整体高并发设计核心原则
- 能缓存绝不查库：热点数据 100% 缓存
- 能异步绝不同步：非核心流程全异步
- 能水平绝不垂直：支持无限扩容
- 能限流绝不硬扛：保护核心服务不被打垮
- 能隔离绝不共享：避免单点故障拖垮全局
二、接入层高并发设计（第一道防线）
负责接收请求、流量过滤、负载均衡、限流，是高并发第一道关卡。
1. 负载均衡（水平扩容核心）
- 硬件：F5（企业级）
- 软件：Nginx、LVS、HAProxy
- Java 适配：Spring Cloud Gateway / Zuul 网关集群
- 策略：轮询、加权轮询、IP 哈希、最少连接数
2. 限流（防止流量冲垮服务）
生产必用方案：
- 网关层限流：Nginx
limit_req - 应用层限流：Sentinel、Guava RateLimiter、Resilience4j
- 限流算法：令牌桶、漏桶、计数器
3. 静态资源分离
- 静态资源（JS/CSS/ 图片）全部放到CDN
- 动静分离：Nginx 直接返回静态资源，不请求 Java 服务
三、应用层（Java 服务）高并发设计
这是核心层，直接决定并发承载能力。
1. 无状态化设计（支持水平扩容）
- Java 服务不存储会话、本地缓存等状态数据
- 会话存储到 Redis，服务可以无限加机器
- 禁止使用：本地内存缓存全局热点数据
2. 线程模型优化
（1）Tomcat/Jetty 调优（必做）
properties
# Tomcat 高并发配置 server.tomcat.threads.max=800 # 最大工作线程 server.tomcat.threads.min-spare=200 # 最小空闲线程 server.tomcat.accept-count=1000 # 等待队列长度 server.tomcat.connection-timeout=20000 server.tomcat.max-connections=10000- IO 密集型服务：线程数设大一点
- CPU 密集型服务：线程数 = CPU 核心数 * 2
（2）异步 Servlet / Spring WebFlux（响应式编程）
- 同步 Web：一个请求一个线程，高并发下线程耗尽
- 异步非阻塞：Spring WebFlux + Netty，少量线程支撑高并发
- 适用：网关、高 QPS 接口、IO 密集型服务
3. 异步化改造（提升吞吐量神器）
同步流程：请求→校验→下单→扣库存→发短信→推消息→返回高并发改造：只保留核心流程，非核心异步执行
实现方案
- Spring @Async异步线程池
- 消息队列削峰：RabbitMQ / RocketMQ / Kafka
- 线程池必须自定义，禁止使用 Executors（生产坑）
// 标准生产线程池 @Bean public ThreadPoolTaskExecutor asyncExecutor() { ThreadPoolTaskExecutor executor = new ThreadPoolTaskExecutor(); executor.setCorePoolSize(50); // 核心线程 executor.setMaxPoolSize(200); // 最大线程 executor.setQueueCapacity(1000); // 队列 executor.setRejectedExecutionHandler(new ThreadPoolExecutor.CallerRunsPolicy()); return executor; }4. 接口优化
- 接口幂等性：防止重复提交 / 重试（token 机制、数据库唯一索引）
- 请求合并：批量接口替代单条循环调用
- 超时控制：所有远程调用必须设置超时时间
- 结果分页：禁止全量返回大数据
5. 服务隔离与熔断降级
- Sentinel：按接口 / 服务限流、熔断、降级
- 线程池隔离：核心业务独立线程池，不互相影响
- 降级策略：高并发时关闭非核心功能（如推荐、统计）
四、缓存层设计（高并发灵魂）
90% 的高并发瓶颈在数据库，缓存能扛住 80% 流量。
1. 多级缓存架构
- 本地缓存：Caffeine（性能最高）→ 热点小数据
- 分布式缓存：Redis 集群 → 全局共享数据
- CDN 缓存→ 静态资源
2. 缓存核心方案
（1）缓存策略
- 读：先查缓存→不存在查库→写入缓存
- 写：先更新数据库，再删除缓存（最稳）
（2）解决缓存三大问题
- 缓存穿透：布隆过滤器、缓存空值
- 缓存击穿：互斥锁、热点数据永不过期
- 缓存雪崩：过期时间加随机值、Redis 集群、熔断降级
3. Redis 高并发部署
- 主从 + 哨兵（高可用）
- Redis Cluster（分片集群，支撑 10 万 + QPS）
- 禁用 keys *、hgetall 等高耗时命令
五、数据层高并发设计（最后一道防线）
数据库是高并发最薄弱环节，必须少查、精查、分库分表。
1. MySQL 优化
- 索引优化：最左前缀、避免索引失效、禁止 select *
- 慢查询优化：开启慢查询日志，持续优化
- 事务优化：缩短事务执行时间，禁止大事务
2. 读写分离
- 主库写、从库读
- MyCat、Sharding-JDBC 实现读写分离
- 读多写少场景，性能提升 N 倍
3. 分库分表（海量数据必备）
当单表 **>1000 万 ** 必须分表：
- 垂直分库：按业务拆分（订单库、用户库）
- 水平分表：按用户 ID / 订单 ID 哈希取模
- 框架：Sharding-JDBC（Java 生态最主流）
4. 数据库连接池优化
properties
spring.datasource.hikari.maximum-pool-size=50 # 核心 spring.datasource.hikari.minimum-idle=10 spring.datasource.hikari.idle-timeout=300000HikariCP 是 Java 性能最高连接池。
六、消息队列（高并发削峰神器）
秒杀、下单、支付等高并发场景必须用 MQ。
作用
- 流量削峰：瞬间 1 万请求→MQ 排队→服务匀速消费
- 异步解耦：下单、支付、物流、通知解耦
- 最终一致性：分布式事务解决方案
生产选型
- 高可靠：RocketMQ
- 高吞吐：Kafka
- 通用型：RabbitMQ
七、JVM 高并发调优
Java 服务自身优化，减少 GC 停顿，提升并发能力。
# 生产JVM标配参数 -Xms8g -Xmx8g # 堆内存固定值，避免扩容 -XX:+UseG1GC # G1收集器（高并发首选） -XX:MaxGCPauseMillis=200 # 最大GC停顿200ms -XX:+ParallelRefProcEnabled核心：减少 Full GC，Full GC 会导致服务卡顿。
八、高并发实战经典方案（秒杀 / 下单）
以电商秒杀为例，完整高并发流程：
- CDN → 静态页面
- Nginx → 限流、负载均衡
- Gateway → 接口限流、认证
- Redis → 商品库存、用户限购、缓存商品信息
- 消息队列 → 异步下单、削峰
- 服务隔离 → 秒杀服务独立集群
- 数据库 → 分库分表、读写分离
- 降级 → 秒杀高峰期关闭商品推荐
九、高并发稳定性保障
- 监控：Prometheus + Grafana 监控 QPS、RT、错误率
- 压测：JMeter、压测必须上线前做
- 预案：限流、熔断、降级、开关一键配置
- 扩容：支持服务 / Redis/MySQL 快速水平扩容
总结
Java 高并发设计不是单一技术，而是整套架构体系：
- 前端 / 接入层：负载均衡、限流、CDN
- 应用层：无状态、异步、线程池、响应式、隔离熔断
- 缓存层：多级缓存、Redis 集群、解决三大问题
- 数据层：索引、读写分离、分库分表
- 中间件：消息队列削峰解耦
- JVM：优化 GC，避免停顿
 + RabbitMQ 实现「Redis 预扣库存 + 异步同步数据库」)
