CLOUD云枢在阿里云 API 网关的架构设计中，并发限制（Concurrency Limit）和连接数限制（Connection Limit）是两个核心但维度不同的流量控制指标，理解它们的区别对于设计高可用、抗流量的系统至关重要。
1. 并发限制 (Concurrency Limit)
定义：
并发限制指的是 API 网关在同一时刻能够同时处理的请求数量上限。这里的“处理”是指请求已经到达网关，正在被转发给后端服务（如 ECS、函数计算 FC、SLB 等），或者正在等待后端响应的状态。
技术本质：
它关注的是业务逻辑层面的处理能力。当并发数达到阈值时，新的请求会被立即拦截（通常返回 HTTP 429 Too Many Requests 或 503 Service Unavailable），以防止后端服务因过载而崩溃。
关键特性：
- 独立配额：你可以为每个 API 方法（Method）、API 分组（Group）甚至整个账号设置不同的并发上限。
- 与后端解耦：即使你的后端服务器（如 Nginx + Tomcat）理论上能扛住 1000 个并发，如果 API 网关配置的并发限制是 100，那么超过 100 的请求在网关层就会被熔断。这是一种典型的前置保护机制。
- 适用场景：适用于防止突发流量冲垮后端应用，或者对特定敏感接口进行精细化限流（例如登录接口限制每秒只能处理 50 个并发）。
2. 连接数限制 (Connection Limit)
定义：
连接数限制指的是 API 网关实例（或集群）当前维持的TCP 长连接总数上限。这包括客户端到网关的连接，以及网关到后端的连接。
技术本质：
它关注的是网络链路层面的资源消耗。在 TCP/IP 协议栈中，每一个连接都需要占用操作系统内核的文件描述符（File Descriptor）、内存缓冲区等资源。当连接数达到阈值，新的 TCP 握手（SYN 包）将无法建立。
关键特性：
- 实例级约束：这通常取决于你购买的 API 网关实例规格（如入门版、标准版、企业版）。不同规格的实例，其最大支持的最大连接数（Max Connections）是不同的。
- 长连接友好性：如果你的业务大量使用 WebSocket 或 HTTP Keep-Alive（长连接），连接数会迅速累积。此时，即使并发请求数不高，也可能因为连接数耗尽而导致新连接无法建立。
- 硬件瓶颈映射：这个限制往往直接对应底层服务器的网卡队列深度、文件句柄数（ulimit -n）以及带宽吞吐能力。
核心区别对比
为了更直观地理解，我们可以从以下几个维度进行区分：
| 维度 | 并发限制 (Concurrency) | 连接数限制 (Connections) |
|---|---|---|
| 控制粒度 | 针对请求（Request） | 针对会话/链路（Session/TCP Connection） |
| 触发条件 | 同一时刻正在处理的请求数 | 当前建立的 TCP 连接总数 |
| 主要影响 | 决定后端服务的CPU/计算负载是否过载 | 决定系统的网络资源/文件句柄是否耗尽 |
| 典型场景 | 秒杀活动、高频查询接口 | WebSocket 推送、大量长轮询、HTTP/2 多路复用 |
| 配置层级 | 可细化到具体 API 路径或分组 | 通常绑定在实例规格上，部分版本支持全局调整 |
| 超限后果 | 直接拒绝新请求 (429/503) | 拒绝新 TCP 握手，导致连接超时或失败 |
实际运维建议
在国内云环境下，针对阿里云 API 网关的部署，建议遵循以下策略：
- 分层防护：不要仅依赖一种限制。通常做法是：在网关层设置并发限制作为第一道防线，保护后端；同时根据实例规格监控连接数，确保网络层不成为瓶颈。
- WebSocket 场景：如果你的业务涉及实时通讯（WebSocket），连接数往往是首要瓶颈。此时需要评估实例规格是否足够支撑预期的在线用户数（1 个用户通常对应 1 个长连接），并考虑是否需要升级实例规格或进行水平扩展（多实例部署）。
- 短连接 vs 长连接：对于传统的 RESTful 短连接业务，并发限制的影响远大于连接数限制；而对于长连接业务，必须优先关注连接数上限。
- 弹性伸缩：利用阿里云 API 网关的自动扩缩容能力（如配合函数计算 FC 或 SLB），在流量洪峰来临时动态调整资源，避免因静态配置的限制导致服务不可用。
总结来说，并发限制管的是“活”（正在跑的业务量），连接数限制管的是“线”（承载业务的通道数量）。在实际架构设计中，两者需配合使用，才能构建出既稳定又高效的 API 服务。