支持高并发的服务器应该关注哪些性能指标？

支持高并发场景的服务器，其性能评估不能仅看单一指标，而需要从资源瓶颈、网络吞吐、系统延迟以及业务逻辑四个维度进行综合考量。以下是核心关注点及分析逻辑：

1. 核心资源利用率（Resource Utilization）

这是判断硬件是否成为瓶颈的第一道防线。

• CPU 使用率与负载：
  • 不仅要看 user 和 system 态的 CPU 使用率，更要关注 Load Average（平均负载）。在高并发下，如果 Load 持续高于 CPU 核数，说明进程排队严重，响应时间会急剧增加。
  • 需区分是计算密集型（高 user 态）还是 I/O 等待型（高 iowait）。对于高并发 Web 服务，通常希望 CPU 处于中等负载（如 40%-60%），留出余量应对突发流量。
• 内存使用与 Swap 交换：
  • 监控物理内存剩余量和缓存（Cache/Buff）占比。
  • 关键点：必须严格避免 Swap 交换（Swap In/Out）。一旦发生 Swap，磁盘 I/O 会导致延迟从毫秒级飙升到秒级甚至分钟级，直接导致服务雪崩。
• 文件描述符（File Descriptors）：
  • 高并发连接本质是大量 Socket 连接。Linux 默认限制（ulimit -n）通常为 1024，这在万级并发下会瞬间耗尽，导致 Too many open files 错误。需根据并发量调整内核参数（如 fs.file-max）和应用层限制。

2. 网络性能指标（Network Performance）

网络往往是高并发系统的最大瓶颈，尤其是带宽和连接建立过程。

• 吞吐量（Throughput）：
  • 关注网卡入站（Inbound）和出站（Outbound）的带宽占用率。需预留 30%-50% 的带宽余量以应对突发流量。
• 连接数（Connections）：
  • ESTABLISHED：当前活跃连接数。
  • TIME_WAIT：短时间内大量连接关闭产生的状态。如果 TIME_WAIT 过多且未正确配置（如开启 tcp_tw_reuse），会耗尽端口资源，导致新连接无法建立。
  • SYN_RECV / SYN_SENT：若这些状态积压，可能意味着遭受了 SYN Flood 攻击或后端处理不过来。
• 丢包率与重传率（Packet Loss & Retransmission）：
  • 在拥塞控制机制下，丢包会触发 TCP 退避算法，导致吞吐量断崖式下跌。需通过 netstat -s 或 ss 命令监控 TCPReTransmits。
• TCP 队列长度：
  • backlog（半连接队列）和 accept queue（全连接队列）是否溢出。如果溢出，客户端会收到 Connection Refused 或超时，而非被丢弃。需调优 somaxconn 和 listen backlog。

3. 延迟与响应时间（Latency & Response Time）

对于用户感知而言，延迟比吞吐量更重要。

• P95/P99 延迟：
  • 平均值（Average）具有欺骗性，必须关注长尾延迟。例如 P99 延迟（99% 的请求在多少时间内完成）能真实反映极端情况下的用户体验。
• 上下文切换（Context Switches）：
  • 高并发下，如果线程/进程频繁切换（voluntary/involuntary），CPU 将把大量时间浪费在调度上而非处理业务。监控 cs（context switches）指标，过高说明锁竞争严重或线程模型设计不当。
• I/O 等待时间：
  • 如果是数据库驱动或涉及大量读写，需关注磁盘 I/O 的 await（平均每次 I/O 操作等待时间）和 %util（磁盘利用率）。

4. 应用层与架构指标

服务器性能最终服务于业务逻辑，需结合具体技术栈观察。

• QPS/TPS（Queries/Transactions Per Second）：
  • 单位时间内的请求处理能力。需对比不同并发度下的 QPS 曲线，寻找“拐点”（即性能开始下降的临界点）。
• GC 停顿时间（针对 Java/Go 等语言）：
  • 在 JVM 环境下，Full GC 导致的 STW（Stop-The-World）会直接卡死所有线程。需监控 GC 频率和单次停顿时长，确保不超过业务 SLA 容忍阈值（如 < 100ms）。
• 数据库连接池状态：
  • 高并发下，应用服务器的瓶颈往往不在自身，而在数据库连接池是否已满，导致请求在应用层阻塞。

5. 调优建议与合规提示

在实际操作中，优化通常是权衡（Trade-off）的过程：

• 内核参数调优：针对高并发场景，需调整 /etc/sysctl.conf 中的 net.core.somaxconn、net.ipv4.tcp_max_syn_backlog、vm.swappiness 等参数。
• 架构扩展：单台服务器总有物理极限。当单机性能触顶时，应优先考虑水平扩展（Scale-out），引入负载均衡（SLB/ELB/Nginx）集群，利用分布式架构解决单体瓶颈。
• 云厂商特性：国内主流云厂商（如阿里云、腾讯云、华为云）提供的云服务器通常带有弹性伸缩（Auto Scaling）和云监控功能。建议开启自动报警策略，当 CPU 或带宽超过阈值时自动扩容实例，并配合 CDN 提速静态资源，减轻源站压力。

总结：
构建高并发服务器，核心在于消除单点瓶颈。不要盲目追求 CPU 满载，而应追求在低延迟（Low Latency）和高吞吐（High Throughput）之间的平衡。监控体系必须覆盖从底层内核到上层业务的完整链路，重点防范内存溢出、连接数耗尽和磁盘 I/O 阻塞这三类致命问题。