【Linux】服务器分析

【Linux】服务器分析【一】基础概念【1】CPU 核心16C1进程2线程【2】逻辑线程32T【二】16C 32G 机器理论性能上限【1】CPU 上限【2】内存上限总 32G【3】IO / 网络隐性上限【三】如何充分利用 16C32G 资源【1】核心原则【2】Java/DataX 类应用IO 密集型DataX 同步服务1JVM 内存分配标准32G 机器2线程池配置DataX 核心 channel 通道【3】Nginx轻量网关转发 DataX 请求【4】系统内核参数调优最大化网络 / 文件性能【5】负载均衡拆分资源集群场景【四】看服务器 CPU、内存、磁盘、线程资源使用【1】top实时整机监控【2】内存专项查看【3】CPU 硬件规格查询确认 16C 真实配置【4】线程 / 进程资源排查定位哪个线程占满 CPU【5】磁盘 IO 负载DataX 同步重点监控【6】网络负载StreamLoad 大量 HTTP 请求【五】资源利用率判定标准16C32G 运维阈值【一】基础概念【1】CPU 核心16C当前机器逻辑 CPU 总数 16 个操作系统调度最小单位是逻辑 CPU。单核同一时间只能执行 1 个线程16C 理论最大并发线程调度上限同时跑满 16 个活跃线程CPU 使用率 100% 16 个核心全部打满无空闲算力。1进程独立程序实例拥有独立内存空间、文件句柄、PID例一个 DataX 服务、一个 Nginx、一个 Java 应用各是独立进程。进程之间内存隔离不能直接共享堆内存。2线程进程内的执行单元共享进程堆内存、文件句柄Java/DataX 都是多线程模型一个进程可以开几十几百个线程操作系统 CPU 调度只看线程不看进程。【2】逻辑线程32T32 线程32TThread操作系统识别到 32 个逻辑处理器。1 个物理核心CPU 硬件虚拟出 2 个逻辑线程16 × 2 32所以 16 物理核输出 32 线程。通俗比喻一个办公室有 16 个工位物理核心每个工位配两套工具超线程一个工位可以交替干两件活。对外看起来仿佛有 32 个工位在干活但真实只有 16 个人。✅优点当一个核心在等待等待磁盘、网络、内存数据CPU 不用空闲可以跑第二个线程任务。Java 后端、多线程程序、压测、编译代码收益很大。【二】16C 32G 机器理论性能上限【1】CPU 上限满载阈值CPU 整体使用率持续 ≥85% 属于高负载持续 100% 代表瓶颈线程安全上限业务计算线程总和建议 ≤12至14预留 2至4 核给系统、网络 IO、内核线程超载危害线程数远超 16 → 操作系统频繁上下文切换CPU 软中断飙升吞吐量反而下降。【2】内存上限总 32G1系统内存分三块不可全部给业务OS 系统预留4~6G内核、缓冲区、TCP 缓存、PageCache业务应用可用内存24~28GSwap 交换分区尽量关闭物理内存不足会疯狂刷磁盘性能暴跌。2内存水位划分安全水位总内存占用 ≤70%≤22G高负载水位70%~85%危险水位85%容易触发 OOM killer 杀死进程。【3】IO / 网络隐性上限文件句柄上限系统默认 1024多线程同步场景必须调至 65535TCP 连接上限高并发服务需调大somaxconn、epoll参数磁盘 IO大量读写场景如 DataX 同步磁盘会先于 CPU 成为瓶颈。【三】如何充分利用 16C32G 资源【1】核心原则资源隔离单进程内存不超限多进程 CPU 线程总和不超过安全核数预留缓冲系统永远预留 2~4 核、4G 内存不打满硬件避免资源争抢同一机器不要混跑高 CPU 高 IO 重负载服务线程池匹配 CPU 核数计算密集型线程≈CPU 核数IO 密集型可适度放大。【2】Java/DataX 类应用IO 密集型DataX 同步服务1JVM 内存分配标准32G 机器-Xms20G-Xmx20G固定堆 20G预留 12G 给系统 PageCache、内核、其他轻量进程禁止设置-Xmx28G无系统缓冲会导致磁盘频繁 IO 卡顿。2线程池配置DataX 核心 channel 通道DataX 每个 channel 1 读线程 1 写线程属于 IO 密集型网络读写 Doris/MySQL1单台机器安全最大并发 channel10~122不要开到 16预留核给网络、磁盘 IO、GC 线程33 台 16C 机器集群总并发上限30~36 通道均衡分流不单点压满。【3】Nginx轻量网关转发 DataX 请求CPU 消耗极低可同机部署worker 进程数设置等于 CPU 核心数worker_processes 16;worker 连接上限调大worker_connections 65535;内存占用仅几百 MB几乎不抢占业务资源。【4】系统内核参数调优最大化网络 / 文件性能# 1. 文件句柄放开echo* soft nofile 65535/etc/security/limits.confecho* hard nofile 65535/etc/security/limits.conf# 2. TCP网络调优高并发StreamLoad请求专用sysctl-wnet.core.somaxconn65535sysctl-wnet.ipv4.tcp_tw_reuse1sysctl-wnet.ipv4.tcp_syncookies1sysctl-wnet.core.netdev_max_backlog50000# 3. 关闭swap防止内存不足卡顿sysctl-wvm.swappiness0【5】负载均衡拆分资源集群场景你 3 台 16C DataX 服务器Nginx 统一入口请求轮询分发每台机器负载均衡避免单台机器承载 80% 同步任务出现单点 CPU100%调度平台分批下发同步任务瞬时并发不超过单台 12 通道上限。【四】看服务器 CPU、内存、磁盘、线程资源使用【1】top实时整机监控top快捷键1展开 16 颗逻辑 CPU看每核占用M按内存占用排序进程P按 CPU 占用排序H显示进程内所有线程q 退出。关键指标解读Cpu(s)整机平均 CPU 使用率%Cpu0~%Cpu15每颗核心单独负载Mem total/used/avail总内存、已用、可用内存avail 是真实剩余可用。【2】内存专项查看# 人性化单位GB展示free-h字段重点看 available真实剩余内存。# 底层内存明细缓存、缓冲区cat/proc/meminfo【3】CPU 硬件规格查询确认 16C 真实配置# 结构化输出CPU信息lscpu# 统计逻辑CPU总数输出16grepprocessor /proc/cpuinfo|wc-l# 查看物理CPU、核心、超线程cat/proc/cpuinfo【4】线程 / 进程资源排查定位哪个线程占满 CPU步骤 1top -H 查看进程内线程找到占用 CPU 高的线程 TID。top-H-p进程PID步骤 2Java 项目打印线程栈DataX/Java 服务# 打印进程所有线程堆栈定位死循环、阻塞线程jstack 进程PIDthread.log统计进程线程总数# 替换PIDps-T-p12345|wc-l【5】磁盘 IO 负载DataX 同步重点监控# 实时磁盘IO每秒刷新iostat-x1重点看 %util接近 100% 代表磁盘 IO 瓶颈。【6】网络负载StreamLoad 大量 HTTP 请求# 实时网卡流量sar-nDEV1# 连接数统计netstat-ant|wc-lss-s【五】资源利用率判定标准16C32G 运维阈值1CPU健康平均负载 12单核心无长期 100%告警平均负载 14持续 5 分钟瓶颈全 16 核打满任务排队、同步速度下降。2内存健康available 10G告警available 6G危险available 3G触发 swap/OOM。3磁盘 IO告警% util 持续 80%瓶颈% util100%写入延迟暴涨DataX 同步卡顿。