시스템 메트릭
시스템 상태 및 리소스 실시간 모니터링
CPU 사용률
47%
load avg / cores
메모리
6.2 GB
총 16 GB 중
요청률
612/min
+8.4%
에러율
0.21%
+0.04%
요청률 (최근 24시간 · req/min)
00
03
06
09
12
15
18
21
노드 · 서비스 상태
| 노드 | 역할 | 상태 | 지연 | 부하 |
|---|---|---|---|---|
| vllm-qwen-262k | LLM · 262K | 정상 | 0.82s | 61% |
| vllm-bge-m3 | Embedding | 정상 | 0.04s | 23% |
| litellm-proxy | Proxy :13401 | 정상 | 0.01s | 12% |
| postgres-primary | Database | 정상 | 0.6ms | 34% |
| redis-kv | KV / Rate-limit | 저하 | 1.2ms | 78% |
| api-server-2 | API (PM2) | 정상 | 12ms | 44% |