生产指标

生产指标#

vLLM 公开了一些指标,可用于监控系统的运行状况。这些指标通过 vLLM OpenAI 兼容 API 服务器上的`/metrics` 端点公开。

公开以下指标: