Prometheus PromQL语法_prometheus sql

一、PromQL语法

1.1、什么是PromQL

PromQL（Prometheus Query Language）是 Prometheus 自己开发的表达式语言，语言表现力很丰富，内置函数也很多。使用它可以对时序数据进行筛选和聚合。

1.2、数据类型

PromQL 表达式计算出来的值有以下几种类型：

• 瞬时向量 (Instant vector): 一组时序，每个时序只有一个采样值
• 区间向量 (Range vector): 一组时序，每个时序包含一段时间内的多个采样值
• 标量数据 (Scalar): 一个浮点数
• 字符串 (String): 一个字符串，暂时未用

1.2.1、瞬时向量选择器

瞬时向量选择器用来选择一组时序在某个采样点的采样值。最简单的情况就是指定一个度量指标，选择出所有属于该度量指标的时序的当前采样值。比如下面的表达式：

apiserver_request_total
1

可以通过在后面添加用大括号包围起来的一组标签键值对来对时序进行过滤。比如下面的表达式筛选出了 job 为 kubernetes-apiservers，并且 resource为 pod的时序：

apiserver_request_total{job="kubernetes-apiserver",resource="pods"}
1

匹配标签值时可以是等于，也可以使用正则表达式。总共有下面几种匹配操作符：

=：完全相等
!=： 不相等
=~： 正则表达式匹配
!~： 正则表达式不匹配

# 下面的表达式筛选出了container是kube-scheduler或kube-proxy或kube-apiserver的时序数据
container_processes{container=~"kube-scheduler|kube-proxy|kube-apiserver"}
1
2
3
4
5
6
7

1.2.2、区间向量选择器

区间向量选择器类似于瞬时向量选择器，不同的是它选择的是过去一段时间的采样值。可以通过在瞬时向量选择器后面添加包含在 [] 里的时长来得到区间向量选择器。比如下面的表达式选出了所有度量指标为apiserver_request_total且resource是pod的时序在过去1 分钟的采样值。

# 这个不支持Graph，需要选择Console，才会看到采集的数据
apiserver_request_total{job="kubernetes-apiserver",resource="pods"}[1m]
1
2

说明：时长的单位可以是下面几种之一：

s：seconds
m：minutes
h：hours
d：days
w：weeks
y：years
1
2
3
4
5
6

1.2.3、偏移向量选择器

前面介绍的选择器默认都是以当前时间为基准时间，偏移修饰器用来调整基准时间，使其往前偏移一段时间。偏移修饰器紧跟在选择器后面，使用 offset 来指定要偏移的量。比如下面的表达式选择度量名称为apiserver_request_total的所有时序在 5 分钟前的采样值。

apiserver_request_total{job="kubernetes-apiserver",resource="pods"} offset 5m
1

下面的表达式选择apiserver_request_total 度量指标在 1 周前的这个时间点过去 5 分钟的采样值。

apiserver_request_total{job="kubernetes-apiserver",resource="pods"} [5m] offset 1w
1

1.2.4、聚合操作符

PromQL 的聚合操作符用来将向量里的元素聚合得更少。总共有下面这些聚合操作符

sum：求和
min：最小值
max：最大值
avg：平均值
stddev：标准差
stdvar：方差
count：元素个数
count_values：等于某值的元素个数
bottomk：最小的 k 个元素
topk：最大的 k 个元素
quantile：分位数
1
2
3
4
5
6
7
8
9
10
11

1）计算k8s-master1节点所有容器总计内存：

sum(container_memory_usage_bytes{instance=~"k8s-master1"})/1024/1024/1024
1

2）计算k8s-master1节点最近1m所有容器cpu使用率

sum (rate (container_cpu_usage_seconds_total{instance=~"k8s-master1"}[1m])) / sum (machine_cpu_cores{ instance =~"k8s-master1"}) * 100
1

3）计算最近1m所有容器cpu使用率

1.2.5、函数

Prometheus 内置了一些函数来辅助计算，下面介绍一些典型的。

abs()：绝对值
sqrt()：平方根
exp()：指数计算
ln()：自然对数
ceil()：向上取整
floor()：向下取整
round()：四舍五入取整
delta()：计算区间向量里每一个时序第一个和最后一个的差值
sort()：排序
1
2
3
4
5
6
7
8
9

时间序列

Prometheus会将所有采集到的样本数据以时间序列（time-series）的方式保存在内存数据库中，并且定时保存到硬盘上。time-series是按照时间戳和值的序列顺序存放的，我们称之为向量(vector). 每条time-series通过指标名称(metrics name)和一组标签集(labelset)命名。如下所示，可以将time-series理解为一个以时间为Y轴的数字矩阵：

  ^
  │   . . . . . . . . . . . . . . . . .   . .   node_cpu{cpu="cpu0",mode="idle"}
  │     . . . . . . . . . . . . . . . . . . .   node_cpu{cpu="cpu0",mode="system"}
  │     . . . . . . . . . .   . . . . . . . .   node_load1{}
  │     . . . . . . . . . . . . . . . .   . .  
  v
    <------------------ 时间 ---------------->
1
2
3
4
5
6
7

在time-series中的每一个点称为一个样本（sample），样本由以下三部分组成：

• 指标(metric)：metric name和描述当前样本特征的labelsets;
• 时间戳(timestamp)：一个精确到毫秒的时间戳;
• 样本值(value)： 一个float64的浮点型数据表示当前样本的值。

<--------------- metric ---------------------><-timestamp -><-value->
http_request_total{status="200", method="GET"}@1434417560938 => 94355
http_request_total{status="200", method="GET"}@1434417561287 => 94334

http_request_total{status="404", method="GET"}@1434417560938 => 38473
http_request_total{status="404", method="GET"}@1434417561287 => 38544

http_request_total{status="200", method="POST"}@1434417560938 => 4748
http_request_total{status="200", method="POST"}@1434417561287 => 4785
1
2
3
4
5
6
7
8
9

指标类型 metric type

Prometheus定义了4种不同的指标类型(metric type)：Counter（计数器）、Gauge（仪表盘）、Histogram（直方图）、Summary（摘要）

Counter类型的指标其工作方式和计数器一样，只增不减（除非系统发生重置）。常见的监控指标，如http_requests_total，node_cpu都是Counter类型的监控指标。

Gauge类型的指标侧重于反应系统的当前状态。如node_memory_MemFree

Histogram和Summary主用用于统计和分析样本的分布情况。

PromQL

PromQL是Prometheus内置的数据查询语言，其提供对时间序列数据丰富的查询，聚合以及逻辑运算能力的支持。并且被广泛应用在Prometheus的日常应用当中，包括对数据查询、可视化、告警处理当中。可以这么说，PromQL是Prometheus所有应用场景的基础。

查询时间序列

当我们直接使用监控指标名称查询时，可以查询该指标下的所有时间序列。如：

http_requests_total 等同于：http_requests_total{}

查询指标指定标签 ：http_requests_total{job=“apiserver”, handler=“/api/comments”}

该表达式会返回指标名称为http_requests_total的所有时间序列：

http_requests_total{code="200",handler="alerts",instance="localhost:9090",job="prometheus",method="get"}=(20889@1518096812.326) http_requests_total{code="200",handler="graph",instance="localhost:9090",job="prometheus",method="get"}=(21287@1518096812.326)
1

匹配模式

正向、反向查询（正则表达式）

• = 标签满足表达式定义
• != 根据标签匹配排除
• =~ 选择符合正则表达式定义
• !~ 选择不符合正则表达式定义(反向)

范围查询

http_requests_total{}[5m]

该表达式将会返回查询到的时间序列中最近5分钟的所有样本数据

除了使用m表示分钟以外，PromQL的时间范围选择器支持其它时间单位：

• s - 秒
• m - 分钟
• h - 小时
• d - 天
• w - 周
• y - 年

数学运算符：

• + (加法)
• - (减法)
• * (乘法)
• / (除法)
• % (求余)
• ^ (求幂)

未使用的内存(MiB): (instance_memory_limit_bytes - instance_memory_usage_bytes) / 1024 / 1024

比较运算符：

• == (相等)
• != (不相等)
• > (大于)
• < (小于)
• >= (大于等于)
• <= (小于

过滤标签job=“apiserver"样本大于10的所有样本数据 : http_requests_total{job=“apiserver”, handler=”/api/comments"}>1

逻辑运算符:

• and (并且)
• or (或)
• unless (除)

如：http_requests_total{job=“apiserver”, handler=“/api/comments”}>10 or http_requests_total{job=“apiserver”, handler=“/api/comments”}>16

运算符优先级：

100 * (1 - avg (irate(node_cpu{mode=‘idle’}[5m])) by(job) )

1. ^
2. *, /, %
3. +, -
4. ==, !=, <=, <, >=, >
5. and, unless
6. or

使用聚合操作

一般来说，如果描述样本特征的标签(label)在并非唯一的情况下，通过PromQL查询数据，会返回多条满足这些特征维度的时间序列。而PromQL提供的聚合操作可以用来对这些时间序列进行处理，形成一条新的时间序列：

sum (求和)

min (最小值)

max (最大值)

avg (平均值)

stddev (标准差)

stdvar (标准方差)

count (计数)

count_values (对value进行计数)

bottomk (后n条时序)

topk (前n条时序)

quantile (分位数)

# 查询系统所有http请求的总量 sum(http_request_total)

without用于从计算结果中移除列举的标签，而保留其它标签。by则正好相反，结果向量中只保留列出的标签，其余标签则移除

前后N位

topk和bottomk则用于对样本值进行排序，返回当前样本值前n位，或者后n位的时间序列。

topk(5, http_requests_total)

PromQL内置函数

• increase()：计算区间向量里最后一个值和第一个值的差值
• rate()：指定时间范围内每秒速率
• irate() 指定时间范围内的最近两个数据点来算速率
• abs()：样本值的绝对值
• sqrt())：平方根
• exp( )：指数计算
• ln( )：自然对数
• ceil( )：向上取整
• floor( )：向下取整
• round(v instant-vector, to_nearest=1 scalar)：四舍五入取整
• delta()：计算区间向量里最大最小的差值
• sort() 升序
• sort_desc() 降序
• absent() : 具有样本数据返回空向量,没有样本数据则返回带有标签的时间序列，样本值为1(告警)
• changes(v range-vector): 区间向量内每个样本数据值变化的次数（瞬时向量）
• clamp_max(v instant-vector, max scalar) : 输入一个瞬时向量和最大值，样本数据值若大于 max，则改为 max，否则不变
• clamp_min(v instant-vector, min scalar) 函数，输入一个瞬时向量和最小值，样本数据值若小于 min，则改为 min，否则不变
• time() 返回从 1970-01-01 到现在的秒数(时间戳)
• timestamp(v instant-vector) 返回向量 v 中的每个样本的时间戳（从 1970-01-01 到现在的秒数）。
• minute(v=vector(time()) instant-vector) 函数返回给定 UTC 时间当前小时的第多少分钟
• hour(v=vector(time()) instant-vector) 给定 UTC 时间的当前第几个小时，时间范围：0~23
• month(v=vector(time()) instant-vector) 函数返回给定 UTC 时间当前属于第几个月
• year(v=vector(time()) instant-vector) 函数返回被给定 UTC 时间的当前年份
• day_of_month(v=vector(time()) instant-vector) 给定 UTC 时间所在月的第几天 范围：1~31
• day_of_week(v=vector(time()) instant-vector) 给定 UTC 时间所在周的第几天。返回值范围：0~6，0 表示星期天
• days_in_month(v=vector(time()) instant-vector) 函数，返回当月一共有多少天。返回值范围：28~31
• delta(v range-vector) 计算一个区间向量 v 的第一个元素和最后一个元素之间的差值(一般用在 Gauge 类型)
• idelta(v range-vector) 计算一个区间向量最新的 2 个样本值之间的差值(一般用在 Gauge 类型)
• deriv(v range-vector) 使用简单的线性回归计算区间向量 v 中各个时间序列的导数(一般用在 Gauge 类型)
• exp(v instant-vector) 输入一个瞬时向量，返回各个样本值的 e 的指数值，即 e 的 N 次方。当 N 的值足够大时会返回 +Inf
• label_join(v instant-vector, dst_label string, separator string, src_label_1 string, src_label_2 string, …)

将时间序列 v 中多个标签 src_label 的值，通过 separator 作为连接符写入到一个新的标签 dst_label 中。可以有多个 src_label 标签

• avg_over_time(range-vector) : 区间向量内每个度量指标的平均值。
• min_over_time(range-vector) : 区间向量内每个度量指标的最小值。
• max_over_time(range-vector) : 区间向量内每个度量指标的最大值。
• sum_over_time(range-vector) : 区间向量内每个度量指标的求和。
• count_over_time(range-vector) : 区间向量内每个度量指标的样本数据个数。
• quantile_over_time(scalar, range-vector) : 区间向量内每个度量指标的样本数据值分位数，φ-quantile (0 ≤ φ ≤ 1)。
• stddev_over_time(range-vector) : 区间向量内每个度量指标的总体标准差。
• stdvar_over_time(range-vector) : 区间向量内每个度量指标的总体标准方差。

rate与irate的区别

rate计算区间增长率，对短时间的突变不敏感。

irate通过最后两个计算的增长率反应出的是瞬时增长率，对突变敏感。

irate函数相比于rate函数提供了更高的灵敏度，不过当需要分析长期趋势或者在告警规则中，irate的这种灵敏度反而容易造成干扰。因此在长期趋势分析或者告警中更推荐使用rate函数。