事件直方图

文档作者:Tom Zanussi

1. 简介

直方图触发器是特殊的事件触发器,可用于将追踪事件数据聚合到直方图中。有关追踪事件和事件触发器的信息,请参阅事件追踪

2. 直方图触发器命令

直方图触发器命令是一种事件触发器命令,它将事件命中聚合到一个哈希表中,以一个或多个追踪事件格式字段(或堆栈追踪)作为键,并从一个或多个追踪事件格式字段和/或事件计数(命中计数)中导出一组运行总计。

hist 触发器的格式如下

hist:keys=<field1[,field2,...]>[:values=<field1[,field2,...]>]
  [:sort=<field1[,field2,...]>][:size=#entries][:pause][:continue]
  [:clear][:name=histname1][:nohitcount][:<handler>.<action>] [if <filter>]

当命中匹配的事件时,将使用指定的键和值向哈希表添加一个条目。键和值对应于事件格式描述中的字段。值必须对应于数值字段——当事件命中时,该值将添加到为该字段保留的总和中。特殊字符串“hitcount”可以用来代替显式值字段——这只是事件命中的计数。如果未指定“values”,将自动创建一个隐式的“hitcount”值并用作唯一值。键可以是任何字段,也可以是特殊字符串“common_stacktrace”,它将使用事件的内核堆栈追踪作为键。关键字“keys”或“key”可用于指定键,关键字“values”、“vals”或“val”可用于指定值。由最多三个字段组成的复合键可以通过“keys”关键字指定。对复合键进行哈希会为每个唯一的组件键组合在表中生成一个唯一的条目,这对于提供更细粒度的事件数据摘要非常有用。此外,由最多两个字段组成的排序键可以通过“sort”关键字指定。如果指定了多个字段,结果将是“排序中的排序”:第一个键被视为主排序键,第二个键被视为次排序键。如果使用“name”参数为 hist 触发器指定名称,其直方图数据将与同名的其他触发器共享,并且触发器命中将更新此公共数据。只有具有“兼容”字段的触发器才能以这种方式组合;如果触发器中命名的字段具有相同数量和类型的字段,并且这些字段也具有相同的名称,则触发器是“兼容”的。请注意,任何两个事件始终共享兼容的“hitcount”和“common_stacktrace”字段,因此可以使用这些字段进行组合,无论这可能多么没有意义。

“hist”触发器会为每个事件的子目录添加一个“hist”文件。读取事件的“hist”文件将把整个哈希表输出到标准输出。如果一个事件附加了多个 hist 触发器,输出中将为每个触发器显示一个表。为命名触发器显示的表将与任何其他同名实例的表相同。每个打印的哈希表条目是构成该条目的键和值的简单列表;键首先打印并用大括号分隔,然后是该条目的值字段集。默认情况下,数值字段显示为十进制整数。这可以通过将以下任何修饰符附加到字段名称来修改

.hex

将数字显示为十六进制值

.sym

将地址显示为符号

.sym-offset

将地址显示为符号和偏移量

.syscall

将系统调用 ID 显示为系统调用名称

.execname

将 common_pid 显示为程序名称

.log2

显示 log2 值而不是原始数字

.buckets=size

显示值的分组而不是原始数字

.usecs

以微秒显示 common_timestamp

.percent

显示百分比值

.graph

以条形图显示值

.stacktrace

显示为堆栈追踪(必须是 long[] 类型)

请注意,通常在对给定字段应用修饰符时不会解释其语义,但在这方面有一些限制需要注意

  • 只有“hex”修饰符可用于值(因为值本质上是总和,其他修饰符在该上下文中没有意义)。

  • “execname”修饰符只能用于“common_pid”。原因是 execname 只是在事件触发时为“当前”进程保存的“comm”值,这与事件追踪代码保存的 common_pid 值相同。尝试将该 comm 值应用于其他 pid 值是不正确的,通常关注此类的事件会在事件本身中保存特定于 pid 的 comm 字段。

典型的使用场景如下:启用 hist 触发器,读取其当前内容,然后将其关闭

# echo 'hist:keys=skbaddr.hex:vals=len' > \
  /sys/kernel/tracing/events/net/netif_rx/trigger

# cat /sys/kernel/tracing/events/net/netif_rx/hist

# echo '!hist:keys=skbaddr.hex:vals=len' > \
  /sys/kernel/tracing/events/net/netif_rx/trigger

可以读取触发器文件本身以显示当前附加的 hist 触发器的详细信息。读取时,此信息也会显示在“hist”文件的顶部。

默认情况下,哈希表的大小为 2048 个条目。“size”参数可用于指定更多或更少的条目。单位是哈希表条目——如果一次运行使用的条目多于指定数量,结果将显示“丢弃”的数量,即被忽略的命中次数。大小应为 128 到 131072 之间的 2 的幂(任何指定的非 2 的幂的数字都将向上取整)。

“sort”参数可用于指定要排序的值字段。如果未指定,默认值为“hitcount”,默认排序顺序为“升序”。要以相反方向排序,请在排序键后附加“.descending”。

“pause”参数可用于暂停现有 hist 触发器,或者启动 hist 触发器但除非另行指示,否则不记录任何事件。“continue”或“cont”可用于启动或重新启动已暂停的 hist 触发器。

“clear”参数将清除正在运行的 hist 触发器的内容,并保留其当前的暂停/活动状态。

请注意,如果将“pause”、“cont”和“clear”参数应用于现有触发器,应使用“追加”shell 运算符(“>>”)而不是“>”运算符,因为后者会导致触发器被截断而删除。

“nohitcount”(或 NOHC)参数将抑制直方图中原始命中计数的显示。此选项要求至少有一个值字段不是“原始命中计数”。例如,“hist:...:vals=hitcount:nohitcount”将被拒绝,但“hist:...:vals=hitcount.percent:nohitcount”是允许的。

  • enable_hist/disable_hist

    enable_hist 和 disable_hist 触发器可用于使一个事件有条件地启动和停止另一个事件已附加的 hist 触发器。任意数量的 enable_hist 和 disable_hist 触发器可以附加到给定事件,允许该事件启动和停止对许多其他事件的聚合。

    其格式与 enable/disable_event 触发器非常相似

    enable_hist:<system>:<event>[:count]
    disable_hist:<system>:<event>[:count]
    

    enable/disable_hist 触发器不是像 enable/disable_event 触发器那样启用或禁用目标事件到追踪缓冲区的追踪,而是启用或禁用目标事件到哈希表的聚合。

    enable_hist/disable_hist 触发器的典型使用场景是:首先在某个事件上设置一个暂停的 hist 触发器,然后使用一对 enable_hist/disable_hist 在满足感兴趣的条件时开启和关闭 hist 聚合

    # echo 'hist:keys=skbaddr.hex:vals=len:pause' > \
       /sys/kernel/tracing/events/net/netif_receive_skb/trigger
    
     # echo 'enable_hist:net:netif_receive_skb if filename==/usr/bin/wget' > \
       /sys/kernel/tracing/events/sched/sched_process_exec/trigger
    
     # echo 'disable_hist:net:netif_receive_skb if comm==wget' > \
       /sys/kernel/tracing/events/sched/sched_process_exit/trigger
    

    上述设置了一个初始暂停的 hist 触发器,当给定程序执行时,它会取消暂停并开始聚合事件;当进程退出时,它会停止聚合并再次暂停 hist 触发器。

    以下示例更具体地说明了上面讨论的概念和典型使用模式。

2.1. “特殊”事件字段

有一些“特殊事件字段”可用于 hist 触发器中的键或值。它们看起来并表现得像实际事件字段一样,但实际上并不属于事件的字段定义或格式文件。然而,它们适用于任何事件,并且可以在任何实际事件字段可以使用的位置使用。它们是

common_timestamp

u64

与事件关联的时间戳(来自环形缓冲区),以纳秒为单位。可以调整 .usecs 修饰符,使时间戳被解释为微秒。

common_cpu

int

事件发生的 CPU。

2.2. 扩展错误信息

对于在调用 hist 触发器命令时遇到的一些错误条件,可以通过 tracing/error_log 文件获取扩展错误信息。有关详细信息,请参阅ftrace - 函数追踪器中的“错误条件”部分。

2.3. “hist”触发器示例

第一组示例使用 kmalloc 事件创建聚合。可用于 hist 触发器的字段列在 kmalloc 事件的格式文件中

# cat /sys/kernel/tracing/events/kmem/kmalloc/format
name: kmalloc
ID: 374
format:
    field:unsigned short common_type;       offset:0;       size:2; signed:0;
    field:unsigned char common_flags;       offset:2;       size:1; signed:0;
    field:unsigned char common_preempt_count;               offset:3;       size:1; signed:0;
    field:int common_pid;                                   offset:4;       size:4; signed:1;

    field:unsigned long call_site;                          offset:8;       size:8; signed:0;
    field:const void * ptr;                                 offset:16;      size:8; signed:0;
    field:size_t bytes_req;                                 offset:24;      size:8; signed:0;
    field:size_t bytes_alloc;                               offset:32;      size:8; signed:0;
    field:gfp_t gfp_flags;                                  offset:40;      size:4; signed:0;

我们将首先创建一个 hist 触发器,它生成一个简单的表格,列出内核中对 kmalloc 进行了一次或多次调用的每个函数请求的总字节数

# echo 'hist:key=call_site:val=bytes_req.buckets=32' > \
        /sys/kernel/tracing/events/kmem/kmalloc/trigger

这告诉追踪系统创建一个“hist”触发器,使用 kmalloc 事件的 call_site 字段作为表的键,这意味着每个唯一的 call_site 地址都将在表中创建一个条目。“val=bytes_req”参数告诉 hist 触发器,对于表中每个唯一的条目(call_site),它应该保持该 call_site 请求的字节数的运行总计。

我们让它运行一段时间,然后转储 kmalloc 事件子目录中“hist”文件的内容(为便于阅读,已省略部分条目)

# cat /sys/kernel/tracing/events/kmem/kmalloc/hist
# trigger info: hist:keys=call_site:vals=bytes_req:sort=hitcount:size=2048 [active]

{ call_site: 18446744072106379007 } hitcount:          1  bytes_req:        176
{ call_site: 18446744071579557049 } hitcount:          1  bytes_req:       1024
{ call_site: 18446744071580608289 } hitcount:          1  bytes_req:      16384
{ call_site: 18446744071581827654 } hitcount:          1  bytes_req:         24
{ call_site: 18446744071580700980 } hitcount:          1  bytes_req:          8
{ call_site: 18446744071579359876 } hitcount:          1  bytes_req:        152
{ call_site: 18446744071580795365 } hitcount:          3  bytes_req:        144
{ call_site: 18446744071581303129 } hitcount:          3  bytes_req:        144
{ call_site: 18446744071580713234 } hitcount:          4  bytes_req:       2560
{ call_site: 18446744071580933750 } hitcount:          4  bytes_req:        736
.
.
.
{ call_site: 18446744072106047046 } hitcount:         69  bytes_req:       5576
{ call_site: 18446744071582116407 } hitcount:         73  bytes_req:       2336
{ call_site: 18446744072106054684 } hitcount:        136  bytes_req:     140504
{ call_site: 18446744072106224230 } hitcount:        136  bytes_req:      19584
{ call_site: 18446744072106078074 } hitcount:        153  bytes_req:       2448
{ call_site: 18446744072106062406 } hitcount:        153  bytes_req:      36720
{ call_site: 18446744071582507929 } hitcount:        153  bytes_req:      37088
{ call_site: 18446744072102520590 } hitcount:        273  bytes_req:      10920
{ call_site: 18446744071582143559 } hitcount:        358  bytes_req:        716
{ call_site: 18446744072106465852 } hitcount:        417  bytes_req:      56712
{ call_site: 18446744072102523378 } hitcount:        485  bytes_req:      27160
{ call_site: 18446744072099568646 } hitcount:       1676  bytes_req:      33520

Totals:
    Hits: 4610
    Entries: 45
    Dropped: 0

输出为每个条目显示一行,以触发器中指定的键开头,后跟触发器中也指定的值。输出的开头有一行显示触发器信息,也可以通过读取“trigger”文件来显示。

# cat /sys/kernel/tracing/events/kmem/kmalloc/trigger
hist:keys=call_site:vals=bytes_req:sort=hitcount:size=2048 [active]

输出的末尾有几行显示此次运行的总体总计。“Hits”字段显示事件触发器命中的总次数,“Entries”字段显示哈希表中已使用的条目总数,“Dropped”字段显示因运行使用的条目数超过表允许的最大条目数而被丢弃的命中次数(通常为 0,但如果不是 0,则表明您可能需要使用“size”参数增加表的大小)。

请注意,在上述输出中,有一个额外的字段“hitcount”,它未在触发器中指定。另请注意,在触发器信息输出中,有一个参数“sort=hitcount”,它也未在触发器中指定。原因是每个触发器都隐式地保留了归因于给定条目的总命中次数,称为“hitcount”。该命中计数信息在输出中明确显示,并且在没有用户指定的排序参数的情况下,用作默认排序字段。

如果您不需要对任何特定字段求和,而主要对命中频率感兴趣,则可以使用值“hitcount”代替“values”参数中的显式值。

要关闭 hist 触发器,只需在命令历史记录中调出该触发器并以“!”作为前缀重新执行即可。

# echo '!hist:key=call_site:val=bytes_req' > \
       /sys/kernel/tracing/events/kmem/kmalloc/trigger

最后,请注意上面输出中显示的 call_site 实际上并不是很有用。它是一个地址,但通常地址以十六进制显示。要将数值字段显示为十六进制值,只需在触发器中的字段名称后附加“.hex”即可。

# echo 'hist:key=call_site.hex:val=bytes_req' > \
       /sys/kernel/tracing/events/kmem/kmalloc/trigger

# cat /sys/kernel/tracing/events/kmem/kmalloc/hist
# trigger info: hist:keys=call_site.hex:vals=bytes_req:sort=hitcount:size=2048 [active]

{ call_site: ffffffffa026b291 } hitcount:          1  bytes_req:        433
{ call_site: ffffffffa07186ff } hitcount:          1  bytes_req:        176
{ call_site: ffffffff811ae721 } hitcount:          1  bytes_req:      16384
{ call_site: ffffffff811c5134 } hitcount:          1  bytes_req:          8
{ call_site: ffffffffa04a9ebb } hitcount:          1  bytes_req:        511
{ call_site: ffffffff8122e0a6 } hitcount:          1  bytes_req:         12
{ call_site: ffffffff8107da84 } hitcount:          1  bytes_req:        152
{ call_site: ffffffff812d8246 } hitcount:          1  bytes_req:         24
{ call_site: ffffffff811dc1e5 } hitcount:          3  bytes_req:        144
{ call_site: ffffffffa02515e8 } hitcount:          3  bytes_req:        648
{ call_site: ffffffff81258159 } hitcount:          3  bytes_req:        144
{ call_site: ffffffff811c80f4 } hitcount:          4  bytes_req:        544
.
.
.
{ call_site: ffffffffa06c7646 } hitcount:        106  bytes_req:       8024
{ call_site: ffffffffa06cb246 } hitcount:        132  bytes_req:      31680
{ call_site: ffffffffa06cef7a } hitcount:        132  bytes_req:       2112
{ call_site: ffffffff8137e399 } hitcount:        132  bytes_req:      23232
{ call_site: ffffffffa06c941c } hitcount:        185  bytes_req:     171360
{ call_site: ffffffffa06f2a66 } hitcount:        185  bytes_req:      26640
{ call_site: ffffffffa036a70e } hitcount:        265  bytes_req:      10600
{ call_site: ffffffff81325447 } hitcount:        292  bytes_req:        584
{ call_site: ffffffffa072da3c } hitcount:        446  bytes_req:      60656
{ call_site: ffffffffa036b1f2 } hitcount:        526  bytes_req:      29456
{ call_site: ffffffffa0099c06 } hitcount:       1780  bytes_req:      35600

Totals:
    Hits: 4775
    Entries: 46
    Dropped: 0

即使这样也只稍微有用一些——虽然十六进制值确实更像地址,但用户在查看文本地址时通常更感兴趣的是相应的符号。要将地址显示为符号值,只需在触发器中的字段名称后附加“.sym”或“.sym-offset”即可。

# echo 'hist:key=call_site.sym:val=bytes_req' > \
       /sys/kernel/tracing/events/kmem/kmalloc/trigger

# cat /sys/kernel/tracing/events/kmem/kmalloc/hist
# trigger info: hist:keys=call_site.sym:vals=bytes_req:sort=hitcount:size=2048 [active]

{ call_site: [ffffffff810adcb9] syslog_print_all                              } hitcount:          1  bytes_req:       1024
{ call_site: [ffffffff8154bc62] usb_control_msg                               } hitcount:          1  bytes_req:          8
{ call_site: [ffffffffa00bf6fe] hidraw_send_report [hid]                      } hitcount:          1  bytes_req:          7
{ call_site: [ffffffff8154acbe] usb_alloc_urb                                 } hitcount:          1  bytes_req:        192
{ call_site: [ffffffffa00bf1ca] hidraw_report_event [hid]                     } hitcount:          1  bytes_req:          7
{ call_site: [ffffffff811e3a25] __seq_open_private                            } hitcount:          1  bytes_req:         40
{ call_site: [ffffffff8109524a] alloc_fair_sched_group                        } hitcount:          2  bytes_req:        128
{ call_site: [ffffffff811febd5] fsnotify_alloc_group                          } hitcount:          2  bytes_req:        528
{ call_site: [ffffffff81440f58] __tty_buffer_request_room                     } hitcount:          2  bytes_req:       2624
{ call_site: [ffffffff81200ba6] inotify_new_group                             } hitcount:          2  bytes_req:         96
{ call_site: [ffffffffa05e19af] ieee80211_start_tx_ba_session [mac80211]      } hitcount:          2  bytes_req:        464
{ call_site: [ffffffff81672406] tcp_get_metrics                               } hitcount:          2  bytes_req:        304
{ call_site: [ffffffff81097ec2] alloc_rt_sched_group                          } hitcount:          2  bytes_req:        128
{ call_site: [ffffffff81089b05] sched_create_group                            } hitcount:          2  bytes_req:       1424
.
.
.
{ call_site: [ffffffffa04a580c] intel_crtc_page_flip [i915]                   } hitcount:       1185  bytes_req:     123240
{ call_site: [ffffffffa0287592] drm_mode_page_flip_ioctl [drm]                } hitcount:       1185  bytes_req:     104280
{ call_site: [ffffffffa04c4a3c] intel_plane_duplicate_state [i915]            } hitcount:       1402  bytes_req:     190672
{ call_site: [ffffffff812891ca] ext4_find_extent                              } hitcount:       1518  bytes_req:     146208
{ call_site: [ffffffffa029070e] drm_vma_node_allow [drm]                      } hitcount:       1746  bytes_req:      69840
{ call_site: [ffffffffa045e7c4] i915_gem_do_execbuffer.isra.23 [i915]         } hitcount:       2021  bytes_req:     792312
{ call_site: [ffffffffa02911f2] drm_modeset_lock_crtc [drm]                   } hitcount:       2592  bytes_req:     145152
{ call_site: [ffffffffa0489a66] intel_ring_begin [i915]                       } hitcount:       2629  bytes_req:     378576
{ call_site: [ffffffffa046041c] i915_gem_execbuffer2 [i915]                   } hitcount:       2629  bytes_req:    3783248
{ call_site: [ffffffff81325607] apparmor_file_alloc_security                  } hitcount:       5192  bytes_req:      10384
{ call_site: [ffffffffa00b7c06] hid_report_raw_event [hid]                    } hitcount:       5529  bytes_req:     110584
{ call_site: [ffffffff8131ebf7] aa_alloc_task_context                         } hitcount:      21943  bytes_req:     702176
{ call_site: [ffffffff8125847d] ext4_htree_store_dirent                       } hitcount:      55759  bytes_req:    5074265

Totals:
    Hits: 109928
    Entries: 71
    Dropped: 0

由于上述默认排序键是“hitcount”,因此上述显示了按 hitcount 递增的 call_site 列表,这样在底部我们看到在运行期间发出最多 kmalloc 调用的函数。如果相反,我们想查看按请求字节数而不是调用次数排列的前几名 kmalloc 调用者,并且我们希望前几名调用者出现在顶部,我们可以使用“sort”参数以及“descending”修饰符。

# echo 'hist:key=call_site.sym:val=bytes_req:sort=bytes_req.descending' > \
       /sys/kernel/tracing/events/kmem/kmalloc/trigger

# cat /sys/kernel/tracing/events/kmem/kmalloc/hist
# trigger info: hist:keys=call_site.sym:vals=bytes_req:sort=bytes_req.descending:size=2048 [active]

{ call_site: [ffffffffa046041c] i915_gem_execbuffer2 [i915]                   } hitcount:       2186  bytes_req:    3397464
{ call_site: [ffffffffa045e7c4] i915_gem_do_execbuffer.isra.23 [i915]         } hitcount:       1790  bytes_req:     712176
{ call_site: [ffffffff8125847d] ext4_htree_store_dirent                       } hitcount:       8132  bytes_req:     513135
{ call_site: [ffffffff811e2a1b] seq_buf_alloc                                 } hitcount:        106  bytes_req:     440128
{ call_site: [ffffffffa0489a66] intel_ring_begin [i915]                       } hitcount:       2186  bytes_req:     314784
{ call_site: [ffffffff812891ca] ext4_find_extent                              } hitcount:       2174  bytes_req:     208992
{ call_site: [ffffffff811ae8e1] __kmalloc                                     } hitcount:          8  bytes_req:     131072
{ call_site: [ffffffffa04c4a3c] intel_plane_duplicate_state [i915]            } hitcount:        859  bytes_req:     116824
{ call_site: [ffffffffa02911f2] drm_modeset_lock_crtc [drm]                   } hitcount:       1834  bytes_req:     102704
{ call_site: [ffffffffa04a580c] intel_crtc_page_flip [i915]                   } hitcount:        972  bytes_req:     101088
{ call_site: [ffffffffa0287592] drm_mode_page_flip_ioctl [drm]                } hitcount:        972  bytes_req:      85536
{ call_site: [ffffffffa00b7c06] hid_report_raw_event [hid]                    } hitcount:       3333  bytes_req:      66664
{ call_site: [ffffffff8137e559] sg_kmalloc                                    } hitcount:        209  bytes_req:      61632
.
.
.
{ call_site: [ffffffff81095225] alloc_fair_sched_group                        } hitcount:          2  bytes_req:        128
{ call_site: [ffffffff81097ec2] alloc_rt_sched_group                          } hitcount:          2  bytes_req:        128
{ call_site: [ffffffff812d8406] copy_semundo                                  } hitcount:          2  bytes_req:         48
{ call_site: [ffffffff81200ba6] inotify_new_group                             } hitcount:          1  bytes_req:         48
{ call_site: [ffffffffa027121a] drm_getmagic [drm]                            } hitcount:          1  bytes_req:         48
{ call_site: [ffffffff811e3a25] __seq_open_private                            } hitcount:          1  bytes_req:         40
{ call_site: [ffffffff811c52f4] bprm_change_interp                            } hitcount:          2  bytes_req:         16
{ call_site: [ffffffff8154bc62] usb_control_msg                               } hitcount:          1  bytes_req:          8
{ call_site: [ffffffffa00bf1ca] hidraw_report_event [hid]                     } hitcount:          1  bytes_req:          7
{ call_site: [ffffffffa00bf6fe] hidraw_send_report [hid]                      } hitcount:          1  bytes_req:          7

Totals:
    Hits: 32133
    Entries: 81
    Dropped: 0

除了符号名称之外,要显示偏移量和大小信息,只需使用“sym-offset”。

# echo 'hist:key=call_site.sym-offset:val=bytes_req:sort=bytes_req.descending' > \
       /sys/kernel/tracing/events/kmem/kmalloc/trigger

# cat /sys/kernel/tracing/events/kmem/kmalloc/hist
# trigger info: hist:keys=call_site.sym-offset:vals=bytes_req:sort=bytes_req.descending:size=2048 [active]

{ call_site: [ffffffffa046041c] i915_gem_execbuffer2+0x6c/0x2c0 [i915]                  } hitcount:       4569  bytes_req:    3163720
{ call_site: [ffffffffa0489a66] intel_ring_begin+0xc6/0x1f0 [i915]                      } hitcount:       4569  bytes_req:     657936
{ call_site: [ffffffffa045e7c4] i915_gem_do_execbuffer.isra.23+0x694/0x1020 [i915]      } hitcount:       1519  bytes_req:     472936
{ call_site: [ffffffffa045e646] i915_gem_do_execbuffer.isra.23+0x516/0x1020 [i915]      } hitcount:       3050  bytes_req:     211832
{ call_site: [ffffffff811e2a1b] seq_buf_alloc+0x1b/0x50                                 } hitcount:         34  bytes_req:     148384
{ call_site: [ffffffffa04a580c] intel_crtc_page_flip+0xbc/0x870 [i915]                  } hitcount:       1385  bytes_req:     144040
{ call_site: [ffffffff811ae8e1] __kmalloc+0x191/0x1b0                                   } hitcount:          8  bytes_req:     131072
{ call_site: [ffffffffa0287592] drm_mode_page_flip_ioctl+0x282/0x360 [drm]              } hitcount:       1385  bytes_req:     121880
{ call_site: [ffffffffa02911f2] drm_modeset_lock_crtc+0x32/0x100 [drm]                  } hitcount:       1848  bytes_req:     103488
{ call_site: [ffffffffa04c4a3c] intel_plane_duplicate_state+0x2c/0xa0 [i915]            } hitcount:        461  bytes_req:      62696
{ call_site: [ffffffffa029070e] drm_vma_node_allow+0x2e/0xd0 [drm]                      } hitcount:       1541  bytes_req:      61640
{ call_site: [ffffffff815f8d7b] sk_prot_alloc+0xcb/0x1b0                                } hitcount:         57  bytes_req:      57456
.
.
.
{ call_site: [ffffffff8109524a] alloc_fair_sched_group+0x5a/0x1a0                       } hitcount:          2  bytes_req:        128
{ call_site: [ffffffffa027b921] drm_vm_open_locked+0x31/0xa0 [drm]                      } hitcount:          3  bytes_req:         96
{ call_site: [ffffffff8122e266] proc_self_follow_link+0x76/0xb0                         } hitcount:          8  bytes_req:         96
{ call_site: [ffffffff81213e80] load_elf_binary+0x240/0x1650                            } hitcount:          3  bytes_req:         84
{ call_site: [ffffffff8154bc62] usb_control_msg+0x42/0x110                              } hitcount:          1  bytes_req:          8
{ call_site: [ffffffffa00bf6fe] hidraw_send_report+0x7e/0x1a0 [hid]                     } hitcount:          1  bytes_req:          7
{ call_site: [ffffffffa00bf1ca] hidraw_report_event+0x8a/0x120 [hid]                    } hitcount:          1  bytes_req:          7

Totals:
    Hits: 26098
    Entries: 64
    Dropped: 0

我们还可以向“values”参数添加多个字段。例如,我们可能希望查看已分配的总字节数以及请求的字节数,并以递减顺序按已分配字节数排序显示结果。

# echo 'hist:keys=call_site.sym:values=bytes_req,bytes_alloc:sort=bytes_alloc.descending' > \
       /sys/kernel/tracing/events/kmem/kmalloc/trigger

# cat /sys/kernel/tracing/events/kmem/kmalloc/hist
# trigger info: hist:keys=call_site.sym:vals=bytes_req,bytes_alloc:sort=bytes_alloc.descending:size=2048 [active]

{ call_site: [ffffffffa046041c] i915_gem_execbuffer2 [i915]                   } hitcount:       7403  bytes_req:    4084360  bytes_alloc:    5958016
{ call_site: [ffffffff811e2a1b] seq_buf_alloc                                 } hitcount:        541  bytes_req:    2213968  bytes_alloc:    2228224
{ call_site: [ffffffffa0489a66] intel_ring_begin [i915]                       } hitcount:       7404  bytes_req:    1066176  bytes_alloc:    1421568
{ call_site: [ffffffffa045e7c4] i915_gem_do_execbuffer.isra.23 [i915]         } hitcount:       1565  bytes_req:     557368  bytes_alloc:    1037760
{ call_site: [ffffffff8125847d] ext4_htree_store_dirent                       } hitcount:       9557  bytes_req:     595778  bytes_alloc:     695744
{ call_site: [ffffffffa045e646] i915_gem_do_execbuffer.isra.23 [i915]         } hitcount:       5839  bytes_req:     430680  bytes_alloc:     470400
{ call_site: [ffffffffa04c4a3c] intel_plane_duplicate_state [i915]            } hitcount:       2388  bytes_req:     324768  bytes_alloc:     458496
{ call_site: [ffffffffa02911f2] drm_modeset_lock_crtc [drm]                   } hitcount:       3911  bytes_req:     219016  bytes_alloc:     250304
{ call_site: [ffffffff815f8d7b] sk_prot_alloc                                 } hitcount:        235  bytes_req:     236880  bytes_alloc:     240640
{ call_site: [ffffffff8137e559] sg_kmalloc                                    } hitcount:        557  bytes_req:     169024  bytes_alloc:     221760
{ call_site: [ffffffffa00b7c06] hid_report_raw_event [hid]                    } hitcount:       9378  bytes_req:     187548  bytes_alloc:     206312
{ call_site: [ffffffffa04a580c] intel_crtc_page_flip [i915]                   } hitcount:       1519  bytes_req:     157976  bytes_alloc:     194432
.
.
.
{ call_site: [ffffffff8109bd3b] sched_autogroup_create_attach                 } hitcount:          2  bytes_req:        144  bytes_alloc:        192
{ call_site: [ffffffff81097ee8] alloc_rt_sched_group                          } hitcount:          2  bytes_req:        128  bytes_alloc:        128
{ call_site: [ffffffff8109524a] alloc_fair_sched_group                        } hitcount:          2  bytes_req:        128  bytes_alloc:        128
{ call_site: [ffffffff81095225] alloc_fair_sched_group                        } hitcount:          2  bytes_req:        128  bytes_alloc:        128
{ call_site: [ffffffff81097ec2] alloc_rt_sched_group                          } hitcount:          2  bytes_req:        128  bytes_alloc:        128
{ call_site: [ffffffff81213e80] load_elf_binary                               } hitcount:          3  bytes_req:         84  bytes_alloc:         96
{ call_site: [ffffffff81079a2e] kthread_create_on_node                        } hitcount:          1  bytes_req:         56  bytes_alloc:         64
{ call_site: [ffffffffa00bf6fe] hidraw_send_report [hid]                      } hitcount:          1  bytes_req:          7  bytes_alloc:          8
{ call_site: [ffffffff8154bc62] usb_control_msg                               } hitcount:          1  bytes_req:          8  bytes_alloc:          8
{ call_site: [ffffffffa00bf1ca] hidraw_report_event [hid]                     } hitcount:          1  bytes_req:          7  bytes_alloc:          8

Totals:
    Hits: 66598
    Entries: 65
    Dropped: 0

最后,为了完成我们的 kmalloc 示例,我们不仅可以让 hist 触发器显示符号化的 call_site,还可以让 hist 触发器额外显示导致每个 call_site 的完整内核堆栈追踪。为此,我们只需为 key 参数使用特殊值“common_stacktrace”。

# echo 'hist:keys=common_stacktrace:values=bytes_req,bytes_alloc:sort=bytes_alloc' > \
       /sys/kernel/tracing/events/kmem/kmalloc/trigger

上述触发器将使用事件触发时生效的内核堆栈追踪作为哈希表的键。这允许枚举导致特定事件的每个内核调用路径,以及该事件的任何事件字段的运行总计。在这里,我们统计系统中导致 kmalloc 的每个调用路径(在这种情况下是内核编译的每个 kmalloc 调用路径)请求的字节数和分配的字节数。

# cat /sys/kernel/tracing/events/kmem/kmalloc/hist
# trigger info: hist:keys=common_stacktrace:vals=bytes_req,bytes_alloc:sort=bytes_alloc:size=2048 [active]

{ common_stacktrace:
     __kmalloc_track_caller+0x10b/0x1a0
     kmemdup+0x20/0x50
     hidraw_report_event+0x8a/0x120 [hid]
     hid_report_raw_event+0x3ea/0x440 [hid]
     hid_input_report+0x112/0x190 [hid]
     hid_irq_in+0xc2/0x260 [usbhid]
     __usb_hcd_giveback_urb+0x72/0x120
     usb_giveback_urb_bh+0x9e/0xe0
     tasklet_hi_action+0xf8/0x100
     __do_softirq+0x114/0x2c0
     irq_exit+0xa5/0xb0
     do_IRQ+0x5a/0xf0
     ret_from_intr+0x0/0x30
     cpuidle_enter+0x17/0x20
     cpu_startup_entry+0x315/0x3e0
     rest_init+0x7c/0x80
} hitcount:          3  bytes_req:         21  bytes_alloc:         24
{ common_stacktrace:
     __kmalloc_track_caller+0x10b/0x1a0
     kmemdup+0x20/0x50
     hidraw_report_event+0x8a/0x120 [hid]
     hid_report_raw_event+0x3ea/0x440 [hid]
     hid_input_report+0x112/0x190 [hid]
     hid_irq_in+0xc2/0x260 [usbhid]
     __usb_hcd_giveback_urb+0x72/0x120
     usb_giveback_urb_bh+0x9e/0xe0
     tasklet_hi_action+0xf8/0x100
     __do_softirq+0x114/0x2c0
     irq_exit+0xa5/0xb0
     do_IRQ+0x5a/0xf0
     ret_from_intr+0x0/0x30
} hitcount:          3  bytes_req:         21  bytes_alloc:         24
{ common_stacktrace:
     kmem_cache_alloc_trace+0xeb/0x150
     aa_alloc_task_context+0x27/0x40
     apparmor_cred_prepare+0x1f/0x50
     security_prepare_creds+0x16/0x20
     prepare_creds+0xdf/0x1a0
     SyS_capset+0xb5/0x200
     system_call_fastpath+0x12/0x6a
} hitcount:          1  bytes_req:         32  bytes_alloc:         32
.
.
.
{ common_stacktrace:
     __kmalloc+0x11b/0x1b0
     i915_gem_execbuffer2+0x6c/0x2c0 [i915]
     drm_ioctl+0x349/0x670 [drm]
     do_vfs_ioctl+0x2f0/0x4f0
     SyS_ioctl+0x81/0xa0
     system_call_fastpath+0x12/0x6a
} hitcount:      17726  bytes_req:   13944120  bytes_alloc:   19593808
{ common_stacktrace:
     __kmalloc+0x11b/0x1b0
     load_elf_phdrs+0x76/0xa0
     load_elf_binary+0x102/0x1650
     search_binary_handler+0x97/0x1d0
     do_execveat_common.isra.34+0x551/0x6e0
     SyS_execve+0x3a/0x50
     return_from_execve+0x0/0x23
} hitcount:      33348  bytes_req:   17152128  bytes_alloc:   20226048
{ common_stacktrace:
     kmem_cache_alloc_trace+0xeb/0x150
     apparmor_file_alloc_security+0x27/0x40
     security_file_alloc+0x16/0x20
     get_empty_filp+0x93/0x1c0
     path_openat+0x31/0x5f0
     do_filp_open+0x3a/0x90
     do_sys_open+0x128/0x220
     SyS_open+0x1e/0x20
     system_call_fastpath+0x12/0x6a
} hitcount:    4766422  bytes_req:    9532844  bytes_alloc:   38131376
{ common_stacktrace:
     __kmalloc+0x11b/0x1b0
     seq_buf_alloc+0x1b/0x50
     seq_read+0x2cc/0x370
     proc_reg_read+0x3d/0x80
     __vfs_read+0x28/0xe0
     vfs_read+0x86/0x140
     SyS_read+0x46/0xb0
     system_call_fastpath+0x12/0x6a
} hitcount:      19133  bytes_req:   78368768  bytes_alloc:   78368768

Totals:
    Hits: 6085872
    Entries: 253
    Dropped: 0

如果您以 common_pid 为 hist 触发器键,例如为了收集和显示每个进程的排序总计,您可以使用特殊的 .execname 修饰符在表中显示进程的可执行名称而不是原始 pid。以下示例保留了每个进程的总读取字节数之和。

# echo 'hist:key=common_pid.execname:val=count:sort=count.descending' > \
       /sys/kernel/tracing/events/syscalls/sys_enter_read/trigger

# cat /sys/kernel/tracing/events/syscalls/sys_enter_read/hist
# trigger info: hist:keys=common_pid.execname:vals=count:sort=count.descending:size=2048 [active]

{ common_pid: gnome-terminal  [      3196] } hitcount:        280  count:    1093512
{ common_pid: Xorg            [      1309] } hitcount:        525  count:     256640
{ common_pid: compiz          [      2889] } hitcount:         59  count:     254400
{ common_pid: bash            [      8710] } hitcount:          3  count:      66369
{ common_pid: dbus-daemon-lau [      8703] } hitcount:         49  count:      47739
{ common_pid: irqbalance      [      1252] } hitcount:         27  count:      27648
{ common_pid: 01ifupdown      [      8705] } hitcount:          3  count:      17216
{ common_pid: dbus-daemon     [       772] } hitcount:         10  count:      12396
{ common_pid: Socket Thread   [      8342] } hitcount:         11  count:      11264
{ common_pid: nm-dhcp-client. [      8701] } hitcount:          6  count:       7424
{ common_pid: gmain           [      1315] } hitcount:         18  count:       6336
.
.
.
{ common_pid: postgres        [      1892] } hitcount:          2  count:         32
{ common_pid: postgres        [      1891] } hitcount:          2  count:         32
{ common_pid: gmain           [      8704] } hitcount:          2  count:         32
{ common_pid: upstart-dbus-br [      2740] } hitcount:         21  count:         21
{ common_pid: nm-dispatcher.a [      8696] } hitcount:          1  count:         16
{ common_pid: indicator-datet [      2904] } hitcount:          1  count:         16
{ common_pid: gdbus           [      2998] } hitcount:          1  count:         16
{ common_pid: rtkit-daemon    [      2052] } hitcount:          1  count:          8
{ common_pid: init            [         1] } hitcount:          2  count:          2

Totals:
    Hits: 2116
    Entries: 51
    Dropped: 0

类似地,如果您以系统调用 ID 为 hist 触发器键,例如为了收集和显示系统范围内的系统调用命中列表,您可以使用特殊的 .syscall 修饰符显示系统调用名称而不是原始 ID。以下示例在运行期间保留了系统系统调用计数的运行总计。

# echo 'hist:key=id.syscall:val=hitcount' > \
       /sys/kernel/tracing/events/raw_syscalls/sys_enter/trigger

# cat /sys/kernel/tracing/events/raw_syscalls/sys_enter/hist
# trigger info: hist:keys=id.syscall:vals=hitcount:sort=hitcount:size=2048 [active]

{ id: sys_fsync                     [ 74] } hitcount:          1
{ id: sys_newuname                  [ 63] } hitcount:          1
{ id: sys_prctl                     [157] } hitcount:          1
{ id: sys_statfs                    [137] } hitcount:          1
{ id: sys_symlink                   [ 88] } hitcount:          1
{ id: sys_sendmmsg                  [307] } hitcount:          1
{ id: sys_semctl                    [ 66] } hitcount:          1
{ id: sys_readlink                  [ 89] } hitcount:          3
{ id: sys_bind                      [ 49] } hitcount:          3
{ id: sys_getsockname               [ 51] } hitcount:          3
{ id: sys_unlink                    [ 87] } hitcount:          3
{ id: sys_rename                    [ 82] } hitcount:          4
{ id: unknown_syscall               [ 58] } hitcount:          4
{ id: sys_connect                   [ 42] } hitcount:          4
{ id: sys_getpid                    [ 39] } hitcount:          4
.
.
.
{ id: sys_rt_sigprocmask            [ 14] } hitcount:        952
{ id: sys_futex                     [202] } hitcount:       1534
{ id: sys_write                     [  1] } hitcount:       2689
{ id: sys_setitimer                 [ 38] } hitcount:       2797
{ id: sys_read                      [  0] } hitcount:       3202
{ id: sys_select                    [ 23] } hitcount:       3773
{ id: sys_writev                    [ 20] } hitcount:       4531
{ id: sys_poll                      [  7] } hitcount:       8314
{ id: sys_recvmsg                   [ 47] } hitcount:      13738
{ id: sys_ioctl                     [ 16] } hitcount:      21843

Totals:
    Hits: 67612
    Entries: 72
    Dropped: 0

上述系统调用计数提供了系统上系统调用活动的粗略总体情况;例如,我们可以看到此系统上最流行的系统调用是“sys_ioctl”系统调用。

我们可以使用“复合”键来细化该数字,并进一步了解哪些进程确切地促成了整体 ioctl 计数。

以下命令保留了系统调用 ID 和 pid 的每个唯一组合的命中计数——最终结果本质上是一个表,它保留了每个 pid 的系统调用命中总和。结果以系统调用 ID 作为主键,命中计数总和作为次键进行排序。

# echo 'hist:key=id.syscall,common_pid.execname:val=hitcount:sort=id,hitcount' > \
       /sys/kernel/tracing/events/raw_syscalls/sys_enter/trigger

# cat /sys/kernel/tracing/events/raw_syscalls/sys_enter/hist
# trigger info: hist:keys=id.syscall,common_pid.execname:vals=hitcount:sort=id.syscall,hitcount:size=2048 [active]

{ id: sys_read                      [  0], common_pid: rtkit-daemon    [      1877] } hitcount:          1
{ id: sys_read                      [  0], common_pid: gdbus           [      2976] } hitcount:          1
{ id: sys_read                      [  0], common_pid: console-kit-dae [      3400] } hitcount:          1
{ id: sys_read                      [  0], common_pid: postgres        [      1865] } hitcount:          1
{ id: sys_read                      [  0], common_pid: deja-dup-monito [      3543] } hitcount:          2
{ id: sys_read                      [  0], common_pid: NetworkManager  [       890] } hitcount:          2
{ id: sys_read                      [  0], common_pid: evolution-calen [      3048] } hitcount:          2
{ id: sys_read                      [  0], common_pid: postgres        [      1864] } hitcount:          2
{ id: sys_read                      [  0], common_pid: nm-applet       [      3022] } hitcount:          2
{ id: sys_read                      [  0], common_pid: whoopsie        [      1212] } hitcount:          2
.
.
.
{ id: sys_ioctl                     [ 16], common_pid: bash            [      8479] } hitcount:          1
{ id: sys_ioctl                     [ 16], common_pid: bash            [      3472] } hitcount:         12
{ id: sys_ioctl                     [ 16], common_pid: gnome-terminal  [      3199] } hitcount:         16
{ id: sys_ioctl                     [ 16], common_pid: Xorg            [      1267] } hitcount:       1808
{ id: sys_ioctl                     [ 16], common_pid: compiz          [      2994] } hitcount:       5580
.
.
.
{ id: sys_waitid                    [247], common_pid: upstart-dbus-br [      2690] } hitcount:          3
{ id: sys_waitid                    [247], common_pid: upstart-dbus-br [      2688] } hitcount:         16
{ id: sys_inotify_add_watch         [254], common_pid: gmain           [       975] } hitcount:          2
{ id: sys_inotify_add_watch         [254], common_pid: gmain           [      3204] } hitcount:          4
{ id: sys_inotify_add_watch         [254], common_pid: gmain           [      2888] } hitcount:          4
{ id: sys_inotify_add_watch         [254], common_pid: gmain           [      3003] } hitcount:          4
{ id: sys_inotify_add_watch         [254], common_pid: gmain           [      2873] } hitcount:          4
{ id: sys_inotify_add_watch         [254], common_pid: gmain           [      3196] } hitcount:          6
{ id: sys_openat                    [257], common_pid: java            [      2623] } hitcount:          2
{ id: sys_eventfd2                  [290], common_pid: ibus-ui-gtk3    [      2760] } hitcount:          4
{ id: sys_eventfd2                  [290], common_pid: compiz          [      2994] } hitcount:          6

Totals:
    Hits: 31536
    Entries: 323
    Dropped: 0

上述列表确实为我们提供了按 pid 划分的 ioctl 系统调用明细,但它也提供了更多我们目前并不真正关心的信息。由于我们知道 sys_ioctl 的系统调用 ID (16,显示在 sys_ioctl 名称旁边),我们可以用它来过滤掉所有其他系统调用。

# echo 'hist:key=id.syscall,common_pid.execname:val=hitcount:sort=id,hitcount if id == 16' > \
       /sys/kernel/tracing/events/raw_syscalls/sys_enter/trigger

# cat /sys/kernel/tracing/events/raw_syscalls/sys_enter/hist
# trigger info: hist:keys=id.syscall,common_pid.execname:vals=hitcount:sort=id.syscall,hitcount:size=2048 if id == 16 [active]

{ id: sys_ioctl                     [ 16], common_pid: gmain           [      2769] } hitcount:          1
{ id: sys_ioctl                     [ 16], common_pid: evolution-addre [      8571] } hitcount:          1
{ id: sys_ioctl                     [ 16], common_pid: gmain           [      3003] } hitcount:          1
{ id: sys_ioctl                     [ 16], common_pid: gmain           [      2781] } hitcount:          1
{ id: sys_ioctl                     [ 16], common_pid: gmain           [      2829] } hitcount:          1
{ id: sys_ioctl                     [ 16], common_pid: bash            [      8726] } hitcount:          1
{ id: sys_ioctl                     [ 16], common_pid: bash            [      8508] } hitcount:          1
{ id: sys_ioctl                     [ 16], common_pid: gmain           [      2970] } hitcount:          1
{ id: sys_ioctl                     [ 16], common_pid: gmain           [      2768] } hitcount:          1
.
.
.
{ id: sys_ioctl                     [ 16], common_pid: pool            [      8559] } hitcount:         45
{ id: sys_ioctl                     [ 16], common_pid: pool            [      8555] } hitcount:         48
{ id: sys_ioctl                     [ 16], common_pid: pool            [      8551] } hitcount:         48
{ id: sys_ioctl                     [ 16], common_pid: avahi-daemon    [       896] } hitcount:         66
{ id: sys_ioctl                     [ 16], common_pid: Xorg            [      1267] } hitcount:      26674
{ id: sys_ioctl                     [ 16], common_pid: compiz          [      2994] } hitcount:      73443

Totals:
    Hits: 101162
    Entries: 103
    Dropped: 0

上述输出显示,“compiz”和“Xorg”是迄今为止最频繁的 ioctl 调用者(这可能导致关于它们是否真的需要进行所有这些调用以及进一步调查的可能途径的问题)。

复合键示例使用一个键和一个求和值(命中计数)来排序输出,但我们也可以同样轻松地使用两个键。这里有一个示例,我们使用由 common_pid 和 size 事件字段组成的复合键。以 pid 作为主键,“size”作为次键进行排序,使我们能够显示每个进程接收的 recvfrom 大小(带计数)的有序摘要。

# echo 'hist:key=common_pid.execname,size:val=hitcount:sort=common_pid,size' > \
       /sys/kernel/tracing/events/syscalls/sys_enter_recvfrom/trigger

# cat /sys/kernel/tracing/events/syscalls/sys_enter_recvfrom/hist
# trigger info: hist:keys=common_pid.execname,size:vals=hitcount:sort=common_pid.execname,size:size=2048 [active]

{ common_pid: smbd            [       784], size:          4 } hitcount:          1
{ common_pid: dnsmasq         [      1412], size:       4096 } hitcount:        672
{ common_pid: postgres        [      1796], size:       1000 } hitcount:          6
{ common_pid: postgres        [      1867], size:       1000 } hitcount:         10
{ common_pid: bamfdaemon      [      2787], size:         28 } hitcount:          2
{ common_pid: bamfdaemon      [      2787], size:      14360 } hitcount:          1
{ common_pid: compiz          [      2994], size:          8 } hitcount:          1
{ common_pid: compiz          [      2994], size:         20 } hitcount:         11
{ common_pid: gnome-terminal  [      3199], size:          4 } hitcount:          2
{ common_pid: firefox         [      8817], size:          4 } hitcount:          1
{ common_pid: firefox         [      8817], size:          8 } hitcount:          5
{ common_pid: firefox         [      8817], size:        588 } hitcount:          2
{ common_pid: firefox         [      8817], size:        628 } hitcount:          1
{ common_pid: firefox         [      8817], size:       6944 } hitcount:          1
{ common_pid: firefox         [      8817], size:     408880 } hitcount:          2
{ common_pid: firefox         [      8822], size:          8 } hitcount:          2
{ common_pid: firefox         [      8822], size:        160 } hitcount:          2
{ common_pid: firefox         [      8822], size:        320 } hitcount:          2
{ common_pid: firefox         [      8822], size:        352 } hitcount:          1
.
.
.
{ common_pid: pool            [      8923], size:       1960 } hitcount:         10
{ common_pid: pool            [      8923], size:       2048 } hitcount:         10
{ common_pid: pool            [      8924], size:       1960 } hitcount:         10
{ common_pid: pool            [      8924], size:       2048 } hitcount:         10
{ common_pid: pool            [      8928], size:       1964 } hitcount:          4
{ common_pid: pool            [      8928], size:       1965 } hitcount:          2
{ common_pid: pool            [      8928], size:       2048 } hitcount:          6
{ common_pid: pool            [      8929], size:       1982 } hitcount:          1
{ common_pid: pool            [      8929], size:       2048 } hitcount:          1

Totals:
    Hits: 2016
    Entries: 224
    Dropped: 0

上述示例还说明了一个事实:尽管复合键在哈希处理中被视为一个单一实体,但组成它的子键可以独立访问。

下一个示例使用字符串字段作为哈希键,并演示如何手动暂停和继续 hist 触发器。在此示例中,我们将聚合 fork 计数,并且不期望哈希表中有大量条目,因此我们会将其减少到更小的数字,例如 256。

# echo 'hist:key=child_comm:val=hitcount:size=256' > \
       /sys/kernel/tracing/events/sched/sched_process_fork/trigger

# cat /sys/kernel/tracing/events/sched/sched_process_fork/hist
# trigger info: hist:keys=child_comm:vals=hitcount:sort=hitcount:size=256 [active]

{ child_comm: dconf worker                        } hitcount:          1
{ child_comm: ibus-daemon                         } hitcount:          1
{ child_comm: whoopsie                            } hitcount:          1
{ child_comm: smbd                                } hitcount:          1
{ child_comm: gdbus                               } hitcount:          1
{ child_comm: kthreadd                            } hitcount:          1
{ child_comm: dconf worker                        } hitcount:          1
{ child_comm: evolution-alarm                     } hitcount:          2
{ child_comm: Socket Thread                       } hitcount:          2
{ child_comm: postgres                            } hitcount:          2
{ child_comm: bash                                } hitcount:          3
{ child_comm: compiz                              } hitcount:          3
{ child_comm: evolution-sourc                     } hitcount:          4
{ child_comm: dhclient                            } hitcount:          4
{ child_comm: pool                                } hitcount:          5
{ child_comm: nm-dispatcher.a                     } hitcount:          8
{ child_comm: firefox                             } hitcount:          8
{ child_comm: dbus-daemon                         } hitcount:          8
{ child_comm: glib-pacrunner                      } hitcount:         10
{ child_comm: evolution                           } hitcount:         23

Totals:
    Hits: 89
    Entries: 20
    Dropped: 0

如果我们想暂停 hist 触发器,只需在启动触发器的命令后附加 :pause。请注意,触发器信息显示为 [paused]。

# echo 'hist:key=child_comm:val=hitcount:size=256:pause' >> \
       /sys/kernel/tracing/events/sched/sched_process_fork/trigger

# cat /sys/kernel/tracing/events/sched/sched_process_fork/hist
# trigger info: hist:keys=child_comm:vals=hitcount:sort=hitcount:size=256 [paused]

{ child_comm: dconf worker                        } hitcount:          1
{ child_comm: kthreadd                            } hitcount:          1
{ child_comm: dconf worker                        } hitcount:          1
{ child_comm: gdbus                               } hitcount:          1
{ child_comm: ibus-daemon                         } hitcount:          1
{ child_comm: Socket Thread                       } hitcount:          2
{ child_comm: evolution-alarm                     } hitcount:          2
{ child_comm: smbd                                } hitcount:          2
{ child_comm: bash                                } hitcount:          3
{ child_comm: whoopsie                            } hitcount:          3
{ child_comm: compiz                              } hitcount:          3
{ child_comm: evolution-sourc                     } hitcount:          4
{ child_comm: pool                                } hitcount:          5
{ child_comm: postgres                            } hitcount:          6
{ child_comm: firefox                             } hitcount:          8
{ child_comm: dhclient                            } hitcount:         10
{ child_comm: emacs                               } hitcount:         12
{ child_comm: dbus-daemon                         } hitcount:         20
{ child_comm: nm-dispatcher.a                     } hitcount:         20
{ child_comm: evolution                           } hitcount:         35
{ child_comm: glib-pacrunner                      } hitcount:         59

Totals:
    Hits: 199
    Entries: 21
    Dropped: 0

要手动继续让触发器聚合事件,请改为附加 :cont。请注意,触发器信息再次显示为 [active],并且数据已更改。

# echo 'hist:key=child_comm:val=hitcount:size=256:cont' >> \
       /sys/kernel/tracing/events/sched/sched_process_fork/trigger

# cat /sys/kernel/tracing/events/sched/sched_process_fork/hist
# trigger info: hist:keys=child_comm:vals=hitcount:sort=hitcount:size=256 [active]

{ child_comm: dconf worker                        } hitcount:          1
{ child_comm: dconf worker                        } hitcount:          1
{ child_comm: kthreadd                            } hitcount:          1
{ child_comm: gdbus                               } hitcount:          1
{ child_comm: ibus-daemon                         } hitcount:          1
{ child_comm: Socket Thread                       } hitcount:          2
{ child_comm: evolution-alarm                     } hitcount:          2
{ child_comm: smbd                                } hitcount:          2
{ child_comm: whoopsie                            } hitcount:          3
{ child_comm: compiz                              } hitcount:          3
{ child_comm: evolution-sourc                     } hitcount:          4
{ child_comm: bash                                } hitcount:          5
{ child_comm: pool                                } hitcount:          5
{ child_comm: postgres                            } hitcount:          6
{ child_comm: firefox                             } hitcount:          8
{ child_comm: dhclient                            } hitcount:         11
{ child_comm: emacs                               } hitcount:         12
{ child_comm: dbus-daemon                         } hitcount:         22
{ child_comm: nm-dispatcher.a                     } hitcount:         22
{ child_comm: evolution                           } hitcount:         35
{ child_comm: glib-pacrunner                      } hitcount:         59

Totals:
    Hits: 206
    Entries: 21
    Dropped: 0

上一个示例展示了如何通过在 hist 触发器命令后附加“pause”和“continue”来启动和停止 hist 触发器。也可以通过最初启动触发器时附加“:pause”来以暂停状态启动 hist 触发器。这允许您仅在准备好开始收集数据时才启动触发器,而不是在此之前。例如,您可以以暂停状态启动触发器,然后取消暂停并执行您想要测量的操作,完成后再次暂停触发器。

当然,手动执行此操作可能很困难且容易出错,但可以通过 enable_hist 和 disable_hist 触发器根据某些条件自动启动和停止 hist 触发器。

例如,假设我们想了解在使用 wget 下载大小适中的文件时,导致 netif_receive_skb 事件的每个调用路径在 skb 长度方面的相对权重。

首先,我们在 netif_receive_skb 事件上设置一个初始暂停的堆栈追踪触发器

# echo 'hist:key=common_stacktrace:vals=len:pause' > \
       /sys/kernel/tracing/events/net/netif_receive_skb/trigger

接下来,我们在 sched_process_exec 事件上设置一个“enable_hist”触发器,并带有一个“if filename==/usr/bin/wget”过滤器。这个新触发器的作用是,当且仅当它看到一个 filename 为“/usr/bin/wget”的 sched_process_exec 事件时,它才会“取消暂停”我们刚刚在 netif_receive_skb 上设置的 hist 触发器。当这种情况发生时,所有 netif_receive_skb 事件都将聚合到一个以堆栈追踪为键的哈希表中。

# echo 'enable_hist:net:netif_receive_skb if filename==/usr/bin/wget' > \
       /sys/kernel/tracing/events/sched/sched_process_exec/trigger

聚合持续进行,直到 netif_receive_skb 再次暂停,这是通过在 sched_process_exit 事件上创建类似设置(使用过滤器“comm==wget”)来完成的 disable_hist 事件所实现的功能。

# echo 'disable_hist:net:netif_receive_skb if comm==wget' > \
       /sys/kernel/tracing/events/sched/sched_process_exit/trigger

每当进程退出并且 disable_hist 触发器过滤器的 comm 字段与“comm==wget”匹配时,netif_receive_skb hist 触发器就会被禁用。

总体效果是 netif_receive_skb 事件仅在 wget 持续期间聚合到哈希表中。执行 wget 命令,然后列出“hist”文件将显示由 wget 命令生成的输出。

$ wget https://linuxkernel.org.cn/pub/linux/kernel/v3.x/patch-3.19.xz

# cat /sys/kernel/tracing/events/net/netif_receive_skb/hist
# trigger info: hist:keys=common_stacktrace:vals=len:sort=hitcount:size=2048 [paused]

{ common_stacktrace:
     __netif_receive_skb_core+0x46d/0x990
     __netif_receive_skb+0x18/0x60
     netif_receive_skb_internal+0x23/0x90
     napi_gro_receive+0xc8/0x100
     ieee80211_deliver_skb+0xd6/0x270 [mac80211]
     ieee80211_rx_handlers+0xccf/0x22f0 [mac80211]
     ieee80211_prepare_and_rx_handle+0x4e7/0xc40 [mac80211]
     ieee80211_rx+0x31d/0x900 [mac80211]
     iwlagn_rx_reply_rx+0x3db/0x6f0 [iwldvm]
     iwl_rx_dispatch+0x8e/0xf0 [iwldvm]
     iwl_pcie_irq_handler+0xe3c/0x12f0 [iwlwifi]
     irq_thread_fn+0x20/0x50
     irq_thread+0x11f/0x150
     kthread+0xd2/0xf0
     ret_from_fork+0x42/0x70
} hitcount:         85  len:      28884
{ common_stacktrace:
     __netif_receive_skb_core+0x46d/0x990
     __netif_receive_skb+0x18/0x60
     netif_receive_skb_internal+0x23/0x90
     napi_gro_complete+0xa4/0xe0
     dev_gro_receive+0x23a/0x360
     napi_gro_receive+0x30/0x100
     ieee80211_deliver_skb+0xd6/0x270 [mac80211]
     ieee80211_rx_handlers+0xccf/0x22f0 [mac80211]
     ieee80211_prepare_and_rx_handle+0x4e7/0xc40 [mac80211]
     ieee80211_rx+0x31d/0x900 [mac80211]
     iwlagn_rx_reply_rx+0x3db/0x6f0 [iwldvm]
     iwl_rx_dispatch+0x8e/0xf0 [iwldvm]
     iwl_pcie_irq_handler+0xe3c/0x12f0 [iwlwifi]
     irq_thread_fn+0x20/0x50
     irq_thread+0x11f/0x150
     kthread+0xd2/0xf0
} hitcount:         98  len:     664329
{ common_stacktrace:
     __netif_receive_skb_core+0x46d/0x990
     __netif_receive_skb+0x18/0x60
     process_backlog+0xa8/0x150
     net_rx_action+0x15d/0x340
     __do_softirq+0x114/0x2c0
     do_softirq_own_stack+0x1c/0x30
     do_softirq+0x65/0x70
     __local_bh_enable_ip+0xb5/0xc0
     ip_finish_output+0x1f4/0x840
     ip_output+0x6b/0xc0
     ip_local_out_sk+0x31/0x40
     ip_send_skb+0x1a/0x50
     udp_send_skb+0x173/0x2a0
     udp_sendmsg+0x2bf/0x9f0
     inet_sendmsg+0x64/0xa0
     sock_sendmsg+0x3d/0x50
} hitcount:        115  len:      13030
{ common_stacktrace:
     __netif_receive_skb_core+0x46d/0x990
     __netif_receive_skb+0x18/0x60
     netif_receive_skb_internal+0x23/0x90
     napi_gro_complete+0xa4/0xe0
     napi_gro_flush+0x6d/0x90
     iwl_pcie_irq_handler+0x92a/0x12f0 [iwlwifi]
     irq_thread_fn+0x20/0x50
     irq_thread+0x11f/0x150
     kthread+0xd2/0xf0
     ret_from_fork+0x42/0x70
} hitcount:        934  len:    5512212

Totals:
    Hits: 1232
    Entries: 4
    Dropped: 0

上述显示了在 wget 命令执行期间所有 netif_receive_skb 调用路径及其总长度。

“clear” hist 触发器参数可用于清除哈希表。假设我们想再次运行之前的示例,但这次也想查看进入直方图的完整事件列表。为了避免再次设置所有内容,我们可以先清除直方图。

# echo 'hist:key=common_stacktrace:vals=len:clear' >> \
       /sys/kernel/tracing/events/net/netif_receive_skb/trigger

为了验证它确实已被清除,以下是我们现在在 hist 文件中看到的内容

# cat /sys/kernel/tracing/events/net/netif_receive_skb/hist
# trigger info: hist:keys=common_stacktrace:vals=len:sort=hitcount:size=2048 [paused]

Totals:
    Hits: 0
    Entries: 0
    Dropped: 0

由于我们希望看到在新运行期间发生的每个 netif_receive_skb 事件的详细列表(这些事件实际上是聚合到哈希表中的相同事件),因此我们向触发 sched_process_exec 和 sched_process_exit 事件添加了一些额外的“enable_event”事件,如下所示

# echo 'enable_event:net:netif_receive_skb if filename==/usr/bin/wget' > \
       /sys/kernel/tracing/events/sched/sched_process_exec/trigger

# echo 'disable_event:net:netif_receive_skb if comm==wget' > \
       /sys/kernel/tracing/events/sched/sched_process_exit/trigger

如果您读取 sched_process_exec 和 sched_process_exit 触发器的触发器文件,您应该看到每个有两个触发器:一个用于启用/禁用 hist 聚合,另一个用于启用/禁用事件日志记录。

# cat /sys/kernel/tracing/events/sched/sched_process_exec/trigger
enable_event:net:netif_receive_skb:unlimited if filename==/usr/bin/wget
enable_hist:net:netif_receive_skb:unlimited if filename==/usr/bin/wget

# cat /sys/kernel/tracing/events/sched/sched_process_exit/trigger
enable_event:net:netif_receive_skb:unlimited if comm==wget
disable_hist:net:netif_receive_skb:unlimited if comm==wget

换句话说,每当 sched_process_exec 或 sched_process_exit 事件被命中并匹配“wget”时,它会启用或禁用直方图和事件日志,最终得到一个仅覆盖指定持续时间的哈希表和事件集。再次运行 wget 命令

$ wget https://linuxkernel.org.cn/pub/linux/kernel/v3.x/patch-3.19.xz

显示“hist”文件应该会显示与您上次运行类似的内容,但这次您还应该在追踪文件中看到单个事件。

# cat /sys/kernel/tracing/trace

# tracer: nop
#
# entries-in-buffer/entries-written: 183/1426   #P:4
#
#                              _-----=> irqs-off
#                             / _----=> need-resched
#                            | / _---=> hardirq/softirq
#                            || / _--=> preempt-depth
#                            ||| /     delay
#           TASK-PID   CPU#  ||||    TIMESTAMP  FUNCTION
#              | |       |   ||||       |         |
            wget-15108 [000] ..s1 31769.606929: netif_receive_skb: dev=lo skbaddr=ffff88009c353100 len=60
            wget-15108 [000] ..s1 31769.606999: netif_receive_skb: dev=lo skbaddr=ffff88009c353200 len=60
         dnsmasq-1382  [000] ..s1 31769.677652: netif_receive_skb: dev=lo skbaddr=ffff88009c352b00 len=130
         dnsmasq-1382  [000] ..s1 31769.685917: netif_receive_skb: dev=lo skbaddr=ffff88009c352200 len=138
##### CPU 2 buffer started ####
  irq/29-iwlwifi-559   [002] ..s. 31772.031529: netif_receive_skb: dev=wlan0 skbaddr=ffff88009d433d00 len=2948
  irq/29-iwlwifi-559   [002] ..s. 31772.031572: netif_receive_skb: dev=wlan0 skbaddr=ffff88009d432200 len=1500
  irq/29-iwlwifi-559   [002] ..s. 31772.032196: netif_receive_skb: dev=wlan0 skbaddr=ffff88009d433100 len=2948
  irq/29-iwlwifi-559   [002] ..s. 31772.032761: netif_receive_skb: dev=wlan0 skbaddr=ffff88009d433000 len=2948
  irq/29-iwlwifi-559   [002] ..s. 31772.033220: netif_receive_skb: dev=wlan0 skbaddr=ffff88009d432e00 len=1500
.
.
.

以下示例演示了如何将多个 hist 触发器附加到给定事件。这种能力对于从同一组事件中创建一组不同的摘要,或比较不同过滤器的效果等非常有用。

# echo 'hist:keys=skbaddr.hex:vals=len if len < 0' >> \
       /sys/kernel/tracing/events/net/netif_receive_skb/trigger
# echo 'hist:keys=skbaddr.hex:vals=len if len > 4096' >> \
       /sys/kernel/tracing/events/net/netif_receive_skb/trigger
# echo 'hist:keys=skbaddr.hex:vals=len if len == 256' >> \
       /sys/kernel/tracing/events/net/netif_receive_skb/trigger
# echo 'hist:keys=skbaddr.hex:vals=len' >> \
       /sys/kernel/tracing/events/net/netif_receive_skb/trigger
# echo 'hist:keys=len:vals=common_preempt_count' >> \
       /sys/kernel/tracing/events/net/netif_receive_skb/trigger

上述命令集创建了四个仅在过滤器上有所不同的触发器,以及一个完全不同但相当无意义的触发器。请注意,为了将多个 hist 触发器附加到同一个文件,您应该使用“>>”运算符进行追加(“>”也会添加新的 hist 触发器,但会事先删除任何现有的 hist 触发器)。

显示事件的“hist”文件内容会显示所有五个直方图的内容

# cat /sys/kernel/tracing/events/net/netif_receive_skb/hist

# event histogram
#
# trigger info: hist:keys=len:vals=hitcount,common_preempt_count:sort=hitcount:size=2048 [active]
#

{ len:        176 } hitcount:          1  common_preempt_count:          0
{ len:        223 } hitcount:          1  common_preempt_count:          0
{ len:       4854 } hitcount:          1  common_preempt_count:          0
{ len:        395 } hitcount:          1  common_preempt_count:          0
{ len:        177 } hitcount:          1  common_preempt_count:          0
{ len:        446 } hitcount:          1  common_preempt_count:          0
{ len:       1601 } hitcount:          1  common_preempt_count:          0
.
.
.
{ len:       1280 } hitcount:         66  common_preempt_count:          0
{ len:        116 } hitcount:         81  common_preempt_count:         40
{ len:        708 } hitcount:        112  common_preempt_count:          0
{ len:         46 } hitcount:        221  common_preempt_count:          0
{ len:       1264 } hitcount:        458  common_preempt_count:          0

Totals:
    Hits: 1428
    Entries: 147
    Dropped: 0


# event histogram
#
# trigger info: hist:keys=skbaddr.hex:vals=hitcount,len:sort=hitcount:size=2048 [active]
#

{ skbaddr: ffff8800baee5e00 } hitcount:          1  len:        130
{ skbaddr: ffff88005f3d5600 } hitcount:          1  len:       1280
{ skbaddr: ffff88005f3d4900 } hitcount:          1  len:       1280
{ skbaddr: ffff88009fed6300 } hitcount:          1  len:        115
{ skbaddr: ffff88009fe0ad00 } hitcount:          1  len:        115
{ skbaddr: ffff88008cdb1900 } hitcount:          1  len:         46
{ skbaddr: ffff880064b5ef00 } hitcount:          1  len:        118
{ skbaddr: ffff880044e3c700 } hitcount:          1  len:         60
{ skbaddr: ffff880100065900 } hitcount:          1  len:         46
{ skbaddr: ffff8800d46bd500 } hitcount:          1  len:        116
{ skbaddr: ffff88005f3d5f00 } hitcount:          1  len:       1280
{ skbaddr: ffff880100064700 } hitcount:          1  len:        365
{ skbaddr: ffff8800badb6f00 } hitcount:          1  len:         60
.
.
.
{ skbaddr: ffff88009fe0be00 } hitcount:         27  len:      24677
{ skbaddr: ffff88009fe0a400 } hitcount:         27  len:      23052
{ skbaddr: ffff88009fe0b700 } hitcount:         31  len:      25589
{ skbaddr: ffff88009fe0b600 } hitcount:         32  len:      27326
{ skbaddr: ffff88006a462800 } hitcount:         68  len:      71678
{ skbaddr: ffff88006a463700 } hitcount:         70  len:      72678
{ skbaddr: ffff88006a462b00 } hitcount:         71  len:      77589
{ skbaddr: ffff88006a463600 } hitcount:         73  len:      71307
{ skbaddr: ffff88006a462200 } hitcount:         81  len:      81032

Totals:
    Hits: 1451
    Entries: 318
    Dropped: 0


# event histogram
#
# trigger info: hist:keys=skbaddr.hex:vals=hitcount,len:sort=hitcount:size=2048 if len == 256 [active]
#


Totals:
    Hits: 0
    Entries: 0
    Dropped: 0


# event histogram
#
# trigger info: hist:keys=skbaddr.hex:vals=hitcount,len:sort=hitcount:size=2048 if len > 4096 [active]
#

{ skbaddr: ffff88009fd2c300 } hitcount:          1  len:       7212
{ skbaddr: ffff8800d2bcce00 } hitcount:          1  len:       7212
{ skbaddr: ffff8800d2bcd700 } hitcount:          1  len:       7212
{ skbaddr: ffff8800d2bcda00 } hitcount:          1  len:      21492
{ skbaddr: ffff8800ae2e2d00 } hitcount:          1  len:       7212
{ skbaddr: ffff8800d2bcdb00 } hitcount:          1  len:       7212
{ skbaddr: ffff88006a4df500 } hitcount:          1  len:       4854
{ skbaddr: ffff88008ce47b00 } hitcount:          1  len:      18636
{ skbaddr: ffff8800ae2e2200 } hitcount:          1  len:      12924
{ skbaddr: ffff88005f3e1000 } hitcount:          1  len:       4356
{ skbaddr: ffff8800d2bcdc00 } hitcount:          2  len:      24420
{ skbaddr: ffff8800d2bcc200 } hitcount:          2  len:      12996

Totals:
    Hits: 14
    Entries: 12
    Dropped: 0


# event histogram
#
# trigger info: hist:keys=skbaddr.hex:vals=hitcount,len:sort=hitcount:size=2048 if len < 0 [active]
#


Totals:
    Hits: 0
    Entries: 0
    Dropped: 0

命名触发器可用于使触发器共享一组公共直方图数据。此功能主要用于合并内联函数中包含的追踪点生成的事件输出,但名称可用于任何事件上的 hist 触发器。例如,这两个触发器被命中时将更新共享“foo”直方图数据中的相同“len”字段。

# echo 'hist:name=foo:keys=skbaddr.hex:vals=len' > \
       /sys/kernel/tracing/events/net/netif_receive_skb/trigger
# echo 'hist:name=foo:keys=skbaddr.hex:vals=len' > \
       /sys/kernel/tracing/events/net/netif_rx/trigger

通过同时读取每个事件的 hist 文件,您可以看到它们正在更新公共直方图数据

# cat /sys/kernel/tracing/events/net/netif_receive_skb/hist;
  cat /sys/kernel/tracing/events/net/netif_rx/hist

# event histogram
#
# trigger info: hist:name=foo:keys=skbaddr.hex:vals=hitcount,len:sort=hitcount:size=2048 [active]
#

{ skbaddr: ffff88000ad53500 } hitcount:          1  len:         46
{ skbaddr: ffff8800af5a1500 } hitcount:          1  len:         76
{ skbaddr: ffff8800d62a1900 } hitcount:          1  len:         46
{ skbaddr: ffff8800d2bccb00 } hitcount:          1  len:        468
{ skbaddr: ffff8800d3c69900 } hitcount:          1  len:         46
{ skbaddr: ffff88009ff09100 } hitcount:          1  len:         52
{ skbaddr: ffff88010f13ab00 } hitcount:          1  len:        168
{ skbaddr: ffff88006a54f400 } hitcount:          1  len:         46
{ skbaddr: ffff8800d2bcc500 } hitcount:          1  len:        260
{ skbaddr: ffff880064505000 } hitcount:          1  len:         46
{ skbaddr: ffff8800baf24e00 } hitcount:          1  len:         32
{ skbaddr: ffff88009fe0ad00 } hitcount:          1  len:         46
{ skbaddr: ffff8800d3edff00 } hitcount:          1  len:         44
{ skbaddr: ffff88009fe0b400 } hitcount:          1  len:        168
{ skbaddr: ffff8800a1c55a00 } hitcount:          1  len:         40
{ skbaddr: ffff8800d2bcd100 } hitcount:          1  len:         40
{ skbaddr: ffff880064505f00 } hitcount:          1  len:        174
{ skbaddr: ffff8800a8bff200 } hitcount:          1  len:        160
{ skbaddr: ffff880044e3cc00 } hitcount:          1  len:         76
{ skbaddr: ffff8800a8bfe700 } hitcount:          1  len:         46
{ skbaddr: ffff8800d2bcdc00 } hitcount:          1  len:         32
{ skbaddr: ffff8800a1f64800 } hitcount:          1  len:         46
{ skbaddr: ffff8800d2bcde00 } hitcount:          1  len:        988
{ skbaddr: ffff88006a5dea00 } hitcount:          1  len:         46
{ skbaddr: ffff88002e37a200 } hitcount:          1  len:         44
{ skbaddr: ffff8800a1f32c00 } hitcount:          2  len:        676
{ skbaddr: ffff88000ad52600 } hitcount:          2  len:        107
{ skbaddr: ffff8800a1f91e00 } hitcount:          2  len:         92
{ skbaddr: ffff8800af5a0200 } hitcount:          2  len:        142
{ skbaddr: ffff8800d2bcc600 } hitcount:          2  len:        220
{ skbaddr: ffff8800ba36f500 } hitcount:          2  len:         92
{ skbaddr: ffff8800d021f800 } hitcount:          2  len:         92
{ skbaddr: ffff8800a1f33600 } hitcount:          2  len:        675
{ skbaddr: ffff8800a8bfff00 } hitcount:          3  len:        138
{ skbaddr: ffff8800d62a1300 } hitcount:          3  len:        138
{ skbaddr: ffff88002e37a100 } hitcount:          4  len:        184
{ skbaddr: ffff880064504400 } hitcount:          4  len:        184
{ skbaddr: ffff8800a8bfec00 } hitcount:          4  len:        184
{ skbaddr: ffff88000ad53700 } hitcount:          5  len:        230
{ skbaddr: ffff8800d2bcdb00 } hitcount:          5  len:        196
{ skbaddr: ffff8800a1f90000 } hitcount:          6  len:        276
{ skbaddr: ffff88006a54f900 } hitcount:          6  len:        276

Totals:
    Hits: 81
    Entries: 42
    Dropped: 0
# event histogram
#
# trigger info: hist:name=foo:keys=skbaddr.hex:vals=hitcount,len:sort=hitcount:size=2048 [active]
#

{ skbaddr: ffff88000ad53500 } hitcount:          1  len:         46
{ skbaddr: ffff8800af5a1500 } hitcount:          1  len:         76
{ skbaddr: ffff8800d62a1900 } hitcount:          1  len:         46
{ skbaddr: ffff8800d2bccb00 } hitcount:          1  len:        468
{ skbaddr: ffff8800d3c69900 } hitcount:          1  len:         46
{ skbaddr: ffff88009ff09100 } hitcount:          1  len:         52
{ skbaddr: ffff88010f13ab00 } hitcount:          1  len:        168
{ skbaddr: ffff88006a54f400 } hitcount:          1  len:         46
{ skbaddr: ffff8800d2bcc500 } hitcount:          1  len:        260
{ skbaddr: ffff880064505000 } hitcount:          1  len:         46
{ skbaddr: ffff8800baf24e00 } hitcount:          1  len:         32
{ skbaddr: ffff88009fe0ad00 } hitcount:          1  len:         46
{ skbaddr: ffff8800d3edff00 } hitcount:          1  len:         44
{ skbaddr: ffff88009fe0b400 } hitcount:          1  len:        168
{ skbaddr: ffff8800a1c55a00 } hitcount:          1  len:         40
{ skbaddr: ffff8800d2bcd100 } hitcount:          1  len:         40
{ skbaddr: ffff880064505f00 } hitcount:          1  len:        174
{ skbaddr: ffff8800a8bff200 } hitcount:          1  len:        160
{ skbaddr: ffff880044e3cc00 } hitcount:          1  len:         76
{ skbaddr: ffff8800a8bfe700 } hitcount:          1  len:         46
{ skbaddr: ffff8800d2bcdc00 } hitcount:          1  len:         32
{ skbaddr: ffff8800a1f64800 } hitcount:          1  len:         46
{ skbaddr: ffff8800d2bcde00 } hitcount:          1  len:        988
{ skbaddr: ffff88006a5dea00 } hitcount:          1  len:         46
{ skbaddr: ffff88002e37a200 } hitcount:          1  len:         44
{ skbaddr: ffff8800a1f32c00 } hitcount:          2  len:        676
{ skbaddr: ffff88000ad52600 } hitcount:          2  len:        107
{ skbaddr: ffff8800a1f91e00 } hitcount:          2  len:         92
{ skbaddr: ffff8800af5a0200 } hitcount:          2  len:        142
{ skbaddr: ffff8800d2bcc600 } hitcount:          2  len:        220
{ skbaddr: ffff8800ba36f500 } hitcount:          2  len:         92
{ skbaddr: ffff8800d021f800 } hitcount:          2  len:         92
{ skbaddr: ffff8800a1f33600 } hitcount:          2  len:        675
{ skbaddr: ffff8800a8bfff00 } hitcount:          3  len:        138
{ skbaddr: ffff8800d62a1300 } hitcount:          3  len:        138
{ skbaddr: ffff88002e37a100 } hitcount:          4  len:        184
{ skbaddr: ffff880064504400 } hitcount:          4  len:        184
{ skbaddr: ffff8800a8bfec00 } hitcount:          4  len:        184
{ skbaddr: ffff88000ad53700 } hitcount:          5  len:        230
{ skbaddr: ffff8800d2bcdb00 } hitcount:          5  len:        196
{ skbaddr: ffff8800a1f90000 } hitcount:          6  len:        276
{ skbaddr: ffff88006a54f900 } hitcount:          6  len:        276

Totals:
    Hits: 81
    Entries: 42
    Dropped: 0

这里有一个示例,展示了如何组合来自任意两个事件的直方图数据,即使它们除了“hitcount”和“common_stacktrace”之外不共享任何“兼容”字段。这些命令使用这些字段创建了几个名为“bar”的触发器。

# echo 'hist:name=bar:key=common_stacktrace:val=hitcount' > \
       /sys/kernel/tracing/events/sched/sched_process_fork/trigger
# echo 'hist:name=bar:key=common_stacktrace:val=hitcount' > \
      /sys/kernel/tracing/events/net/netif_rx/trigger

显示其中任何一个的输出都会显示一些有趣但有些令人困惑的输出

# cat /sys/kernel/tracing/events/sched/sched_process_fork/hist
# cat /sys/kernel/tracing/events/net/netif_rx/hist

# event histogram
#
# trigger info: hist:name=bar:keys=common_stacktrace:vals=hitcount:sort=hitcount:size=2048 [active]
#

{ common_stacktrace:
         kernel_clone+0x18e/0x330
         kernel_thread+0x29/0x30
         kthreadd+0x154/0x1b0
         ret_from_fork+0x3f/0x70
} hitcount:          1
{ common_stacktrace:
         netif_rx_internal+0xb2/0xd0
         netif_rx_ni+0x20/0x70
         dev_loopback_xmit+0xaa/0xd0
         ip_mc_output+0x126/0x240
         ip_local_out_sk+0x31/0x40
         igmp_send_report+0x1e9/0x230
         igmp_timer_expire+0xe9/0x120
         call_timer_fn+0x39/0xf0
         run_timer_softirq+0x1e1/0x290
         __do_softirq+0xfd/0x290
         irq_exit+0x98/0xb0
         smp_apic_timer_interrupt+0x4a/0x60
         apic_timer_interrupt+0x6d/0x80
         cpuidle_enter+0x17/0x20
         call_cpuidle+0x3b/0x60
         cpu_startup_entry+0x22d/0x310
} hitcount:          1
{ common_stacktrace:
         netif_rx_internal+0xb2/0xd0
         netif_rx_ni+0x20/0x70
         dev_loopback_xmit+0xaa/0xd0
         ip_mc_output+0x17f/0x240
         ip_local_out_sk+0x31/0x40
         ip_send_skb+0x1a/0x50
         udp_send_skb+0x13e/0x270
         udp_sendmsg+0x2bf/0x980
         inet_sendmsg+0x67/0xa0
         sock_sendmsg+0x38/0x50
         SYSC_sendto+0xef/0x170
         SyS_sendto+0xe/0x10
         entry_SYSCALL_64_fastpath+0x12/0x6a
} hitcount:          2
{ common_stacktrace:
         netif_rx_internal+0xb2/0xd0
         netif_rx+0x1c/0x60
         loopback_xmit+0x6c/0xb0
         dev_hard_start_xmit+0x219/0x3a0
         __dev_queue_xmit+0x415/0x4f0
         dev_queue_xmit_sk+0x13/0x20
         ip_finish_output2+0x237/0x340
         ip_finish_output+0x113/0x1d0
         ip_output+0x66/0xc0
         ip_local_out_sk+0x31/0x40
         ip_send_skb+0x1a/0x50
         udp_send_skb+0x16d/0x270
         udp_sendmsg+0x2bf/0x980
         inet_sendmsg+0x67/0xa0
         sock_sendmsg+0x38/0x50
         ___sys_sendmsg+0x14e/0x270
} hitcount:         76
{ common_stacktrace:
         netif_rx_internal+0xb2/0xd0
         netif_rx+0x1c/0x60
         loopback_xmit+0x6c/0xb0
         dev_hard_start_xmit+0x219/0x3a0
         __dev_queue_xmit+0x415/0x4f0
         dev_queue_xmit_sk+0x13/0x20
         ip_finish_output2+0x237/0x340
         ip_finish_output+0x113/0x1d0
         ip_output+0x66/0xc0
         ip_local_out_sk+0x31/0x40
         ip_send_skb+0x1a/0x50
         udp_send_skb+0x16d/0x270
         udp_sendmsg+0x2bf/0x980
         inet_sendmsg+0x67/0xa0
         sock_sendmsg+0x38/0x50
         ___sys_sendmsg+0x269/0x270
} hitcount:         77
{ common_stacktrace:
         netif_rx_internal+0xb2/0xd0
         netif_rx+0x1c/0x60
         loopback_xmit+0x6c/0xb0
         dev_hard_start_xmit+0x219/0x3a0
         __dev_queue_xmit+0x415/0x4f0
         dev_queue_xmit_sk+0x13/0x20
         ip_finish_output2+0x237/0x340
         ip_finish_output+0x113/0x1d0
         ip_output+0x66/0xc0
         ip_local_out_sk+0x31/0x40
         ip_send_skb+0x1a/0x50
         udp_send_skb+0x16d/0x270
         udp_sendmsg+0x2bf/0x980
         inet_sendmsg+0x67/0xa0
         sock_sendmsg+0x38/0x50
         SYSC_sendto+0xef/0x170
} hitcount:         88
{ common_stacktrace:
         kernel_clone+0x18e/0x330
         SyS_clone+0x19/0x20
         entry_SYSCALL_64_fastpath+0x12/0x6a
} hitcount:        244

Totals:
    Hits: 489
    Entries: 7
    Dropped: 0

2.4. 事件间 hist 触发器

事件间 hist 触发器是 hist 触发器,它结合来自一个或多个其他事件的值,并使用该数据创建直方图。事件间直方图的数据反过来可以成为进一步组合直方图的来源,从而提供一系列相关直方图,这对于某些应用程序很重要。

以这种方式使用的事件间数量最重要的示例是延迟,它简单地是两个事件之间时间戳的差异。尽管延迟是最重要的事件间数量,但请注意,由于支持在整个追踪事件子系统中是完全通用的,任何事件字段都可以用于事件间数量。

将来自其他直方图的数据组合成有用链的直方图示例是“wakeupswitch latency”直方图,它结合了“wakeup latency”直方图和“switch latency”直方图。

通常,hist 触发器规范由一个(可能是复合的)键以及一个或多个数值组成,这些数值是与该键关联的持续更新的总和。在这种情况下,直方图规范由指代与单个事件类型关联的追踪事件字段的单独键和值规范组成。

事件间 hist 触发器扩展允许引用来自多个事件的字段并将它们组合成多事件直方图规范。为了支持这一总体目标,hist 触发器支持中增加了一些启用功能

  • 为了计算事件间数量,需要保存一个事件中的值,然后从另一个事件中引用它。这需要引入对直方图“变量”的支持。

  • 事件间数量的计算及其组合需要对变量应用简单表达式(+ 和 -)的最低限度支持。

  • 由事件间数量组成的直方图在逻辑上不是任一事件的直方图(因此让任一事件的“hist”文件承载直方图输出并没有真正的意义)。为了解决直方图与事件组合关联的想法,增加了支持,允许创建“合成”事件,这些事件是从其他事件派生出来的。这些合成事件是成熟的事件,就像任何其他事件一样,并且可以这样使用,例如创建前面提到的“组合”直方图。

  • 一组“动作”可以与直方图条目相关联——这些可以用于生成前面提到的合成事件,但也可以用于其他目的,例如在达到“最大”延迟时保存上下文。

  • 追踪事件本身没有关联的“时间戳”,但在底层的 ftrace 环形缓冲区中,每个事件都隐式保存了一个时间戳。这个时间戳现在作为一个名为“common_timestamp”的合成字段暴露出来,可以在直方图中像其他任何事件字段一样使用;它不是追踪格式中的实际字段,而是合成值,但仍然可以像实际字段一样使用。默认情况下,它以纳秒为单位;在 common_timestamp 字段后附加“.usecs”会将单位更改为微秒。

关于事件间时间戳的注意事项:如果在直方图中使用 common_timestamp,追踪缓冲区将自动切换到使用绝对时间戳和“全局”追踪时钟,以避免与其他非 CPU 一致的时钟产生错误的时间戳差异。这可以通过指定其他追踪时钟来覆盖,使用“clock=XXX”hist 触发器属性,其中 XXX 是 tracing/trace_clock 伪文件中列出的任何时钟。

这些功能将在以下各节中详细描述。

2.5. 直方图变量

变量只是用于在匹配事件之间保存和检索值的命名位置。“匹配”事件定义为具有匹配键的事件——如果为与该键对应的直方图条目保存了变量,则任何具有匹配键的后续事件都可以访问该变量。

变量的值通常对任何后续事件都可用,直到它被后续事件设置为其他值。该规则的一个例外是,表达式中使用的任何变量本质上都是“一次性读取”的——一旦它在后续事件中被表达式使用,它就会重置为其“未设置”状态,这意味着除非再次设置,否则不能再次使用。这不仅确保事件在计算中不使用未初始化的变量,而且确保该变量仅使用一次,而不是用于任何不相关的后续匹配。

保存变量的基本语法是简单地将不对应任何关键字的唯一变量名以及“=”号作为前缀附加到任何事件字段。

键或值都可以通过这种方式保存和检索。这为键为“next_pid”的直方图条目创建了一个名为“ts0”的变量。

# echo 'hist:keys=next_pid:vals=$ts0:ts0=common_timestamp ... >> \
      event/trigger

ts0 变量可以被任何后续事件访问,只要这些事件的 pid 与“next_pid”相同。

变量引用是通过在变量名前加上“$”符号形成的。因此,例如,上面的 ts0 变量在表达式中将被称为“$ts0”。

因为使用了“vals=”,所以上面的 common_timestamp 变量值也将像正常的直方图值一样求和(尽管对于时间戳来说意义不大)。

以下显示键值也可以用相同的方式保存

# echo 'hist:timer_pid=common_pid:key=timer_pid ...' >> event/trigger

如果变量不是键变量或没有以“vals=”为前缀,则关联的事件字段将保存为变量,但不会作为值求和。

# echo 'hist:keys=next_pid:ts1=common_timestamp ...' >> event/trigger

可以同时分配多个变量。以下将导致 ts0 和 b 都被创建为变量,并且 common_timestamp 和 field1 都会额外作为值求和。

# echo 'hist:keys=pid:vals=$ts0,$b:ts0=common_timestamp,b=field1 ...' >> \
      event/trigger

请注意,变量赋值可以出现在其使用之前或之后。以下命令与上述命令的行为相同。

# echo 'hist:keys=pid:ts0=common_timestamp,b=field1:vals=$ts0,$b ...' >> \
      event/trigger

任何未绑定到“vals=”前缀的变量也可以通过简单地用冒号分隔来赋值。下面是相同的情况,但没有在直方图中对值进行求和。

# echo 'hist:keys=pid:ts0=common_timestamp:b=field1 ...' >> event/trigger

上述设置的变量可以在另一个事件的表达式中引用和使用。

例如,以下是如何计算延迟

# echo 'hist:keys=pid,prio:ts0=common_timestamp ...' >> event1/trigger
# echo 'hist:keys=next_pid:wakeup_lat=common_timestamp-$ts0 ...' >> event2/trigger

在上面的第一行中,事件的时间戳保存到变量 ts0 中。在下一行中,ts0 从第二个事件的时间戳中减去,以产生延迟,然后将其分配给另一个变量“wakeup_lat”。下面的 hist 触发器反过来利用 wakeup_lat 变量,使用来自另一个事件的相同键和变量计算组合延迟。

# echo 'hist:key=pid:wakeupswitch_lat=$wakeup_lat+$switchtime_lat ...' >> event3/trigger

表达式支持使用加法、减法、乘法和除法运算符(+-*/)。

注意,如果在解析时无法检测到除零(即除数不是常量),结果将为 -1。

数值常量也可以直接在表达式中使用

# echo 'hist:keys=next_pid:timestamp_secs=common_timestamp/1000000 ...' >> event/trigger

或赋值给变量并在后续表达式中引用

# echo 'hist:keys=next_pid:us_per_sec=1000000 ...' >> event/trigger
# echo 'hist:keys=next_pid:timestamp_secs=common_timestamp/$us_per_sec ...' >> event/trigger

变量甚至可以保存堆栈追踪,这对于合成事件很有用。

2.6. 合成事件

合成事件是用户定义的事件,由 hist 触发器变量或与一个或多个其他事件相关的字段生成。它们旨在提供一种机制,以与正常事件现有且已熟悉的使用方式一致的方式显示跨多个事件的数据。

为了定义一个合成事件,用户向 tracing/synthetic_events 文件写入一个简单的规范,该规范由新事件的名称以及一个或多个变量及其类型(可以是任何有效的字段类型,用分号分隔)组成。

有关可用类型,请参阅 synth_field_size()

如果 field_name 包含 [n],则该字段被视为静态数组。

如果 field_names 包含[](没有下标),则该字段被视为动态数组,它在事件中只占用容纳数组所需的空间。

字符串字段可以使用静态表示法指定

char name[32];

或动态表示法

char name[];

两者的尺寸限制均为 256。

例如,以下创建一个名为“wakeup_latency”的新事件,其中包含 3 个字段:lat、pid 和 prio。这些字段中的每一个都只是对另一个事件上变量的变量引用。

# echo 'wakeup_latency \
        u64 lat; \
        pid_t pid; \
        int prio' >> \
        /sys/kernel/tracing/synthetic_events

读取 tracing/synthetic_events 文件会列出所有当前定义的合成事件,在本例中是上面定义的事件

# cat /sys/kernel/tracing/synthetic_events
  wakeup_latency u64 lat; pid_t pid; int prio

现有合成事件定义可以通过在其定义命令前加上“!”来删除。

# echo '!wakeup_latency u64 lat pid_t pid int prio' >> \
  /sys/kernel/tracing/synthetic_events

此时,事件子系统中尚未实例化实际的“wakeup_latency”事件——要实现这一点,需要实例化一个“hist 触发器动作”并将其绑定到在其他事件上定义的实际字段和变量(有关如何使用 hist 触发器“onmatch”动作完成此操作,请参见下面的 2.7 节)。一旦完成,就会创建“wakeup_latency”合成事件实例。

新事件在 tracing/events/synthetic/ 目录下创建,其外观和行为与任何其他事件一样

# ls /sys/kernel/tracing/events/synthetic/wakeup_latency
      enable  filter  format  hist  id  trigger

现在可以为新的合成事件定义直方图

# echo 'hist:keys=pid,prio,lat.log2:sort=lat' >> \
      /sys/kernel/tracing/events/synthetic/wakeup_latency/trigger

上述显示了以 2 的幂分组的延迟“lat”。

与任何其他事件一样,一旦为事件启用了直方图,就可以通过读取事件的“hist”文件来显示输出

# cat /sys/kernel/tracing/events/synthetic/wakeup_latency/hist

# event histogram
#
# trigger info: hist:keys=pid,prio,lat.log2:vals=hitcount:sort=lat.log2:size=2048 [active]
#

{ pid:       2035, prio:          9, lat: ~ 2^2  } hitcount:         43
{ pid:       2034, prio:          9, lat: ~ 2^2  } hitcount:         60
{ pid:       2029, prio:          9, lat: ~ 2^2  } hitcount:        965
{ pid:       2034, prio:        120, lat: ~ 2^2  } hitcount:          9
{ pid:       2033, prio:        120, lat: ~ 2^2  } hitcount:          5
{ pid:       2030, prio:          9, lat: ~ 2^2  } hitcount:        335
{ pid:       2030, prio:        120, lat: ~ 2^2  } hitcount:         10
{ pid:       2032, prio:        120, lat: ~ 2^2  } hitcount:          1
{ pid:       2035, prio:        120, lat: ~ 2^2  } hitcount:          2
{ pid:       2031, prio:          9, lat: ~ 2^2  } hitcount:        176
{ pid:       2028, prio:        120, lat: ~ 2^2  } hitcount:         15
{ pid:       2033, prio:          9, lat: ~ 2^2  } hitcount:         91
{ pid:       2032, prio:          9, lat: ~ 2^2  } hitcount:        125
{ pid:       2029, prio:        120, lat: ~ 2^2  } hitcount:          4
{ pid:       2031, prio:        120, lat: ~ 2^2  } hitcount:          3
{ pid:       2029, prio:        120, lat: ~ 2^3  } hitcount:          2
{ pid:       2035, prio:          9, lat: ~ 2^3  } hitcount:         41
{ pid:       2030, prio:        120, lat: ~ 2^3  } hitcount:          1
{ pid:       2032, prio:          9, lat: ~ 2^3  } hitcount:         32
{ pid:       2031, prio:          9, lat: ~ 2^3  } hitcount:         44
{ pid:       2034, prio:          9, lat: ~ 2^3  } hitcount:         40
{ pid:       2030, prio:          9, lat: ~ 2^3  } hitcount:         29
{ pid:       2033, prio:          9, lat: ~ 2^3  } hitcount:         31
{ pid:       2029, prio:          9, lat: ~ 2^3  } hitcount:         31
{ pid:       2028, prio:        120, lat: ~ 2^3  } hitcount:         18
{ pid:       2031, prio:        120, lat: ~ 2^3  } hitcount:          2
{ pid:       2028, prio:        120, lat: ~ 2^4  } hitcount:          1
{ pid:       2029, prio:          9, lat: ~ 2^4  } hitcount:          4
{ pid:       2031, prio:        120, lat: ~ 2^7  } hitcount:          1
{ pid:       2032, prio:        120, lat: ~ 2^7  } hitcount:          1

Totals:
    Hits: 2122
    Entries: 30
    Dropped: 0

延迟值也可以通过“.buckets”修饰符按给定大小进行线性分组,并指定大小(在此示例中为 10 个一组)。

# echo 'hist:keys=pid,prio,lat.buckets=10:sort=lat' >> \
      /sys/kernel/tracing/events/synthetic/wakeup_latency/trigger

# event histogram
#
# trigger info: hist:keys=pid,prio,lat.buckets=10:vals=hitcount:sort=lat.buckets=10:size=2048 [active]
#

{ pid:       2067, prio:          9, lat: ~ 0-9 } hitcount:        220
{ pid:       2068, prio:          9, lat: ~ 0-9 } hitcount:        157
{ pid:       2070, prio:          9, lat: ~ 0-9 } hitcount:        100
{ pid:       2067, prio:        120, lat: ~ 0-9 } hitcount:          6
{ pid:       2065, prio:        120, lat: ~ 0-9 } hitcount:          2
{ pid:       2066, prio:        120, lat: ~ 0-9 } hitcount:          2
{ pid:       2069, prio:          9, lat: ~ 0-9 } hitcount:        122
{ pid:       2069, prio:        120, lat: ~ 0-9 } hitcount:          8
{ pid:       2070, prio:        120, lat: ~ 0-9 } hitcount:          1
{ pid:       2068, prio:        120, lat: ~ 0-9 } hitcount:          7
{ pid:       2066, prio:          9, lat: ~ 0-9 } hitcount:        365
{ pid:       2064, prio:        120, lat: ~ 0-9 } hitcount:         35
{ pid:       2065, prio:          9, lat: ~ 0-9 } hitcount:        998
{ pid:       2071, prio:          9, lat: ~ 0-9 } hitcount:         85
{ pid:       2065, prio:          9, lat: ~ 10-19 } hitcount:          2
{ pid:       2064, prio:        120, lat: ~ 10-19 } hitcount:          2

Totals:
    Hits: 2112
    Entries: 16
    Dropped: 0

要保存堆栈追踪,请创建一个具有“unsigned long[]”类型字段,甚至只是“long[]”类型的合成事件。例如,要查看任务在不可中断状态下被阻塞了多长时间

# cd /sys/kernel/tracing
# echo 's:block_lat pid_t pid; u64 delta; unsigned long[] stack;' > dynamic_events
# echo 'hist:keys=next_pid:ts=common_timestamp.usecs,st=common_stacktrace  if prev_state == 2' >> events/sched/sched_switch/trigger
# echo 'hist:keys=prev_pid:delta=common_timestamp.usecs-$ts,s=$st:onmax($delta).trace(block_lat,prev_pid,$delta,$s)' >> events/sched/sched_switch/trigger
# echo 1 > events/synthetic/block_lat/enable
# cat trace

# tracer: nop
#
# entries-in-buffer/entries-written: 2/2   #P:8
#
#                                _-----=> irqs-off/BH-disabled
#                               / _----=> need-resched
#                              | / _---=> hardirq/softirq
#                              || / _--=> preempt-depth
#                              ||| / _-=> migrate-disable
#                              |||| /     delay
#           TASK-PID     CPU#  |||||  TIMESTAMP  FUNCTION
#              | |         |   |||||     |         |
          <idle>-0       [005] d..4.   521.164922: block_lat: pid=0 delta=8322 stack=STACK:
=> __schedule+0x448/0x7b0
=> schedule+0x5a/0xb0
=> io_schedule+0x42/0x70
=> bit_wait_io+0xd/0x60
=> __wait_on_bit+0x4b/0x140
=> out_of_line_wait_on_bit+0x91/0xb0
=> jbd2_journal_commit_transaction+0x1679/0x1a70
=> kjournald2+0xa9/0x280
=> kthread+0xe9/0x110
=> ret_from_fork+0x2c/0x50

           <...>-2       [004] d..4.   525.184257: block_lat: pid=2 delta=76 stack=STACK:
=> __schedule+0x448/0x7b0
=> schedule+0x5a/0xb0
=> schedule_timeout+0x11a/0x150
=> wait_for_completion_killable+0x144/0x1f0
=> __kthread_create_on_node+0xe7/0x1e0
=> kthread_create_on_node+0x51/0x70
=> create_worker+0xcc/0x1a0
=> worker_thread+0x2ad/0x380
=> kthread+0xe9/0x110
=> ret_from_fork+0x2c/0x50

具有堆栈追踪字段的合成事件可以在直方图中使用它作为键

# echo 'hist:keys=delta.buckets=100,stack.stacktrace:sort=delta' > events/synthetic/block_lat/trigger
# cat events/synthetic/block_lat/hist

# event histogram
#
# trigger info: hist:keys=delta.buckets=100,stack.stacktrace:vals=hitcount:sort=delta.buckets=100:size=2048 [active]
#
{ delta: ~ 0-99, stack.stacktrace         __schedule+0xa19/0x1520
       schedule+0x6b/0x110
       io_schedule+0x46/0x80
       bit_wait_io+0x11/0x80
       __wait_on_bit+0x4e/0x120
       out_of_line_wait_on_bit+0x8d/0xb0
       __wait_on_buffer+0x33/0x40
       jbd2_journal_commit_transaction+0x155a/0x19b0
       kjournald2+0xab/0x270
       kthread+0xfa/0x130
       ret_from_fork+0x29/0x50
} hitcount:          1
{ delta: ~ 0-99, stack.stacktrace         __schedule+0xa19/0x1520
       schedule+0x6b/0x110
       io_schedule+0x46/0x80
       rq_qos_wait+0xd0/0x170
       wbt_wait+0x9e/0xf0
       __rq_qos_throttle+0x25/0x40
       blk_mq_submit_bio+0x2c3/0x5b0
       __submit_bio+0xff/0x190
       submit_bio_noacct_nocheck+0x25b/0x2b0
       submit_bio_noacct+0x20b/0x600
       submit_bio+0x28/0x90
       ext4_bio_write_page+0x1e0/0x8c0
       mpage_submit_page+0x60/0x80
       mpage_process_page_bufs+0x16c/0x180
       mpage_prepare_extent_to_map+0x23f/0x530
} hitcount:          1
{ delta: ~ 0-99, stack.stacktrace         __schedule+0xa19/0x1520
       schedule+0x6b/0x110
       schedule_hrtimeout_range_clock+0x97/0x110
       schedule_hrtimeout_range+0x13/0x20
       usleep_range_state+0x65/0x90
       __intel_wait_for_register+0x1c1/0x230 [i915]
       intel_psr_wait_for_idle_locked+0x171/0x2a0 [i915]
       intel_pipe_update_start+0x169/0x360 [i915]
       intel_update_crtc+0x112/0x490 [i915]
       skl_commit_modeset_enables+0x199/0x600 [i915]
       intel_atomic_commit_tail+0x7c4/0x1080 [i915]
       intel_atomic_commit_work+0x12/0x20 [i915]
       process_one_work+0x21c/0x3f0
       worker_thread+0x50/0x3e0
       kthread+0xfa/0x130
} hitcount:          3
{ delta: ~ 0-99, stack.stacktrace         __schedule+0xa19/0x1520
       schedule+0x6b/0x110
       schedule_timeout+0x11e/0x160
       __wait_for_common+0x8f/0x190
       wait_for_completion+0x24/0x30
       __flush_work.isra.0+0x1cc/0x360
       flush_work+0xe/0x20
       drm_mode_rmfb+0x18b/0x1d0 [drm]
       drm_mode_rmfb_ioctl+0x10/0x20 [drm]
       drm_ioctl_kernel+0xb8/0x150 [drm]
       drm_ioctl+0x243/0x560 [drm]
       __x64_sys_ioctl+0x92/0xd0
       do_syscall_64+0x59/0x90
       entry_SYSCALL_64_after_hwframe+0x72/0xdc
} hitcount:          1
{ delta: ~ 0-99, stack.stacktrace         __schedule+0xa19/0x1520
       schedule+0x6b/0x110
       schedule_timeout+0x87/0x160
       __wait_for_common+0x8f/0x190
       wait_for_completion_timeout+0x1d/0x30
       drm_atomic_helper_wait_for_flip_done+0x57/0x90 [drm_kms_helper]
       intel_atomic_commit_tail+0x8ce/0x1080 [i915]
       intel_atomic_commit_work+0x12/0x20 [i915]
       process_one_work+0x21c/0x3f0
       worker_thread+0x50/0x3e0
       kthread+0xfa/0x130
       ret_from_fork+0x29/0x50
} hitcount:          1
{ delta: ~ 100-199, stack.stacktrace         __schedule+0xa19/0x1520
       schedule+0x6b/0x110
       schedule_hrtimeout_range_clock+0x97/0x110
       schedule_hrtimeout_range+0x13/0x20
       usleep_range_state+0x65/0x90
       pci_set_low_power_state+0x17f/0x1f0
       pci_set_power_state+0x49/0x250
       pci_finish_runtime_suspend+0x4a/0x90
       pci_pm_runtime_suspend+0xcb/0x1b0
       __rpm_callback+0x48/0x120
       rpm_callback+0x67/0x70
       rpm_suspend+0x167/0x780
       rpm_idle+0x25a/0x380
       pm_runtime_work+0x93/0xc0
       process_one_work+0x21c/0x3f0
} hitcount:          1

Totals:
  Hits: 10
  Entries: 7
  Dropped: 0

2.7. Hist 触发器“处理程序”和“动作”

hist 触发器“动作”是一个函数,每当添加或更新直方图条目时(在大多数情况下是有条件地)执行。

当添加或更新直方图条目时,hist 触发器“处理程序”决定是否实际调用相应的动作。

Hist 触发器处理程序和动作以通用形式配对

<handler>.<action>

要为给定事件指定 handler.action 对,只需在 hist 触发器规范中在冒号之间指定该 handler.action 对。

理论上,任何处理程序都可以与任何动作组合,但实际上,并非所有 handler.action 组合都当前受支持;如果不支持给定的 handler.action 组合,hist 触发器将以 -EINVAL 失败;

如果未明确指定,默认的“handler.action”一如既往,只是更新与条目关联的值集。然而,一些应用程序可能希望在该点执行额外动作,例如生成另一个事件,或比较和保存最大值。

支持的处理程序和动作列于下方,每个都将在以下段落中,在一些常见和有用的 handler.action 组合的描述上下文中进行更详细的描述。

可用的处理程序有

  • onmatch(matching.event) - 在任何添加或更新时调用动作

  • onmax(var) - 如果 var 超过当前最大值则调用动作

  • onchange(var) - 如果 var 发生变化则调用动作

可用的动作有

  • trace(<synthetic_event_name>,param list) - 生成合成事件

  • save(field,...) - 保存当前事件字段

  • snapshot() - 对追踪缓冲区进行快照

以下是常用的 handler.action 对

  • onmatch(matching.event).trace(<synthetic_event_name>,param list)

    当事件匹配且直方图条目将被添加或更新时,将调用“onmatch(matching.event).trace(<synthetic_event_name>,param list)”hist 触发器动作。它会导致生成带有“param list”中给定值的命名合成事件。结果是生成一个合成事件,该事件由在调用事件命中时这些变量中包含的值组成。例如,如果合成事件名称是“wakeup_latency”,则使用 onmatch(event).trace(wakeup_latency,arg1,arg2) 生成 wakeup_latency 事件。

    还有一种等效的替代形式可用于生成合成事件。在这种形式中,合成事件名称被用作函数名称。例如,再次使用“wakeup_latency”合成事件名称,wakeup_latency 事件将通过像函数调用一样调用它来生成,事件字段值作为参数传入:onmatch(event).wakeup_latency(arg1,arg2)。这种形式的语法是

    onmatch(matching.event).<synthetic_event_name>(param list)

    在任何一种情况下,“param list”都包含一个或多个参数,这些参数可以是定义在“matching.event”或目标事件上的变量或字段。参数列表中指定的变量或字段可以是完全限定的或非限定的。如果变量指定为非限定,则它必须在两个事件之间是唯一的。用作参数的字段名称在指代目标事件时可以是非限定的,但如果指代匹配事件,则必须是完全限定的。完全限定名称的形式是“system.event_name.$var_name”或“system.event_name.field”。

    “matching.event”规范只是用于 onmatch() 功能的与目标事件匹配的事件的完全限定事件名称,形式为“system.event_name”。比较两个事件的直方图键以查找事件是否匹配。如果使用多个直方图键,它们都必须以指定的顺序匹配。

    最后,“param list”中变量/字段的数量和类型必须与正在生成的合成事件中字段的数量和类型匹配。

    例如,以下定义了一个简单的合成事件,并使用在 sched_wakeup_new 事件上定义的变量作为调用合成事件时的参数。这里我们定义合成事件

    # echo 'wakeup_new_test pid_t pid' >> \
           /sys/kernel/tracing/synthetic_events
    
    # cat /sys/kernel/tracing/synthetic_events
          wakeup_new_test pid_t pid
    

    以下 hist 触发器既定义了缺失的 testpid 变量,又指定了一个 onmatch() 动作,该动作在发生 sched_wakeup_new 事件时生成 wakeup_new_test 合成事件,由于“if comm == “cyclictest””过滤器,这只会在可执行文件是 cyclictest 时发生

    # echo 'hist:keys=$testpid:testpid=pid:onmatch(sched.sched_wakeup_new).\
            wakeup_new_test($testpid) if comm=="cyclictest"' >> \
            /sys/kernel/tracing/events/sched/sched_wakeup_new/trigger
    

    或者,等效地,使用“trace”关键字语法

    # echo 'hist:keys=$testpid:testpid=pid:onmatch(sched.sched_wakeup_new).\
            trace(wakeup_new_test,$testpid) if comm=="cyclictest"' >> \
            /sys/kernel/tracing/events/sched/sched_wakeup_new/trigger
    

    现在,基于这些事件创建和显示直方图就像往常一样,只需使用 tracing/events/synthetic 目录中的字段和新的合成事件即可

    # echo 'hist:keys=pid:sort=pid' >> \
           /sys/kernel/tracing/events/synthetic/wakeup_new_test/trigger
    

    运行“cyclictest”应该会使 wakeup_new 事件生成 wakeup_new_test 合成事件,这应该会在 wakeup_new_test 事件的 hist 文件中产生直方图输出。

    # cat /sys/kernel/tracing/events/synthetic/wakeup_new_test/hist
    

    更典型的用法是使用两个事件来计算延迟。以下示例使用一组 hist 触发器来生成“wakeup_latency”直方图。

    首先,我们定义一个“wakeup_latency”合成事件

    # echo 'wakeup_latency u64 lat; pid_t pid; int prio' >> \
            /sys/kernel/tracing/synthetic_events
    

    接下来,我们指定每当看到 cyclictest 线程的 sched_waking 事件时,将时间戳保存到“ts0”变量中。

    # echo 'hist:keys=$saved_pid:saved_pid=pid:ts0=common_timestamp.usecs \
            if comm=="cyclictest"' >> \
            /sys/kernel/tracing/events/sched/sched_waking/trigger
    

    然后,当相应的线程实际由 sched_switch 事件调度到 CPU 上时(saved_pid 与 next_pid 匹配),计算延迟,并将其与另一个变量和事件字段一起使用,以生成 wakeup_latency 合成事件

    # echo 'hist:keys=next_pid:wakeup_lat=common_timestamp.usecs-$ts0:\
            onmatch(sched.sched_waking).wakeup_latency($wakeup_lat,\
                    $saved_pid,next_prio) if next_comm=="cyclictest"' >> \
            /sys/kernel/tracing/events/sched/sched_switch/trigger
    

    我们还需要在 wakeup_latency 合成事件上创建一个直方图,以聚合生成的合成事件数据

    # echo 'hist:keys=pid,prio,lat:sort=pid,lat' >> \
            /sys/kernel/tracing/events/synthetic/wakeup_latency/trigger
    

    最后,一旦我们运行 cyclictest 实际生成了一些事件,我们就可以通过查看 wakeup_latency 合成事件的 hist 文件来查看输出。

    # cat /sys/kernel/tracing/events/synthetic/wakeup_latency/hist
    
  • onmax(var).save(field,.. .)

    每当与直方图条目关联的“var”值超过该变量中包含的当前最大值时,就会调用“onmax(var).save(field,...)”hist 触发器动作。

    最终结果是,如果“var”超过该 hist 触发器条目的当前最大值,则将保存指定为 onmax.save() 参数的追踪事件字段。这允许保存显示新最大值的事件的上下文,以供以后参考。当显示直方图时,将打印显示保存值的附加字段。

    例如,以下定义了几个 hist 触发器,一个用于 sched_waking,另一个用于 sched_switch,以 pid 为键。每当发生 sched_waking 时,时间戳会保存到与当前 pid 对应的条目中,当调度器切换回该 pid 时,会计算时间戳差。如果结果延迟(存储在 wakeup_lat 中)超过当前最大延迟,则记录 save() 字段中指定的值。

    # echo 'hist:keys=pid:ts0=common_timestamp.usecs \
            if comm=="cyclictest"' >> \
            /sys/kernel/tracing/events/sched/sched_waking/trigger
    
    # echo 'hist:keys=next_pid:\
            wakeup_lat=common_timestamp.usecs-$ts0:\
            onmax($wakeup_lat).save(next_comm,prev_pid,prev_prio,prev_comm) \
            if next_comm=="cyclictest"' >> \
            /sys/kernel/tracing/events/sched/sched_switch/trigger
    

    当显示直方图时,最大值以及与最大值对应的保存值将显示在其余字段之后

    # cat /sys/kernel/tracing/events/sched/sched_switch/hist
      { next_pid:       2255 } hitcount:        239
        common_timestamp-ts0:          0
        max:         27
        next_comm: cyclictest
        prev_pid:          0  prev_prio:        120  prev_comm: swapper/1
    
      { next_pid:       2256 } hitcount:       2355
        common_timestamp-ts0: 0
        max:         49  next_comm: cyclictest
        prev_pid:          0  prev_prio:        120  prev_comm: swapper/0
    
      Totals:
          Hits: 12970
          Entries: 2
          Dropped: 0
    
  • onmax(var).snapshot()

    每当与直方图条目关联的“var”值超过该变量中包含的当前最大值时,就会调用“onmax(var).snapshot()”hist 触发器动作。

    最终结果是,如果“var”超过任何 hist 触发器条目的当前最大值,则会将追踪缓冲区的全局快照保存到 tracing/snapshot 文件中。

    请注意,在这种情况下,最大值是当前追踪实例的全局最大值,即直方图所有桶的最大值。导致全局最大值的特定追踪事件的键和全局最大值本身都会显示,以及一条消息,说明已拍摄快照以及在哪里可以找到它。用户可以使用显示的键信息在直方图中找到相应的桶以获取更多详细信息。

    例如,以下定义了几个 hist 触发器,一个用于 sched_waking,另一个用于 sched_switch,以 pid 为键。每当发生 sched_waking 事件时,时间戳会保存到与当前 pid 对应的条目中,当调度器切换回该 pid 时,会计算时间戳差。如果结果延迟(存储在 wakeup_lat 中)超过当前最大延迟,则会拍摄快照。作为设置的一部分,所有调度器事件也已启用,这些事件将在某个时刻拍摄快照时显示在快照中。

    # echo 1 > /sys/kernel/tracing/events/sched/enable
    
    # echo 'hist:keys=pid:ts0=common_timestamp.usecs \
            if comm=="cyclictest"' >> \
            /sys/kernel/tracing/events/sched/sched_waking/trigger
    
    # echo 'hist:keys=next_pid:wakeup_lat=common_timestamp.usecs-$ts0: \
            onmax($wakeup_lat).save(next_prio,next_comm,prev_pid,prev_prio, \
            prev_comm):onmax($wakeup_lat).snapshot() \
            if next_comm=="cyclictest"' >> \
            /sys/kernel/tracing/events/sched/sched_switch/trigger
    

    当显示直方图时,对于每个桶,最大值以及与最大值对应的保存值将显示在其余字段之后。

    如果拍摄了快照,还会显示一条消息,以及触发全局最大值的值和事件。

    # cat /sys/kernel/tracing/events/sched/sched_switch/hist
      { next_pid:       2101 } hitcount:        200
        max:         52  next_prio:        120  next_comm: cyclictest \
        prev_pid:          0  prev_prio:        120  prev_comm: swapper/6
    
      { next_pid:       2103 } hitcount:       1326
        max:        572  next_prio:         19  next_comm: cyclictest \
        prev_pid:          0  prev_prio:        120  prev_comm: swapper/1
    
      { next_pid:       2102 } hitcount:       1982 \
        max:         74  next_prio:         19  next_comm: cyclictest \
        prev_pid:          0  prev_prio:        120  prev_comm: swapper/5
    
    Snapshot taken (see tracing/snapshot).  Details:
        triggering value { onmax($wakeup_lat) }:        572   \
        triggered by event with key: { next_pid:       2103 }
    
    Totals:
        Hits: 3508
        Entries: 3
        Dropped: 0
    

    在上述情况下,触发全局最大值的事件的键为 next_pid == 2103。如果您查看以 2103 为键的桶,您会发现额外的 save() 值以及该桶的局部最大值,这应该与全局最大值相同(因为这是触发全局快照的相同值)。

    最后,查看快照数据应该会在末尾或接近末尾显示触发快照的事件(在这种情况下,您可以验证 sched_waking 和 sched_switch 事件之间的时间戳,它应该与全局最大值中显示的时间匹配)

    # cat /sys/kernel/tracing/snapshot
    
        <...>-2103  [005] d..3   309.873125: sched_switch: prev_comm=cyclictest prev_pid=2103 prev_prio=19 prev_state=D ==> next_comm=swapper/5 next_pid=0 next_prio=120
        <idle>-0     [005] d.h3   309.873611: sched_waking: comm=cyclictest pid=2102 prio=19 target_cpu=005
        <idle>-0     [005] dNh4   309.873613: sched_wakeup: comm=cyclictest pid=2102 prio=19 target_cpu=005
        <idle>-0     [005] d..3   309.873616: sched_switch: prev_comm=swapper/5 prev_pid=0 prev_prio=120 prev_state=S ==> next_comm=cyclictest next_pid=2102 next_prio=19
        <...>-2102  [005] d..3   309.873625: sched_switch: prev_comm=cyclictest prev_pid=2102 prev_prio=19 prev_state=D ==> next_comm=swapper/5 next_pid=0 next_prio=120
        <idle>-0     [005] d.h3   309.874624: sched_waking: comm=cyclictest pid=2102 prio=19 target_cpu=005
        <idle>-0     [005] dNh4   309.874626: sched_wakeup: comm=cyclictest pid=2102 prio=19 target_cpu=005
        <idle>-0     [005] dNh3   309.874628: sched_waking: comm=cyclictest pid=2103 prio=19 target_cpu=005
        <idle>-0     [005] dNh4   309.874630: sched_wakeup: comm=cyclictest pid=2103 prio=19 target_cpu=005
        <idle>-0     [005] d..3   309.874633: sched_switch: prev_comm=swapper/5 prev_pid=0 prev_prio=120 prev_state=S ==> next_comm=cyclictest next_pid=2102 next_prio=19
        <idle>-0     [004] d.h3   309.874757: sched_waking: comm=gnome-terminal- pid=1699 prio=120 target_cpu=004
        <idle>-0     [004] dNh4   309.874762: sched_wakeup: comm=gnome-terminal- pid=1699 prio=120 target_cpu=004
        <idle>-0     [004] d..3   309.874766: sched_switch: prev_comm=swapper/4 prev_pid=0 prev_prio=120 prev_state=S ==> next_comm=gnome-terminal- next_pid=1699 next_prio=120
    gnome-terminal--1699  [004] d.h2   309.874941: sched_stat_runtime: comm=gnome-terminal- pid=1699 runtime=180706 [ns] vruntime=1126870572 [ns]
        <idle>-0     [003] d.s4   309.874956: sched_waking: comm=rcu_sched pid=9 prio=120 target_cpu=007
        <idle>-0     [003] d.s5   309.874960: sched_wake_idle_without_ipi: cpu=7
        <idle>-0     [003] d.s5   309.874961: sched_wakeup: comm=rcu_sched pid=9 prio=120 target_cpu=007
        <idle>-0     [007] d..3   309.874963: sched_switch: prev_comm=swapper/7 prev_pid=0 prev_prio=120 prev_state=S ==> next_comm=rcu_sched next_pid=9 next_prio=120
     rcu_sched-9     [007] d..3   309.874973: sched_stat_runtime: comm=rcu_sched pid=9 runtime=13646 [ns] vruntime=22531430286 [ns]
     rcu_sched-9     [007] d..3   309.874978: sched_switch: prev_comm=rcu_sched prev_pid=9 prev_prio=120 prev_state=R+ ==> next_comm=swapper/7 next_pid=0 next_prio=120
         <...>-2102  [005] d..4   309.874994: sched_migrate_task: comm=cyclictest pid=2103 prio=19 orig_cpu=5 dest_cpu=1
         <...>-2102  [005] d..4   309.875185: sched_wake_idle_without_ipi: cpu=1
        <idle>-0     [001] d..3   309.875200: sched_switch: prev_comm=swapper/1 prev_pid=0 prev_prio=120 prev_state=S ==> next_comm=cyclictest next_pid=2103 next_prio=19
    
  • onchange(var).save(field,.. .)

    每当与直方图条目关联的“var”值发生变化时,就会调用“onchange(var).save(field,...)”hist 触发器动作。

    最终结果是,如果该 hist 触发器条目的“var”值发生变化,则将保存指定为 onchange.save() 参数的追踪事件字段。这允许保存改变该值的事件的上下文,以供以后参考。当显示直方图时,将打印显示保存值的附加字段。

  • onchange(var).snapshot()

    每当与直方图条目关联的“var”值发生变化时,就会调用“onchange(var).snapshot()”hist 触发器动作。

    最终结果是,如果任何 hist 触发器条目的“var”值发生变化,则会将追踪缓冲区的全局快照保存到 tracing/snapshot 文件中。

    请注意,在这种情况下,更改的值是与当前追踪实例关联的全局变量。导致值更改的特定追踪事件的键和全局值本身都会显示,以及一条消息,说明已拍摄快照以及在哪里可以找到它。用户可以使用显示的键信息在直方图中找到相应的桶以获取更多详细信息。

    例如,以下在 tcp_probe 事件上定义了一个 hist 触发器,以 dport 为键。每当发生 tcp_probe 事件时,会将 cwnd 字段与存储在 $cwnd 变量中的当前值进行检查。如果值已更改,则会拍摄快照。作为设置的一部分,所有调度器和 tcp 事件也已启用,这些事件将在某个时刻拍摄快照时显示在快照中。

    # echo 1 > /sys/kernel/tracing/events/sched/enable
    # echo 1 > /sys/kernel/tracing/events/tcp/enable
    
    # echo 'hist:keys=dport:cwnd=snd_cwnd: \
            onchange($cwnd).save(snd_wnd,srtt,rcv_wnd): \
            onchange($cwnd).snapshot()' >> \
            /sys/kernel/tracing/events/tcp/tcp_probe/trigger
    

    当显示直方图时,对于每个桶,追踪值以及与该值对应的保存值将显示在其余字段之后。

    如果拍摄了快照,还会显示一条消息,以及触发快照的值和事件。

    # cat /sys/kernel/tracing/events/tcp/tcp_probe/hist
    
    { dport:       1521 } hitcount:          8
      changed:         10  snd_wnd:      35456  srtt:     154262  rcv_wnd:      42112
    
    { dport:         80 } hitcount:         23
      changed:         10  snd_wnd:      28960  srtt:      19604  rcv_wnd:      29312
    
    { dport:       9001 } hitcount:        172
      changed:         10  snd_wnd:      48384  srtt:     260444  rcv_wnd:      55168
    
    { dport:        443 } hitcount:        211
      changed:         10  snd_wnd:      26960  srtt:      17379  rcv_wnd:      28800
    
    Snapshot taken (see tracing/snapshot).  Details:
    
        triggering value { onchange($cwnd) }:         10
        triggered by event with key: { dport:         80 }
    
    Totals:
        Hits: 414
        Entries: 4
        Dropped: 0
    

    在上述情况下,触发快照的事件的键为 dport == 80。如果您查看以 80 为键的桶,您会发现额外的 save() 值以及该桶的更改值,这应该与全局更改值相同(因为这是触发全局快照的相同值)。

    最后,查看快照数据应该会在末尾或接近末尾显示触发快照的事件

    # cat /sys/kernel/tracing/snapshot
    
       gnome-shell-1261  [006] dN.3    49.823113: sched_stat_runtime: comm=gnome-shell pid=1261 runtime=49347 [ns] vruntime=1835730389 [ns]
     kworker/u16:4-773   [003] d..3    49.823114: sched_switch: prev_comm=kworker/u16:4 prev_pid=773 prev_prio=120 prev_state=R+ ==> next_comm=kworker/3:2 next_pid=135 next_prio=120
       gnome-shell-1261  [006] d..3    49.823114: sched_switch: prev_comm=gnome-shell prev_pid=1261 prev_prio=120 prev_state=R+ ==> next_comm=kworker/6:2 next_pid=387 next_prio=120
       kworker/3:2-135   [003] d..3    49.823118: sched_stat_runtime: comm=kworker/3:2 pid=135 runtime=5339 [ns] vruntime=17815800388 [ns]
       kworker/6:2-387   [006] d..3    49.823120: sched_stat_runtime: comm=kworker/6:2 pid=387 runtime=9594 [ns] vruntime=14589605367 [ns]
       kworker/6:2-387   [006] d..3    49.823122: sched_switch: prev_comm=kworker/6:2 prev_pid=387 prev_prio=120 prev_state=R+ ==> next_comm=gnome-shell next_pid=1261 next_prio=120
       kworker/3:2-135   [003] d..3    49.823123: sched_switch: prev_comm=kworker/3:2 prev_pid=135 prev_prio=120 prev_state=T ==> next_comm=swapper/3 next_pid=0 next_prio=120
            <idle>-0     [004] ..s7    49.823798: tcp_probe: src=10.0.0.10:54326 dest=23.215.104.193:80 mark=0x0 length=32 snd_nxt=0xe3ae2ff5 snd_una=0xe3ae2ecd snd_cwnd=10 ssthresh=2147483647 snd_wnd=28960 srtt=19604 rcv_wnd=29312
    

2.8. 用户空间创建触发器

写入 /sys/kernel/tracing/trace_marker 会写入 ftrace 环形缓冲区。这也可以通过写入位于 /sys/kernel/tracing/events/ftrace/print/ 的触发器文件来充当事件。

修改 cyclictest,使其在睡眠前和唤醒后写入 trace_marker 文件,如下所示

static void traceputs(char *str)
{
      /* tracemark_fd is the trace_marker file descriptor */
      if (tracemark_fd < 0)
              return;
      /* write the tracemark message */
      write(tracemark_fd, str, strlen(str));
}

之后添加类似内容

traceputs("start");
clock_nanosleep(...);
traceputs("end");

我们可以从这里创建一个直方图

# cd /sys/kernel/tracing
# echo 'latency u64 lat' > synthetic_events
# echo 'hist:keys=common_pid:ts0=common_timestamp.usecs if buf == "start"' > events/ftrace/print/trigger
# echo 'hist:keys=common_pid:lat=common_timestamp.usecs-$ts0:onmatch(ftrace.print).latency($lat) if buf == "end"' >> events/ftrace/print/trigger
# echo 'hist:keys=lat,common_pid:sort=lat' > events/synthetic/latency/trigger

上述创建了一个名为“latency”的合成事件,并针对 trace_marker 创建了两个直方图,一个在“start”写入 trace_marker 文件时触发,另一个在“end”写入时触发。如果 pid 匹配,它将调用“latency”合成事件,并将计算出的延迟作为其参数。最后,将一个直方图添加到 latency 合成事件中,以记录计算出的延迟以及 pid。

现在运行 cyclictest,使用

# ./cyclictest -p80 -d0 -i250 -n -a -t --tracemark -b 1000

-p80  : run threads at priority 80
-d0   : have all threads run at the same interval
-i250 : start the interval at 250 microseconds (all threads will do this)
-n    : sleep with nanosleep
-a    : affine all threads to a separate CPU
-t    : one thread per available CPU
--tracemark : enable trace mark writing
-b 1000 : stop if any latency is greater than 1000 microseconds

请注意,-b 1000 仅用于使 --tracemark 可用。

然后我们可以看到由此创建的直方图,使用

# cat events/synthetic/latency/hist
# event histogram
#
# trigger info: hist:keys=lat,common_pid:vals=hitcount:sort=lat:size=2048 [active]
#

{ lat:        107, common_pid:       2039 } hitcount:          1
{ lat:        122, common_pid:       2041 } hitcount:          1
{ lat:        166, common_pid:       2039 } hitcount:          1
{ lat:        174, common_pid:       2039 } hitcount:          1
{ lat:        194, common_pid:       2041 } hitcount:          1
{ lat:        196, common_pid:       2036 } hitcount:          1
{ lat:        197, common_pid:       2038 } hitcount:          1
{ lat:        198, common_pid:       2039 } hitcount:          1
{ lat:        199, common_pid:       2039 } hitcount:          1
{ lat:        200, common_pid:       2041 } hitcount:          1
{ lat:        201, common_pid:       2039 } hitcount:          2
{ lat:        202, common_pid:       2038 } hitcount:          1
{ lat:        202, common_pid:       2043 } hitcount:          1
{ lat:        203, common_pid:       2039 } hitcount:          1
{ lat:        203, common_pid:       2036 } hitcount:          1
{ lat:        203, common_pid:       2041 } hitcount:          1
{ lat:        206, common_pid:       2038 } hitcount:          2
{ lat:        207, common_pid:       2039 } hitcount:          1
{ lat:        207, common_pid:       2036 } hitcount:          1
{ lat:        208, common_pid:       2040 } hitcount:          1
{ lat:        209, common_pid:       2043 } hitcount:          1
{ lat:        210, common_pid:       2039 } hitcount:          1
{ lat:        211, common_pid:       2039 } hitcount:          4
{ lat:        212, common_pid:       2043 } hitcount:          1
{ lat:        212, common_pid:       2039 } hitcount:          2
{ lat:        213, common_pid:       2039 } hitcount:          1
{ lat:        214, common_pid:       2038 } hitcount:          1
{ lat:        214, common_pid:       2039 } hitcount:          2
{ lat:        214, common_pid:       2042 } hitcount:          1
{ lat:        215, common_pid:       2039 } hitcount:          1
{ lat:        217, common_pid:       2036 } hitcount:          1
{ lat:        217, common_pid:       2040 } hitcount:          1
{ lat:        217, common_pid:       2039 } hitcount:          1
{ lat:        218, common_pid:       2039 } hitcount:          6
{ lat:        219, common_pid:       2039 } hitcount:          9
{ lat:        220, common_pid:       2039 } hitcount:         11
{ lat:        221, common_pid:       2039 } hitcount:          5
{ lat:        221, common_pid:       2042 } hitcount:          1
{ lat:        222, common_pid:       2039 } hitcount:          7
{ lat:        223, common_pid:       2036 } hitcount:          1
{ lat:        223, common_pid:       2039 } hitcount:          3
{ lat:        224, common_pid:       2039 } hitcount:          4
{ lat:        224, common_pid:       2037 } hitcount:          1
{ lat:        224, common_pid:       2036 } hitcount:          2
{ lat:        225, common_pid:       2039 } hitcount:          5
{ lat:        225, common_pid:       2042 } hitcount:          1
{ lat:        226, common_pid:       2039 } hitcount:          7
{ lat:        226, common_pid:       2036 } hitcount:          4
{ lat:        227, common_pid:       2039 } hitcount:          6
{ lat:        227, common_pid:       2036 } hitcount:         12
{ lat:        227, common_pid:       2043 } hitcount:          1
{ lat:        228, common_pid:       2039 } hitcount:          7
{ lat:        228, common_pid:       2036 } hitcount:         14
{ lat:        229, common_pid:       2039 } hitcount:          9
{ lat:        229, common_pid:       2036 } hitcount:          8
{ lat:        229, common_pid:       2038 } hitcount:          1
{ lat:        230, common_pid:       2039 } hitcount:         11
{ lat:        230, common_pid:       2036 } hitcount:          6
{ lat:        230, common_pid:       2043 } hitcount:          1
{ lat:        230, common_pid:       2042 } hitcount:          2
{ lat:        231, common_pid:       2041 } hitcount:          1
{ lat:        231, common_pid:       2036 } hitcount:          6
{ lat:        231, common_pid:       2043 } hitcount:          1
{ lat:        231, common_pid:       2039 } hitcount:          8
{ lat:        232, common_pid:       2037 } hitcount:          1
{ lat:        232, common_pid:       2039 } hitcount:          6
{ lat:        232, common_pid:       2040 } hitcount:          2
{ lat:        232, common_pid:       2036 } hitcount:          5
{ lat:        232, common_pid:       2043 } hitcount:          1
{ lat:        233, common_pid:       2036 } hitcount:          5
{ lat:        233, common_pid:       2039 } hitcount:         11
{ lat:        234, common_pid:       2039 } hitcount:          4
{ lat:        234, common_pid:       2038 } hitcount:          2
{ lat:        234, common_pid:       2043 } hitcount:          2
{ lat:        234, common_pid:       2036 } hitcount:         11
{ lat:        234, common_pid:       2040 } hitcount:          1
{ lat:        235, common_pid:       2037 } hitcount:          2
{ lat:        235, common_pid:       2036 } hitcount:          8
{ lat:        235, common_pid:       2043 } hitcount:          2
{ lat:        235, common_pid:       2039 } hitcount:          5
{ lat:        235, common_pid:       2042 } hitcount:          2
{ lat:        235, common_pid:       2040 } hitcount:          4
{ lat:        235, common_pid:       2041 } hitcount:          1
{ lat:        236, common_pid:       2036 } hitcount:          7
{ lat:        236, common_pid:       2037 } hitcount:          1
{ lat:        236, common_pid:       2041 } hitcount:          5
{ lat:        236, common_pid:       2039 } hitcount:          3
{ lat:        236, common_pid:       2043 } hitcount:          9
{ lat:        236, common_pid:       2040 } hitcount:          7
{ lat:        237, common_pid:       2037 } hitcount:          1
{ lat:        237, common_pid:       2040 } hitcount:          1
{ lat:        237, common_pid:       2036 } hitcount:          9
{ lat:        237, common_pid:       2039 } hitcount:          3
{ lat:        237, common_pid:       2043 } hitcount:          8
{ lat:        237, common_pid:       2042 } hitcount:          2
{ lat:        237, common_pid:       2041 } hitcount:          2
{ lat:        238, common_pid:       2043 } hitcount:         10
{ lat:        238, common_pid:       2040 } hitcount:          1
{ lat:        238, common_pid:       2037 } hitcount:          9
{ lat:        238, common_pid:       2038 } hitcount:          1
{ lat:        238, common_pid:       2039 } hitcount:          1
{ lat:        238, common_pid:       2042 } hitcount:          3
{ lat:        238, common_pid:       2036 } hitcount:          7
{ lat:        239, common_pid:       2041 } hitcount:          1
{ lat:        239, common_pid:       2043 } hitcount:         11
{ lat:        239, common_pid:       2037 } hitcount:         11
{ lat:        239, common_pid:       2038 } hitcount:          6
{ lat:        239, common_pid:       2036 } hitcount:          7
{ lat:        239, common_pid:       2040 } hitcount:          1
{ lat:        239, common_pid:       2042 } hitcount:          9
{ lat:        240, common_pid:       2037 } hitcount:         29
{ lat:        240, common_pid:       2043 } hitcount:         15
{ lat:        240, common_pid:       2040 } hitcount:         44
{ lat:        240, common_pid:       2039 } hitcount:          1
{ lat:        240, common_pid:       2041 } hitcount:          2
{ lat:        240, common_pid:       2038 } hitcount:          1
{ lat:        240, common_pid:       2036 } hitcount:         10
{ lat:        240, common_pid:       2042 } hitcount:         13
{ lat:        241, common_pid:       2036 } hitcount:         21
{ lat:        241, common_pid:       2041 } hitcount:         36
{ lat:        241, common_pid:       2037 } hitcount:         34
{ lat:        241, common_pid:       2042 } hitcount:         14
{ lat:        241, common_pid:       2040 } hitcount:         94
{ lat:        241, common_pid:       2039 } hitcount:         12
{ lat:        241, common_pid:       2038 } hitcount:          2
{ lat:        241, common_pid:       2043 } hitcount:         28
{ lat:        242, common_pid:       2040 } hitcount:        109
{ lat:        242, common_pid:       2041 } hitcount:        506
{ lat:        242, common_pid:       2039 } hitcount:        155
{ lat:        242, common_pid:       2042 } hitcount:         21
{ lat:        242, common_pid:       2037 } hitcount:         52
{ lat:        242, common_pid:       2043 } hitcount:         21
{ lat:        242, common_pid:       2036 } hitcount:         16
{ lat:        242, common_pid:       2038 } hitcount:        156
{ lat:        243, common_pid:       2037 } hitcount:         46
{ lat:        243, common_pid:       2039 } hitcount:         40
{ lat:        243, common_pid:       2042 } hitcount:        119
{ lat:        243, common_pid:       2041 } hitcount:        611
{ lat:        243, common_pid:       2036 } hitcount:         69
{ lat:        243, common_pid:       2038 } hitcount:        784
{ lat:        243, common_pid:       2040 } hitcount:        323
{ lat:        243, common_pid:       2043 } hitcount:         14
{ lat:        244, common_pid:       2043 } hitcount:         35
{ lat:        244, common_pid:       2042 } hitcount:        305
{ lat:        244, common_pid:       2039 } hitcount:          8
{ lat:        244, common_pid:       2040 } hitcount:       4515
{ lat:        244, common_pid:       2038 } hitcount:        371
{ lat:        244, common_pid:       2037 } hitcount:         31
{ lat:        244, common_pid:       2036 } hitcount:        114
{ lat:        244, common_pid:       2041 } hitcount:       3396
{ lat:        245, common_pid:       2036 } hitcount:        700
{ lat:        245, common_pid:       2041 } hitcount:       2772
{ lat:        245, common_pid:       2037 } hitcount:        268
{ lat:        245, common_pid:       2039 } hitcount:        472
{ lat:        245, common_pid:       2038 } hitcount:       2758
{ lat:        245, common_pid:       2042 } hitcount:       3833
{ lat:        245, common_pid:       2040 } hitcount:       3105
{ lat:        245, common_pid:       2043 } hitcount:        645
{ lat:        246, common_pid:       2038 } hitcount:       3451
{ lat:        246, common_pid:       2041 } hitcount:        142
{ lat:        246, common_pid:       2037 } hitcount:       5101
{ lat:        246, common_pid:       2040 } hitcount:         68
{ lat:        246, common_pid:       2043 } hitcount:       5099
{ lat:        246, common_pid:       2039 } hitcount:       5608
{ lat:        246, common_pid:       2042 } hitcount:       3723
{ lat:        246, common_pid:       2036 } hitcount:       4738
{ lat:        247, common_pid:       2042 } hitcount:        312
{ lat:        247, common_pid:       2043 } hitcount:       2385
{ lat:        247, common_pid:       2041 } hitcount:        452
{ lat:        247, common_pid:       2038 } hitcount:        792
{ lat:        247, common_pid:       2040 } hitcount:         78
{ lat:        247, common_pid:       2036 } hitcount:       2375
{ lat:        247, common_pid:       2039 } hitcount:       1834
{ lat:        247, common_pid:       2037 } hitcount:       2655
{ lat:        248, common_pid:       2037 } hitcount:         36
{ lat:        248, common_pid:       2042 } hitcount:         11
{ lat:        248, common_pid:       2038 } hitcount:        122
{ lat:        248, common_pid:       2036 } hitcount:        135
{ lat:        248, common_pid:       2039 } hitcount:         26
{ lat:        248, common_pid:       2041 } hitcount:        503
{ lat:        248, common_pid:       2043 } hitcount:         66
{ lat:        248, common_pid:       2040 } hitcount:         46
{ lat:        249, common_pid:       2037 } hitcount:         29
{ lat:        249, common_pid:       2038 } hitcount:          1
{ lat:        249, common_pid:       2043 } hitcount:         29
{ lat:        249, common_pid:       2039 } hitcount:          8
{ lat:        249, common_pid:       2042 } hitcount:         56
{ lat:        249, common_pid:       2040 } hitcount:         27
{ lat:        249, common_pid:       2041 } hitcount:         11
{ lat:        249, common_pid:       2036 } hitcount:         27
{ lat:        250, common_pid:       2038 } hitcount:          1
{ lat:        250, common_pid:       2036 } hitcount:         30
{ lat:        250, common_pid:       2040 } hitcount:         19
{ lat:        250, common_pid:       2043 } hitcount:         22
{ lat:        250, common_pid:       2042 } hitcount:         20
{ lat:        250, common_pid:       2041 } hitcount:          1
{ lat:        250, common_pid:       2039 } hitcount:          6
{ lat:        250, common_pid:       2037 } hitcount:         48
{ lat:        251, common_pid:       2037 } hitcount:         43
{ lat:        251, common_pid:       2039 } hitcount:          1
{ lat:        251, common_pid:       2036 } hitcount:         12
{ lat:        251, common_pid:       2042 } hitcount:          2
{ lat:        251, common_pid:       2041 } hitcount:          1
{ lat:        251, common_pid:       2043 } hitcount:         15
{ lat:        251, common_pid:       2040 } hitcount:          3
{ lat:        252, common_pid:       2040 } hitcount:          1
{ lat:        252, common_pid:       2036 } hitcount:         12
{ lat:        252, common_pid:       2037 } hitcount:         21
{ lat:        252, common_pid:       2043 } hitcount:         14
{ lat:        253, common_pid:       2037 } hitcount:         21
{ lat:        253, common_pid:       2039 } hitcount:          2
{ lat:        253, common_pid:       2036 } hitcount:          9
{ lat:        253, common_pid:       2043 } hitcount:          6
{ lat:        253, common_pid:       2040 } hitcount:          1
{ lat:        254, common_pid:       2036 } hitcount:          8
{ lat:        254, common_pid:       2043 } hitcount:          3
{ lat:        254, common_pid:       2041 } hitcount:          1
{ lat:        254, common_pid:       2042 } hitcount:          1
{ lat:        254, common_pid:       2039 } hitcount:          1
{ lat:        254, common_pid:       2037 } hitcount:         12
{ lat:        255, common_pid:       2043 } hitcount:          1
{ lat:        255, common_pid:       2037 } hitcount:          2
{ lat:        255, common_pid:       2036 } hitcount:          2
{ lat:        255, common_pid:       2039 } hitcount:          8
{ lat:        256, common_pid:       2043 } hitcount:          1
{ lat:        256, common_pid:       2036 } hitcount:          4
{ lat:        256, common_pid:       2039 } hitcount:          6
{ lat:        257, common_pid:       2039 } hitcount:          5
{ lat:        257, common_pid:       2036 } hitcount:          4
{ lat:        258, common_pid:       2039 } hitcount:          5
{ lat:        258, common_pid:       2036 } hitcount:          2
{ lat:        259, common_pid:       2036 } hitcount:          7
{ lat:        259, common_pid:       2039 } hitcount:          7
{ lat:        260, common_pid:       2036 } hitcount:          8
{ lat:        260, common_pid:       2039 } hitcount:          6
{ lat:        261, common_pid:       2036 } hitcount:          5
{ lat:        261, common_pid:       2039 } hitcount:          7
{ lat:        262, common_pid:       2039 } hitcount:          5
{ lat:        262, common_pid:       2036 } hitcount:          5
{ lat:        263, common_pid:       2039 } hitcount:          7
{ lat:        263, common_pid:       2036 } hitcount:          7
{ lat:        264, common_pid:       2039 } hitcount:          9
{ lat:        264, common_pid:       2036 } hitcount:          9
{ lat:        265, common_pid:       2036 } hitcount:          5
{ lat:        265, common_pid:       2039 } hitcount:          1
{ lat:        266, common_pid:       2036 } hitcount:          1
{ lat:        266, common_pid:       2039 } hitcount:          3
{ lat:        267, common_pid:       2036 } hitcount:          1
{ lat:        267, common_pid:       2039 } hitcount:          3
{ lat:        268, common_pid:       2036 } hitcount:          1
{ lat:        268, common_pid:       2039 } hitcount:          6
{ lat:        269, common_pid:       2036 } hitcount:          1
{ lat:        269, common_pid:       2043 } hitcount:          1
{ lat:        269, common_pid:       2039 } hitcount:          2
{ lat:        270, common_pid:       2040 } hitcount:          1
{ lat:        270, common_pid:       2039 } hitcount:          6
{ lat:        271, common_pid:       2041 } hitcount:          1
{ lat:        271, common_pid:       2039 } hitcount:          5
{ lat:        272, common_pid:       2039 } hitcount:         10
{ lat:        273, common_pid:       2039 } hitcount:          8
{ lat:        274, common_pid:       2039 } hitcount:          2
{ lat:        275, common_pid:       2039 } hitcount:          1
{ lat:        276, common_pid:       2039 } hitcount:          2
{ lat:        276, common_pid:       2037 } hitcount:          1
{ lat:        276, common_pid:       2038 } hitcount:          1
{ lat:        277, common_pid:       2039 } hitcount:          1
{ lat:        277, common_pid:       2042 } hitcount:          1
{ lat:        278, common_pid:       2039 } hitcount:          1
{ lat:        279, common_pid:       2039 } hitcount:          4
{ lat:        279, common_pid:       2043 } hitcount:          1
{ lat:        280, common_pid:       2039 } hitcount:          3
{ lat:        283, common_pid:       2036 } hitcount:          2
{ lat:        284, common_pid:       2039 } hitcount:          1
{ lat:        284, common_pid:       2043 } hitcount:          1
{ lat:        288, common_pid:       2039 } hitcount:          1
{ lat:        289, common_pid:       2039 } hitcount:          1
{ lat:        300, common_pid:       2039 } hitcount:          1
{ lat:        384, common_pid:       2039 } hitcount:          1

Totals:
    Hits: 67625
    Entries: 278
    Dropped: 0

请注意,写入操作发生在睡眠前后,因此理想情况下它们都将是 250 微秒。如果您想知道为什么有几个低于 250 微秒,那是因为 cyclictest 的工作方式是,如果一次迭代延迟了,下一次迭代将把计时器设置为在小于 250 微秒时唤醒。也就是说,如果一次迭代延迟了 50 微秒,下一次唤醒将在 200 微秒时发生。

但这很容易在用户空间中完成。为了使这更有趣,我们可以将内核中发生的事件与 trace_marker 混合在直方图之间。

# cd /sys/kernel/tracing
# echo 'latency u64 lat' > synthetic_events
# echo 'hist:keys=pid:ts0=common_timestamp.usecs' > events/sched/sched_waking/trigger
# echo 'hist:keys=common_pid:lat=common_timestamp.usecs-$ts0:onmatch(sched.sched_waking).latency($lat) if buf == "end"' > events/ftrace/print/trigger
# echo 'hist:keys=lat,common_pid:sort=lat' > events/synthetic/latency/trigger

这次的不同之处在于,不是使用 trace_marker 来启动延迟,而是使用 sched_waking 事件,将 trace_marker 写入的 common_pid 与 sched_waking 唤醒的 pid 进行匹配。

再次使用相同参数运行 cyclictest 后,我们现在得到

# cat events/synthetic/latency/hist
# event histogram
#
# trigger info: hist:keys=lat,common_pid:vals=hitcount:sort=lat:size=2048 [active]
#

{ lat:          7, common_pid:       2302 } hitcount:        640
{ lat:          7, common_pid:       2299 } hitcount:         42
{ lat:          7, common_pid:       2303 } hitcount:         18
{ lat:          7, common_pid:       2305 } hitcount:        166
{ lat:          7, common_pid:       2306 } hitcount:          1
{ lat:          7, common_pid:       2301 } hitcount:         91
{ lat:          7, common_pid:       2300 } hitcount:         17
{ lat:          8, common_pid:       2303 } hitcount:       8296
{ lat:          8, common_pid:       2304 } hitcount:       6864
{ lat:          8, common_pid:       2305 } hitcount:       9464
{ lat:          8, common_pid:       2301 } hitcount:       9213
{ lat:          8, common_pid:       2306 } hitcount:       6246
{ lat:          8, common_pid:       2302 } hitcount:       8797
{ lat:          8, common_pid:       2299 } hitcount:       8771
{ lat:          8, common_pid:       2300 } hitcount:       8119
{ lat:          9, common_pid:       2305 } hitcount:       1519
{ lat:          9, common_pid:       2299 } hitcount:       2346
{ lat:          9, common_pid:       2303 } hitcount:       2841
{ lat:          9, common_pid:       2301 } hitcount:       1846
{ lat:          9, common_pid:       2304 } hitcount:       3861
{ lat:          9, common_pid:       2302 } hitcount:       1210
{ lat:          9, common_pid:       2300 } hitcount:       2762
{ lat:          9, common_pid:       2306 } hitcount:       4247
{ lat:         10, common_pid:       2299 } hitcount:         16
{ lat:         10, common_pid:       2306 } hitcount:        333
{ lat:         10, common_pid:       2303 } hitcount:         16
{ lat:         10, common_pid:       2304 } hitcount:        168
{ lat:         10, common_pid:       2302 } hitcount:        240
{ lat:         10, common_pid:       2301 } hitcount:         28
{ lat:         10, common_pid:       2300 } hitcount:         95
{ lat:         10, common_pid:       2305 } hitcount:         18
{ lat:         11, common_pid:       2303 } hitcount:          5
{ lat:         11, common_pid:       2305 } hitcount:          8
{ lat:         11, common_pid:       2306 } hitcount:        221
{ lat:         11, common_pid:       2302 } hitcount:         76
{ lat:         11, common_pid:       2304 } hitcount:         26
{ lat:         11, common_pid:       2300 } hitcount:        125
{ lat:         11, common_pid:       2299 } hitcount:          2
{ lat:         12, common_pid:       2305 } hitcount:          3
{ lat:         12, common_pid:       2300 } hitcount:          6
{ lat:         12, common_pid:       2306 } hitcount:         90
{ lat:         12, common_pid:       2302 } hitcount:          4
{ lat:         12, common_pid:       2303 } hitcount:          1
{ lat:         12, common_pid:       2304 } hitcount:        122
{ lat:         13, common_pid:       2300 } hitcount:         12
{ lat:         13, common_pid:       2301 } hitcount:          1
{ lat:         13, common_pid:       2306 } hitcount:         32
{ lat:         13, common_pid:       2302 } hitcount:          5
{ lat:         13, common_pid:       2305 } hitcount:          1
{ lat:         13, common_pid:       2303 } hitcount:          1
{ lat:         13, common_pid:       2304 } hitcount:         61
{ lat:         14, common_pid:       2303 } hitcount:          4
{ lat:         14, common_pid:       2306 } hitcount:          5
{ lat:         14, common_pid:       2305 } hitcount:          4
{ lat:         14, common_pid:       2304 } hitcount:         62
{ lat:         14, common_pid:       2302 } hitcount:         19
{ lat:         14, common_pid:       2300 } hitcount:         33
{ lat:         14, common_pid:       2299 } hitcount:          1
{ lat:         14, common_pid:       2301 } hitcount:          4
{ lat:         15, common_pid:       2305 } hitcount:          1
{ lat:         15, common_pid:       2302 } hitcount:         25
{ lat:         15, common_pid:       2300 } hitcount:         11
{ lat:         15, common_pid:       2299 } hitcount:          5
{ lat:         15, common_pid:       2301 } hitcount:          1
{ lat:         15, common_pid:       2304 } hitcount:          8
{ lat:         15, common_pid:       2303 } hitcount:          1
{ lat:         15, common_pid:       2306 } hitcount:          6
{ lat:         16, common_pid:       2302 } hitcount:         31
{ lat:         16, common_pid:       2306 } hitcount:          3
{ lat:         16, common_pid:       2300 } hitcount:          5
{ lat:         17, common_pid:       2302 } hitcount:          6
{ lat:         17, common_pid:       2303 } hitcount:          1
{ lat:         18, common_pid:       2304 } hitcount:          1
{ lat:         18, common_pid:       2302 } hitcount:          8
{ lat:         18, common_pid:       2299 } hitcount:          1
{ lat:         18, common_pid:       2301 } hitcount:          1
{ lat:         19, common_pid:       2303 } hitcount:          4
{ lat:         19, common_pid:       2304 } hitcount:          5
{ lat:         19, common_pid:       2302 } hitcount:          4
{ lat:         19, common_pid:       2299 } hitcount:          3
{ lat:         19, common_pid:       2306 } hitcount:          1
{ lat:         19, common_pid:       2300 } hitcount:          4
{ lat:         19, common_pid:       2305 } hitcount:          5
{ lat:         20, common_pid:       2299 } hitcount:          2
{ lat:         20, common_pid:       2302 } hitcount:          3
{ lat:         20, common_pid:       2305 } hitcount:          1
{ lat:         20, common_pid:       2300 } hitcount:          2
{ lat:         20, common_pid:       2301 } hitcount:          2
{ lat:         20, common_pid:       2303 } hitcount:          3
{ lat:         21, common_pid:       2305 } hitcount:          1
{ lat:         21, common_pid:       2299 } hitcount:          5
{ lat:         21, common_pid:       2303 } hitcount:          4
{ lat:         21, common_pid:       2302 } hitcount:          7
{ lat:         21, common_pid:       2300 } hitcount:          1
{ lat:         21, common_pid:       2301 } hitcount:          5
{ lat:         21, common_pid:       2304 } hitcount:          2
{ lat:         22, common_pid:       2302 } hitcount:          5
{ lat:         22, common_pid:       2303 } hitcount:          1
{ lat:         22, common_pid:       2306 } hitcount:          3
{ lat:         22, common_pid:       2301 } hitcount:          2
{ lat:         22, common_pid:       2300 } hitcount:          1
{ lat:         22, common_pid:       2299 } hitcount:          1
{ lat:         22, common_pid:       2305 } hitcount:          1
{ lat:         22, common_pid:       2304 } hitcount:          1
{ lat:         23, common_pid:       2299 } hitcount:          1
{ lat:         23, common_pid:       2306 } hitcount:          2
{ lat:         23, common_pid:       2302 } hitcount:          6
{ lat:         24, common_pid:       2302 } hitcount:          3
{ lat:         24, common_pid:       2300 } hitcount:          1
{ lat:         24, common_pid:       2306 } hitcount:          2
{ lat:         24, common_pid:       2305 } hitcount:          1
{ lat:         24, common_pid:       2299 } hitcount:          1
{ lat:         25, common_pid:       2300 } hitcount:          1
{ lat:         25, common_pid:       2302 } hitcount:          4
{ lat:         26, common_pid:       2302 } hitcount:          2
{ lat:         27, common_pid:       2305 } hitcount:          1
{ lat:         27, common_pid:       2300 } hitcount:          1
{ lat:         27, common_pid:       2302 } hitcount:          3
{ lat:         28, common_pid:       2306 } hitcount:          1
{ lat:         28, common_pid:       2302 } hitcount:          4
{ lat:         29, common_pid:       2302 } hitcount:          1
{ lat:         29, common_pid:       2300 } hitcount:          2
{ lat:         29, common_pid:       2306 } hitcount:          1
{ lat:         29, common_pid:       2304 } hitcount:          1
{ lat:         30, common_pid:       2302 } hitcount:          4
{ lat:         31, common_pid:       2302 } hitcount:          6
{ lat:         32, common_pid:       2302 } hitcount:          1
{ lat:         33, common_pid:       2299 } hitcount:          1
{ lat:         33, common_pid:       2302 } hitcount:          3
{ lat:         34, common_pid:       2302 } hitcount:          2
{ lat:         35, common_pid:       2302 } hitcount:          1
{ lat:         35, common_pid:       2304 } hitcount:          1
{ lat:         36, common_pid:       2302 } hitcount:          4
{ lat:         37, common_pid:       2302 } hitcount:          6
{ lat:         38, common_pid:       2302 } hitcount:          2
{ lat:         39, common_pid:       2302 } hitcount:          2
{ lat:         39, common_pid:       2304 } hitcount:          1
{ lat:         40, common_pid:       2304 } hitcount:          2
{ lat:         40, common_pid:       2302 } hitcount:          5
{ lat:         41, common_pid:       2304 } hitcount:          1
{ lat:         41, common_pid:       2302 } hitcount:          8
{ lat:         42, common_pid:       2302 } hitcount:          6
{ lat:         42, common_pid:       2304 } hitcount:          1
{ lat:         43, common_pid:       2302 } hitcount:          3
{ lat:         43, common_pid:       2304 } hitcount:          4
{ lat:         44, common_pid:       2302 } hitcount:          6
{ lat:         45, common_pid:       2302 } hitcount:          5
{ lat:         46, common_pid:       2302 } hitcount:          5
{ lat:         47, common_pid:       2302 } hitcount:          7
{ lat:         48, common_pid:       2301 } hitcount:          1
{ lat:         48, common_pid:       2302 } hitcount:          9
{ lat:         49, common_pid:       2302 } hitcount:          3
{ lat:         50, common_pid:       2302 } hitcount:          1
{ lat:         50, common_pid:       2301 } hitcount:          1
{ lat:         51, common_pid:       2302 } hitcount:          2
{ lat:         51, common_pid:       2301 } hitcount:          1
{ lat:         61, common_pid:       2302 } hitcount:          1
{ lat:        110, common_pid:       2302 } hitcount:          1

Totals:
    Hits: 89565
    Entries: 158
    Dropped: 0

这并没有告诉我们 cyclictest 可能延迟了多长时间才被唤醒,但它确实向我们展示了一个很好的直方图,说明了从 cyclictest 被唤醒到进入用户空间所花费的时间。