在linux kernel里，有一個debug選項LOCKUP_DETECTOR，
使能它可以打開kernel中的soft lockup和hard lockup探測，
這兩個東西到底有什么用處那？
首先，soft/hard lockup的實作在kernel/watchdog.c中，
主體涉及到了3個東西：kernel執行緒，時鐘中斷，NMI中斷（不可屏蔽中斷），
這3個東西具有不一樣的優先級，依次是kernel執行緒 < 時鐘中斷 < NMI中斷，
而正是用到了他們之間優先級的區別，所以才可以除錯系統運行中的兩種問題：
-
搶占被長時間關閉而導致行程無法調度（soft lockup）
-
中斷被長時間關閉而導致更嚴重的問題（hard lockup）
接下來我們從具體代碼入手分析linux（3.10）是如何實作這兩種lockup的探測的：
static struct smp_hotplug_thread watchdog_threads = {
.store = &softlockup_watchdog,
.thread_should_run = watchdog_should_run,
.thread_fn = watchdog,
.thread_comm = "watchdog/%u",
.setup = watchdog_enable,
.park = watchdog_disable,
.unpark = watchdog_enable,
};
void __init lockup_detector_init(void)
{
set_sample_period();
if (smpboot_register_percpu_thread(&watchdog_threads)) {
pr_err("Failed to create watchdog threads, disabled\n");
watchdog_disabled = -ENODEV;
}
}
首先，系統會為每個cpu core注冊一個一般的kernel執行緒，名字叫watchdog/0, watchdog/1...以此類推，
這個執行緒會定期得呼叫watchdog函式
static void __touch_watchdog(void)
{
__this_cpu_write(watchdog_touch_ts, get_timestamp());
}
static void watchdog(unsigned int cpu)
{
__this_cpu_write(soft_lockup_hrtimer_cnt,
__this_cpu_read(hrtimer_interrupts));
__touch_watchdog();
}
我們先不理會這個執行緒處理函式watchdog多久被呼叫一次，我們就先簡單的認為，這個執行緒是負責更新watchdog_touch_ts的，
然后我們要看一下時鐘中斷了：
static void watchdog_enable(unsigned int cpu)
{
struct hrtimer *hrtimer = &__raw_get_cpu_var(watchdog_hrtimer);
/* kick off the timer for the hardlockup detector */
hrtimer_init(hrtimer, CLOCK_MONOTONIC, HRTIMER_MODE_REL);
hrtimer->function = watchdog_timer_fn;
/* done here because hrtimer_start can only pin to smp_processor_id() */
hrtimer_start(hrtimer, ns_to_ktime(sample_period),
HRTIMER_MODE_REL_PINNED);
}
時鐘中斷處理函式是watchdog_timer_fn
static enum hrtimer_restart watchdog_timer_fn(struct hrtimer *hrtimer)
{
unsigned long touch_ts = __this_cpu_read(watchdog_touch_ts);
int duration;
/* kick the hardlockup detector */
watchdog_interrupt_count();
duration = is_softlockup(touch_ts);
if (unlikely(duration)) {
if (softlockup_panic)
panic("softlockup: hung tasks");
__this_cpu_write(soft_watchdog_warn, true);
} else
__this_cpu_write(soft_watchdog_warn, false);
return HRTIMER_RESTART;
}
這個函式主要做2件事情：
- 更新hrtimer_interrupts變數，
static void watchdog_interrupt_count(void)
{
__this_cpu_inc(hrtimer_interrupts);
}
這里我們就要回顧之前創建的那個kernel執行緒了，多久呼叫一次就和hrtimer_interrupts的值密切相關，
static int watchdog_should_run(unsigned int cpu)
{
return __this_cpu_read(hrtimer_interrupts) !=
__this_cpu_read(soft_lockup_hrtimer_cnt);
}
那就是說，kernel執行緒和時鐘中斷函式的頻率是相同的，默認情況是10*2/5=4秒一次，
int __read_mostly watchdog_thresh = 10;
static int get_softlockup_thresh(void)
{
return watchdog_thresh * 2;
}
static void set_sample_period(void)
{
/*
* convert watchdog_thresh from seconds to ns
* the divide by 5 is to give hrtimer several chances (two
* or three with the current relation between the soft
* and hard thresholds) to increment before the
* hardlockup detector generates a warning
*/
sample_period = get_softlockup_thresh() * ((u64)NSEC_PER_SEC / 5);
}
- 就是要探測是否有soft lockup發生，
static int is_softlockup(unsigned long touch_ts)
{
unsigned long now = get_timestamp();
/* Warn about unreasonable delays: */
if (time_after(now, touch_ts + get_softlockup_thresh()))
return now - touch_ts;
return 0;
}
很容易理解，其實就是查看watchdog_touch_ts變數在最近20秒的時間內，有沒有被創建的kernel thread更新過，
假如沒有，那就意味著執行緒得不到調度，所以很有可能就是在某個cpu core上搶占被關閉了，所以調度器沒有辦法進行調度，
這種情況下，系統往往不會死掉，但是會很慢，
有了soft lockup的機制，我們就能盡早的發現這樣的問題了，
分析完soft lockup，我們繼續分析hard lockup
static int watchdog_nmi_enable(unsigned int cpu)
{
struct perf_event_attr *wd_attr;
wd_attr = &wd_hw_attr;
wd_attr->sample_period = hw_nmi_get_sample_period(watchdog_thresh);
/* Try to register using hardware perf events */
event = perf_event_create_kernel_counter(wd_attr, cpu, NULL, watchdog_overflow_callback, NULL);
}
perf_event_create_kernel_counter函式主要是注冊了一個硬體的事件，
這個硬體在x86里叫performance monitoring，這個硬體有一個功能就是在cpu clock經過了多少個周期后發出一個NMI中斷出來，
u64 hw_nmi_get_sample_period(int watchdog_thresh)
{
return (u64)(cpu_khz) * 1000 * watchdog_thresh;
}
在這里，根據當前cpu的頻率，算出一個值，也就是20秒cpu clock經過的周期數，
這樣一來，當cpu全負荷跑完20秒后，就會有一個NMI中斷發出，而這個中斷的出路函式就是watchdog_overflow_callback，
static void watchdog_overflow_callback(struct perf_event *event,
struct perf_sample_data *data,
struct pt_regs *regs)
{
if (is_hardlockup()) {
int this_cpu = smp_processor_id();
if (hardlockup_panic)
panic("Watchdog detected hard LOCKUP on cpu %d", this_cpu);
else
WARN(1, "Watchdog detected hard LOCKUP on cpu %d", this_cpu);
return;
}
return;
}
這個函式主要就是呼叫is_hardlockup
static int is_hardlockup(void)
{
unsigned long hrint = __this_cpu_read(hrtimer_interrupts);
if (__this_cpu_read(hrtimer_interrupts_saved) == hrint)
return 1;
__this_cpu_write(hrtimer_interrupts_saved, hrint);
return 0;
}
而這個函式主要就是查看hrtimer_interrupts變數在時鐘中斷處理函式里有沒有被更新，
假如沒有更新，就意味著中斷出了問題，可能被錯誤代碼長時間的關中斷了，
那這樣，相應的問題也就暴露出來了，
轉載請註明出處，本文鏈接：https://www.uj5u.com/caozuo/1800.html
標籤：嵌入式
上一篇：痞子衡嵌入式：恩智浦i.MX RT1xxx系列MCU啟動那些事（11.A）- FlexSPI NOR啟動時間(RT1170)