原來gdb的底層除錯原理這么簡單

一、前言

這篇文章來聊聊大名鼎鼎的GDB，它的豪門背景咱就不提了，和它的兄弟GCC一樣是含著金鑰匙出生的，在GNU的家族中的地位不可撼動，相信每位嵌入式開發工程師都使用過gdb來除錯程式，如果你說沒有用過，那只能說明你的開發經歷還不夠坎坷，還需要繼續被 BUG吊打，

我們都知道，在使用gcc編譯時，可以使用-g選項在可執行檔案中嵌入更多的除錯資訊，那么具體嵌入了哪些除錯資訊？這些除錯資訊是如何與二進制的指令之間進行相互互動？在除錯的時候，除錯資訊中是如何獲取函式呼叫堆疊中的背景關系資訊？

針對上面這些疑惑，道哥用兩篇文章把這些底層最深處的問題徹底描述清楚，讓你一次看過癮，

第一篇文章，就是當前這一篇，主要內容是介紹GDB的底層除錯原理，我們來看一下GDB是通過什么機制來控制被除錯程式的執行順序，

第二篇文章，我們選擇一個體積小巧、五臟俱全的LUA語言來進行剖析，從源代碼分析到函式呼叫堆疊，從指令集到除錯庫的修改，一網打盡，

內容比較多，看完本文需要的時間可能長一些，為了您的健康，不建議在處于蹲姿的時候閱讀這篇文章，

二、GDB除錯模型

GDB除錯包括2個程式：gdb程式和被除錯程式，根據這2個程式是否運行在同一臺電腦中，可以把GDB的除錯模型分為2種:

1. 本地除錯
2. 遠程除錯

本地除錯：除錯程式和被除錯程式運行在同一臺電腦中，

遠程除錯：除錯程式運行在一臺電腦中，被除錯程式運行在另一臺電腦中，

關于可視化除錯程式并不是重點，它只是一個用來封裝GDB的外殼而已，我們既可以用黑乎乎的終端視窗來手動輸入除錯命令；也可以選擇集成開發環境(IDE)，這個IDE中已經嵌入了器除錯，這樣就可以使用各種button來代替手動輸入除錯命令了，

與本地除錯相比，遠程除錯中多了一個GdbServer程式，它和目標程式都是運行在目標機中，可能是一臺x86電腦或者是一個ARM板子，圖中的紅線表示GDB與GdbServer之間通過網路或者串口進行通訊，既然是通訊，那么肯定需要一套通訊協議：RSP協議，全稱是： GDB Remote Serial Protocol(GDB遠程通信協議)，

關于通訊協議的具體格式和內容，我們不需要關心，只需要知道：它們都是字串，有固定的開始字符(’$’)和結束字符(’#’)，最后還有兩個十六進制的ASCII字符作為校驗和，了解這么多就足夠了，至于更多的細節，如果實在閑的XX可以瞄幾眼，其實這些協議，就像社會中各種奇葩的規定一樣，都是一幫磚家在廁所里想出來的，

在第二篇講解LUA的文章中，我們會實作一個類似的遠程除錯原型，其中的通信協議也是字串，直接把 HTTP 協議進行簡化之后就拿過來使用了，十分清晰、方便，

三、GDB除錯指令

為了完整性，這里把部分GDB除錯指令貼一下，有感性認識即可，

另外，這里沒有列舉所有的指令，列出的指令都是常用的，比較容易理解，在講解LUA的時候，我們會選擇其中的某些指令進行詳細的對比，包括底層的實作機制，

每一個除錯指令都有很多的命令選項，例如斷點相關的就包括：設定斷點、洗掉斷點、條件斷點、臨時停用啟用等等，這篇文章的重點是理解gdb底層的除錯機制，所以應用層的這些指令的使用方法就不再列出了，網路上的資源很多，

四、GDB與被除錯程式之間的關系

為了方便描述，先寫一個最最簡單的C程式：

#include <stdio.h>

int main(int argc, char *argv[])
{
    int a = 1;
    int b = 2;
    int c = a + b;
    printf("c = %d \n", c);
    return 0;
}

編譯命令:

$ gcc -g test.c -o test

我們對可執行程式 test 進行除錯，輸入命令：

$ gdb ./test

輸出如下：

在最后一行可以看到游標在閃爍，這是gdb程式在等著我們給它下達除錯命令呢，

當上面這個黑乎乎的終端視窗在執行gdb ./test的時候，在作業系統里發生了很多復雜的事情：

系統首先會啟動gdb行程，這個行程會呼叫系統函式fork()來創建一個子行程，這個子行程做兩件事情：

1. 呼叫系統函式ptrace(PTRACE_TRACEME，[其他引數])；
2. 通過execc來加載、執行可執行程式test，那么test程式就在這個子行程中開始執行了，

補充一點：文中有時稱之程式，有時稱之行程，“程式”描述的是一個靜態的概念，就是一堆資料躺著硬碟上，而“行程”描述的是動態的程序，是這個程式被讀取、加載到記憶體上之后，在作業系統中有一個任務控制塊(一個資料結構)，專門用來管理這個行程的，

鋪墊了半天，終于輪到主角登場了，那就是系統呼叫函式ptrace（其中的引數后面會解釋），正是在它的幫助下，gdb才擁有了強大的除錯能力，函式原型是：

#include <sys/ptrace.h>
long ptrace(enum __ptrace_request request, pid_t pid, void *addr, void *data);

我們先來看一下 man 中對這個函式的簡介：

tracer就是除錯程式，可以理解為gdb程式；tracee就是被除錯程式，對應于圖中的目標程式test，老外一般喜歡用-er和-ee來表示主動和被動的關系，例如：employer就是雇主(老板)，employee就是苦逼的被雇傭者(打工人)，

ptrace系統函式是Linux內核提供的一個用于行程跟蹤的系統呼叫，通過它，一個行程(gdb)可以讀寫另外一個行程(test)的指令空間、資料空間、堆疊和暫存器的值，而且gdb行程接管了test行程的所有信號，也就是說系統向test行程發送的所有信號，都被gdb行程接收到，這樣一來，test行程的執行就被gdb控制了，從而達到除錯的目的，

也就是說，如果沒有gdb除錯，作業系統與目標行程之間是直接互動的；如果使用gdb來除錯程式，那么作業系統發送給目標行程的信號就會被gdb截獲，gdb根據信號的屬性來決定：在繼續運行目標程式時是否把當前截獲的信號轉交給目標程式，如此一來，目標程式就在gdb發來的信號指揮下進行相應的動作，

五、GDB如何除錯已經執行的服務行程

是否有小伙伴會提出這樣一個疑問：上面被除錯的程式test是從頭開始執行的，是否可以用gdb來除錯一個已經處于執行中的服務行程呢？ 答曰：可以，這就涉及到ptrace系統函式的第一個引數了，這個引數是一個列舉型別的值，其中重要的是2個：PTRACE_TRACEME和PTRACE_ATTACH<，

在上面的講解中，子行程在呼叫ptrace系統函式時使用的引數是PTRACE_TRACEME，注意橙色文字：是子行程呼叫ptrace，相當于子行程對作業系統說：gdb行程是我的爸爸，以后你有任何想發給我的信號，請直接發給gdb行程吧！

如果想對一個已經執行的行程B進行除錯，那么就要在gdb這個父行程中呼叫ptrace(PTRACE_ATTACH,[其他引數])，此時，gdb行程會attach(系結)到已經執行的行程B，gdb把行程B收養成為自己的子行程，而子行程B的行為等同于它進行了一次 PTRACE_TRACEME操作，此時gdb行程會發送SIGSTO信號給子行程B，子行程B接收到SIGSTOP信號后，就會暫停執行進入TASK_STOPED狀態，表示自己準備好被除錯了，

所以，不論是除錯一個新程式，還是除錯一個已經處于執行中狀態的服務程式，通過ptrace系統呼叫，最終的結果都是：gdb程式是父行程，被除錯程式是子行程，子行程的所有信號都被父行程gdb來接管，并且父行程gdb可查看、修改子行程的內部資訊，包括：堆疊、暫存器等，

關于系結，有幾個限制需要了解一下：不予許自我系結，不允許多次系結到同一個行程，不允許系結1號行程，

六、偷窺GDB如何實作斷點指令

大道理已經講完了，這里我們通過設定斷點(break)這個除錯指令，來偷窺一下 gdb 內部的除錯機制，
還是以上面的代碼為例子，這里再重新貼一下代碼：

#include <stdio.h>

int main(int argc, char *argv[])
{
    int a = 1;
    int b = 2;
    int c = a + b;
    printf("c = %d \n", c);
    return 0;
}

來看一下編譯出來的反匯編代碼是什么樣的，編譯指令：

gcc -S test.c; cat test.S)

這里只貼了一部分反匯編代碼，只要能說明底層的原理就達到我們的目的了，

上面說到，在執行gdb ./test之后，gdb就會fork出一個子行程，這個子行程首先呼叫ptrace然后執test程式，這樣就準備好除錯環境了，

我們把原始碼和匯編代碼放在一起，方便理解：

在除錯視窗輸入設定斷點指令“break 5”，此時gdb做2件事情：

1. 對第5行原始碼所對應的第10行匯編代碼存盤到斷點鏈表中，
2. 在匯編代碼的第10行，插入中斷指令INT3，也就是說：匯編代碼中的第10行被替換為INT3，

然后，在除錯視窗繼續輸入執行指令“run”(一直執行，直到遇到斷點就暫停)，匯編代碼中PC指標(一個內部指標，指向即將執行的那行代碼)執行第10行時，發現是INT3指令，于是作業系統就發送一個SIGTRAP信號給test行程，

此刻，第10行匯編代碼被執行過了，PC指標就指向第11行了，

上面已經說過，作業系統發給test的任何信號，都被gdb接管了，也就是說gdb會首先接收到這SIGTRAP個信號，gdb發現當前匯編代碼執行的是第10行，于是到斷點鏈表中查找，發現鏈表中存盤了第10行的代碼，說明第10行被設定了斷點，于是gdb又做了2個操作：

1. 把匯編代碼中的第10行"INT3"替換為斷點鏈表中原來的代碼，
2. 把 PC 指標回退一步，也即是設定為指向第10 行，

然后，gdb繼續等待用戶的除錯指令，

此刻，就相當于下一條執行的指令是匯編代碼中的第10行，也就是原始碼中的第5行，從我們除錯者角度看，就是被除錯程式在第5行斷點處暫停了下來，此時我們可以繼續輸入其他除錯指令來debug，比如：查看變數值、查看堆疊資訊、修改區域變數的值等等，

七、偷窺GDB如何實作單步指令next

還是以剛才的源代碼和匯編代碼為例，假設此時程式停止在原始碼的第6行，即匯編代碼的第11行：

在除錯視窗輸入單步執行指令next，我們的目的是執行一行代碼，也就是把原始碼中第6行代碼執行完，然后停止在第7行，gdb在接收到next執行時，會計算出第7行原始碼，應該對應到匯編代碼的第14行，于是gdb就控制匯編代碼中的PC指標一直執行，直到第13行執行結束，也就是PC指向第14行時，就停止下來，然后繼續等待用戶輸入除錯指令，

八、總結

通過break和next這2個除錯指令，我們已經明白了gdb中是如何處理除錯指令，當然，gdb中的除錯指令還有很多，包括更復雜的獲取堆疊資訊、修改變數的值等等，有興趣的小伙伴可以繼續深入跟蹤，

后面我在寫LUA語言中的除錯庫時，會更深入、詳細的討論這個問題，畢竟LUA語言更小巧、簡單，我也會把LUA代碼中如何設定PC指標的代碼部分給小伙伴演示一下，這樣我們對于一門編程語言的內部實作就會有更好的理解和掌握，也可能會錄一個視頻，這樣就能更好的講解LUA語言中的內部細節，

我會在公-眾-號IOT物聯網小鎮持續總結嵌入式專案開發程序中的實戰經驗，相信不會讓你失望的！