??在這篇文章，我將簡單的總結一下連續性與導數、偏導數、方向導數等高等數學基本概念，這些概念是理解人工智能演算法的基礎數學知識，

4 連續性與導數

??函式建立了變數之間的依存關系，有時候也需要考慮函式的連續性，例如氣溫的變化，當時間變動微小時，氣溫的變化也很微小，這種特點就是所謂的連續性，

4.1 函式連續性定義

定義13?設函式 f ( x ) f(x) f(x) 在 x 0 x_{0} x0? 的某個鄰域內有定義，當自變數的增量 Δ x \Delta x Δx 趨于 0 時，對應的函式的增量 Δ y = f ( x 0 + Δ x ) ? f ( x 0 ) \Delta y = f(x_{0}+\Delta x) - f(x_{0}) Δy=f(x0?+Δx)?f(x0?) 也趨于 0，即
lim ? Δ x → 0 Δ y = lim ? Δ x → 0 [ f ( x 0 + Δ x ) ? f ( x 0 ) ] = 0 \lim_{\Delta x\rightarrow 0} \Delta y = \lim_{\Delta x\rightarrow 0}[f(x_{0}+\Delta x) - f(x_{0})]=0 Δx→0lim?Δy=Δx→0lim?[f(x0?+Δx)?f(x0?)]=0
則稱函式 f ( x ) f(x) f(x) 在點 x 0 x_{0} x0? 處連續，

??觀察圖6所示：圖（a），當 Δ x → 0 \Delta x \rightarrow 0 Δx→0時， Δ y → 0 \Delta y \rightarrow 0 Δy→0，因此函式 f ( x ) f(x) f(x) 在點 x 0 x_{0} x0? 處連續，再來看圖（b），當 Δ x → 0 + \Delta x \rightarrow 0^{+} Δx→0+時， Δ y \Delta y Δy 的改變非常大，因此函式 g ( x ) g(x) g(x) 在點 x 0 x_{0} x0? 處不連續，

4.2 函式連續性需要滿足的條件

??函式 f ( x ) f(x) f(x) 在點 x 0 x_{0} x0? 處連續，需要滿足以下條件：

??（1）函式在該點處有定義，
??（2）函式在該點處極限 lim ? x → x 0 f ( x ) \lim_{x\rightarrow x_{0}} f(x) limx→x0??f(x) 存在，
??（3）極限值等于函式值 f ( x 0 ) f(x_{0}) f(x0?) ，

三個條件缺一不可，

??【例9】已知函式 f ( x ) = { x + 1 , x ? 0 s i n x x , x > 0 f(x)=\left\{\begin{matrix} x+1, & x\leqslant 0\\ \frac{sinx}{x}, & x>0 \end{matrix}\right. f(x)={x+1,xsinx?,?x?0x>0?，判斷函式 f ( x ) f(x) f(x) 在點 x = 0 x = 0 x=0 處的連續性，

??解：
f ( 0 ) = 1 , lim ? x → 0 ? ( x + 1 ) = 1 , lim ? x → 0 + s i n x x = 1 f(0)=1, \lim_{x\rightarrow 0^{-}} (x+1)= 1, \lim_{x\rightarrow 0^{+}} \frac{sinx}{x}= 1 f(0)=1,x→0?lim?(x+1)=1,x→0+lim?xsinx?=1
??極限存在并且等于 f ( 0 ) f(0) f(0)，滿足3個條件，因此函式 f ( x ) f(x) f(x) 在點 x = 0 x = 0 x=0 處連續，

4.3 函式的間斷點

??設函式 f ( x ) f(x) f(x) 在 x 0 x_{0} x0? 的某個去心鄰域內有定義，如果函式 f ( x ) f(x) f(x) 有下列 3 種情況之一，那么函式 f ( x ) f(x) f(x) 在點 x 0 x_{0} x0? 處不連續，點 x 0 x_{0} x0? 稱為函式 f ( x ) f(x) f(x) 的間斷點或不連續點，

??（1）函式 f ( x ) f(x) f(x) 在點 x = x 0 x=x_{0} x=x0? 處沒有定義，
??（2）函式 f ( x ) f(x) f(x) 雖然在點 x = x 0 x=x_{0} x=x0? 處有定義，但是在該點處極限 lim ? x → x 0 f ( x ) \lim_{x\rightarrow x_{0}} f(x) limx→x0??f(x) 不存在，
??（3）函式 f ( x ) f(x) f(x) 雖然在點 x = x 0 x=x_{0} x=x0? 處有定義，且在該點處極限 lim ? x → x 0 f ( x ) \lim_{x\rightarrow x_{0}} f(x) limx→x0??f(x) 存在，但 lim ? x → x 0 f ( x ) ≠ f ( x 0 ) \lim_{x\rightarrow x_{0}} f(x) \neq f(x_{0}) limx→x0??f(x)?=f(x0?) ，

4.4 函式間斷點的常見型別

??通常把間斷點分為兩類：如果 a a a 是函式 f ( x ) f(x) f(x) 的間斷點，且函式在該點左右極限都存在 ，則稱 a a a 為第一類間斷點；不是第一類間斷點的任何間斷點，都稱為第二類間斷點，

??第一類間斷點又可以分為以下兩類 ，

??（1）跳躍間斷點： lim ? x → x 0 + f ( x ) \lim_{x\rightarrow x_{0}^{+}}f(x) limx→x0+??f(x)、 lim ? x → x 0 ? f ( x ) \lim_{x\rightarrow x_{0}^{-}}f(x) limx→x0???f(x) 極限都存在，但 lim ? x → x 0 + f ( x ) ≠ lim ? x → x 0 ? f ( x ) \lim_{x\rightarrow x_{0}^{+}}f(x) \neq \lim_{x\rightarrow x_{0}^{-}}f(x) limx→x0+??f(x)?=limx→x0???f(x)，

??（2）可去間斷點： lim ? x → x 0 + f ( x ) \lim_{x\rightarrow x_{0}^{+}}f(x) limx→x0+??f(x)、 lim ? x → x 0 ? f ( x ) \lim_{x\rightarrow x_{0}^{-}}f(x) limx→x0???f(x) 極限都存在且相等，但是 lim ? x → x 0 f ( x ) ≠ f ( x 0 ) \lim_{x\rightarrow x_{0}} f(x) \neq f(x_{0}) limx→x0??f(x)?=f(x0?) 或 f ( x ) f(x) f(x) 在該點無定義，

??【例10】分析函式 f ( x ) = x 2 ? 1 x 2 ? 3 x + 1 f(x)=\frac{x^{2}-1}{x^{2}-3x+1} f(x)=x2?3x+1x2?1? 的連續性

??解：函式在點 x = 2 x = 2 x=2 、 x = 1 x = 1 x=1 處沒有定義，因此點 x = 2 x = 2 x=2 、 x = 1 x = 1 x=1 為間斷點 ，

?? lim ? x → 1 ? f ( x ) = lim ? x → 1 + f ( x ) ≠ f ( 1 ) \lim_{x\rightarrow 1^{-}}f(x)=\lim_{x\rightarrow 1^{+}}f(x) \neq f(1) limx→1??f(x)=limx→1+?f(x)?=f(1)，因此在點 x = 1 x = 1 x=1 處是可去間斷點 ，

??因此，在點 x = 2 x = 2 x=2 處是第二類間斷點 ，

4.5 導數

??導數是一個非常重要的概念，對于很多實際應用問題的求解都會用到導數， 先來看一個引例：速度問題，歷史上速度問題與導數概念的形成有著密切的關系，

??我們都知道平均速度 v = s t v = \frac{s}{t} v=ts?，那么如何表示瞬時速度呢?

??瞬時經過路程： Δ s = s ( t 0 + Δ t ) ? s ( t 0 ) \Delta s = s(t_{0}+\Delta t)-s(t_{0}) Δs=s(t0?+Δt)?s(t0?)

??這一小段 Δ t \Delta t Δt 的平均速度：

??當 Δ t → 0 \Delta t \rightarrow 0 Δt→0 時，對應的 v ˉ \bar{v} vˉ 就是瞬時速度，在時刻 t 0 t_{0} t0? 的瞬時速度為：

??從公式可以看出，瞬時速度就是變化率的問題，

4.5.1 導數的定義

定義14?設函式 f ( x ) f(x) f(x) 在 x 0 x_{0} x0? 的某個鄰域內有定義，當自變數的增量為 Δ x \Delta x Δx 時，對應的函式的增量 Δ y = f ( x 0 + Δ x ) ? f ( x 0 ) \Delta y = f(x_{0}+\Delta x) - f(x_{0}) Δy=f(x0?+Δx)?f(x0?) ，當 Δ x → 0 \Delta x \rightarrow 0 Δx→0 時， Δ y Δ x \frac{\Delta y }{\Delta x} ΔxΔy? 的極限存在，則稱函式 f ( x ) f(x) f(x) 在 x 0 x_{0} x0? 處可導， 此極限值為函式 f ( x ) f(x) f(x) 在點 x 0 x_{0} x0? 處的導數，記作 f ′ ( x ) f^{'}(x) f′(x)，即

4.5.2 導數的幾何意義

??通常函式 y = f ( x ) y=f(x) y=f(x) 的導數表示了因變數 y y y 在點 x 0 x_{0} x0? 處隨自變數 x x x 變化的快慢程度，即函式的變化速率， 從幾何意義上講，函式在某一點 x 0 x_{0} x0? 的變化率等于這一點的切線的斜率，圖7中 P 0 P_{0} P0? 的導數為在點 P 0 P_{0} P0? 處所作切線的斜率， f ′ ( x 0 ) = t a n α f^{'}(x_{0}) = tan\alpha f′(x0?)=tanα，其中 α \alpha α 是切線的傾角（與 x x x 軸正方向的夾角），

4.5.3 導數的基本求導法則

??如果函式 u = u ( x ) u=u(x) u=u(x) 、 ν = ν ( x ) ν=ν(x) ν=ν(x) 都在點 x x x 有導數，那么它們的和 、差、 積 、 商（除分母為 0 的點外）都在點 x x x 具有導數，且滿足以下法則 ，

4.5.4 反函式的求導法則

??設函式 x = f ( y ) x=f(y) x=f(y) 在區間 D y D_{y} Dy? 內單調可導，且 f ′ ( y ) ≠ 0 f^{'}(y)\neq 0 f′(y)?=0，那么它的反函式 y = f ? 1 ( x ) y = f^{-1}(x) y=f?1(x) 在區間 D x = { x = f ( y ) , y ? D y } D_{x}=\left \{ x=f(y),y\epsilon D_{y} \right \} Dx?={x=f(y),y?Dy?} 內也可導，且滿足下式：

4.5.5 復合函式的求導法則

??如果 u = g ( x ) u=g(x) u=g(x) 在點 x x x 處可導， y = f ( u ) y=f(u) y=f(u) 在點 u = g ( x ) u=g(x) u=g(x) 處可導，那么復合函式 y = f [ g ( x ) ] y=f\left [ g(x) \right ] y=f[g(x)] 在點 x x x 處可導，且其導數為：

d y d x = f ′ ( u ) ? g ′ ( x ) / d y d x = d y d u ? d u d x \frac{dy}{dx}=f^{'}(u)\cdot g^{'}(x)/\frac{dy}{dx}=\frac{dy}{du}\cdot \frac{du}{dx} dxdy?=f′(u)?g′(x)/dxdy?=dudy??dxdu?

4.5.6 常用的求導公式

??【例11】求函式 y = a r c s i n s i n x y=arcsin\sqrt{sinx} y=arcsinsinx ? 的導數，并用 Python 編程求導，

??解：

【代碼如下】

from sympy import *
from sympy.abc import x,y,z,f
result= diff(asin(sqrt(sin(x))))
print(result)

cos(x)/(2*sqrt(1 - sin(x))*sqrt(sin(x)))

5 偏導數

??如果涉及的函式都只有一個自變數，那么這種函式被稱為一元函式，但在很多研究領域中，經常需要研究多個變數之間的關系，在數學上，這就表現為一個變數與另外多個變數的相互依賴關系，由此就引出來了偏導數的概念，

??先來研究二元函式，二元函式是函式值 z z z 隨著兩個自變數的變化而變化，記為 z = f ( x , y ) z =f(x,y) z=f(x,y) ，其圖形是一個 x , y x,y x,y 軸展開的曲面，如圖 8 所示，

??一元函式的導數反映了函式相對于自變數的變化率， 但多元函式的自變數有兩個或兩個以上，函式對于自變數的變化率問題更為復雜，但有規律可循，一般來說，對于多元函式 ，在研究某一個自變數的變化率時，往往把其余的自變數暫時固定下來，即視為常數，使其成為一元函式，然后再對其進行求導，這就是偏導數的概念 ，

5.1 偏導數的定義

定義15?設函式 z = f ( x , y ) z = f(x,y) z=f(x,y) 在點 ( x 0 , y 0 ) (x_{0}, y_{0}) (x0?,y0?) 的某個鄰域內有定義，當 y y y 固定在 y 0 y_{0} y0?，而 x x x 在 x 0 x_{0} x0? 處有增量 Δ x \Delta x Δx，函式有增量 f ( x 0 + Δ x , y 0 ) ? f ( x 0 , y 0 ) f\left ( x_{0}+\Delta x,y_{0} \right )-f\left ( x_{0}, y_{0}\right ) f(x0?+Δx,y0?)?f(x0?,y0?)，如果極限
lim ? Δ x → 0 f ( x 0 + Δ x , y 0 ) ? f ( x 0 , y 0 ) Δ x \lim_{\Delta x\rightarrow 0}\frac{f\left ( x_{0}+\Delta x,y_{0} \right )-f\left ( x_{0}, y_{0}\right )}{\Delta x} Δx→0lim?Δxf(x0?+Δx,y0?)?f(x0?,y0?)?
存在，則稱此極限為函式 z = f ( x , y ) z = f(x,y) z=f(x,y) 在點 ( x 0 , y 0 ) (x_{0}, y_{0}) (x0?,y0?) 處對 x x x 的偏導數，記為 f x ( x 0 , y 0 ) f_{x}\left ( x_{0}, y_{0}\right ) fx?(x0?,y0?)，即
f x ( x 0 , y 0 ) = lim ? Δ x → 0 f ( x 0 + Δ x , y 0 ) ? f ( x 0 , y 0 ) Δ x f_{x}\left ( x_{0}, y_{0}\right ) = \lim_{\Delta x\rightarrow 0}\frac{f\left ( x_{0}+\Delta x,y_{0} \right )-f\left ( x_{0}, y_{0}\right )}{\Delta x} fx?(x0?,y0?)=Δx→0lim?Δxf(x0?+Δx,y0?)?f(x0?,y0?)?
同理可得：
f y ( x 0 , y 0 ) = lim ? Δ y → 0 f ( x 0 , y 0 + Δ y ) ? f ( x 0 , y 0 ) Δ y f_{y}\left ( x_{0}, y_{0}\right ) = \lim_{\Delta y\rightarrow 0}\frac{f\left ( x_{0},y_{0} +\Delta y \right )-f\left ( x_{0}, y_{0}\right )}{\Delta y} fy?(x0?,y0?)=Δy→0lim?Δyf(x0?,y0?+Δy)?f(x0?,y0?)?

5.2 偏導數的幾何意義

??偏導數的幾何意義可直接由一元函式導數的幾何意義得出，由于 f x ( x 0 , y 0 ) f_{x}\left ( x_{0}, y_{0}\right ) fx?(x0?,y0?) 就是 z = f ( x , y 0 ) z = f(x,y_{0}) z=f(x,y0?) 在 x = x 0 x=x_{0} x=x0? 處的導數，而 z = f ( x , y 0 ) z = f(x,y_{0}) z=f(x,y0?) 在幾何上可以看作是平面 y = y 0 y=y_{0} y=y0? 截曲面 z = f ( x , y ) z = f(x,y) z=f(x,y) 得到的曲線 C x C_{x} Cx?，因此 f x ( x 0 , y 0 ) f_{x}\left ( x_{0}, y_{0}\right ) fx?(x0?,y0?) 的幾何意義為：曲線 C x C_{x} Cx? 在點 M 0 ( x 0 , y 0 , z 0 ) M_{0}\left ( x_{0},y_{0},z_{0} \right ) M0?(x0?,y0?,z0?) 處切線 M 0 T x M_{0}T_{x} M0?Tx? 對 x x x 軸的斜率，如圖9所示，

??同理，若 C y C_{y} Cy? 是平面 x = x 0 x=x_{0} x=x0? 截曲面 z = f ( x , y ) z = f(x,y) z=f(x,y) 得到的曲線，則偏導數 f y ( x 0 , y 0 ) f_{y}\left ( x_{0}, y_{0}\right ) fy?(x0?,y0?) 的幾何意義為：曲線 C y C_{y} Cy? 在點 M 0 ( x 0 , y 0 , z 0 ) M_{0}\left ( x_{0},y_{0},z_{0} \right ) M0?(x0?,y0?,z0?) 處切線 M 0 T y M_{0}T_{y} M0?Ty? 對 y y y 軸的斜率，如圖9所示，

??【例12】求 f ( x , y ) = x 2 + 3 x y + y 2 f\left ( x,y \right )=x^{2}+3xy+y^{2} f(x,y)=x2+3xy+y2 在點 ( 1 , 2 ) (1,2) (1,2) 處的偏導數，并用 Python 編程求導，
??解：

【代碼如下】

>>> from sympy import *
>>> from sympy.abc import x,y,z,f
>>> f = x**2 + 3*x*y + y**2
>>> diff(f,x)   #對x求偏導
2*x + 3*y
>>> diff(f,y)	#對y求偏導
3*x + 2*y
>>> fx = diff(f,x)				#對x求偏導并將結果賦給fx
>>> fx.evalf(subs={x:1,y:2})	#以字典的形式傳入多個變數的值，求函式值
8.00000000000000
>>> fy = diff(f,y)
>>> fy.evalf(subs={x:1,y:2})
7.00000000000000