主頁 >  其他 > Logistic Regression and its Maximum Likelihood Estimation

Logistic Regression and its Maximum Likelihood Estimation

2023-07-07 08:23:27 其他

從 Linear Regression 到 Logistic Regression

給定二維樣本資料集 \(D = \left\{ (\vec{x}_{1}, y_{1}), (\vec{x}_{2}, y_{2}), \ldots, (\vec{x}_{n}, y_{n}) \right\}\)，其中 \(\vec{x}_{1}, \ldots, \vec{x}_{n} \in X\) 為 \(d\) 維向量（即 \(X\) 的size 為 \(n \times d\)）, \(y_{1}, \ldots, y_{n} \in Y\)，我們希望得到一條直線 \(Y = X\beta + \varepsilon\) 來刻畫 \(X\) 和 \(Y\) 之間的一般關系，由于真實資料集存在隨機項 \(\varepsilon_{i} \sim N(0, \sigma^{2})\)，一般情況下這條直線不可能精準地穿過所有的資料點，因此我們希望它盡可能地貼近所有的資料點，如何定義這個 “盡可能地貼近”？數學上來說，我們通過求最小化均方誤差（MSE）來實作，即：


\[S = \mathop{\arg\min}_{\beta} || Y - \hat{Y}||^{2} = \mathop{\arg\min}_{\beta} || Y - X \beta ||^{2} \]


注意到運算式中的 \(X \beta\) 已經包含了直線的常數項，初學者可能會碰到的一個問題是，為什么上式中的最小化目標是 \(|| Y - X\beta ||^{2}\)，而不是 \(|| Y - X\beta - \varepsilon||^{2}\)？原因是，直線 \(Y = X \beta + \varepsilon\) 是我們的 model ground truth，我們容忍隨機變數 \(\varepsilon \sim N(0, \sigma^{2})\) 作為誤差存在，而誤差作為隨機項無法消除，是資料集本身的特性，并非是模型的問題，我們通過解以上最優化問題，能夠得到一個最優引數 \(\beta^{*}\)，反過來我們將 \(X\) 代入得到的模型 \(\hat{Y} = X \beta^{*}\)，此時的 \(\hat{Y}\) 代表著預測值，它會與 ground truth \(Y\) 產生一個殘差 \(e = Y - \hat{Y}\)，注意到 \(e\) 和 \(\varepsilon\) 在定義上是不同的，\(\varepsilon\) 是理論模型中的隨機變數，它是無法被描述為具體某個值的，而殘差 \(e\) 則是針對一系列已觀測的資料點根據線性回歸模型求出的具體值，


上述最優化問題的偏導求解如下：


\[\begin{align*} \frac{\partial S}{\partial \beta} & = \frac{\partial ||Y - X \beta||^{2}}{\partial \beta} \\ & = \frac{\partial (Y - X \beta)^{T} (Y - X \beta)}{\partial \beta} \\ & = -X^{T} (Y - X \beta) + \big[ (Y - X \beta)^{T} (-X) \big]^{T} \\ & = -2 X^{T}(Y - X \beta) \end{align*} \]


令 \(\frac{\partial S}{\partial \beta} = 0\)，即：


\[\begin{align*} & \frac{\partial S}{\partial \beta}= -2 X^{T} (Y - X \beta) = 0 \\ & \implies X^{T} Y = X^{T} X \beta \\ & \implies \beta^{*} = (X^{T} X)^{-1} X^{T} Y \end{align*} \]


因此，我們擬合出的直線 \(\hat{Y} = X \beta\) 可以直接寫作：


\[\hat{Y} = X \beta = X (X^{T} X)^{-1} X^{T} Y \]


Logistic Regression

這和 Logistic Regression 有何聯系呢？Logistic Regression 是一個二分類模型，對于每一個 \(\vec{x} \in X\) 我們希望根據 \(\vec{x}\) 得到其對應的 label \(y \in \left\{ 0, 1 \right\}\)，在離散空間上取值，一個思想是，我們設計一個中間函式 \(g(z) \in \left\{ 0, 1 \right\}\)，例如：


\[g(z) = \begin{cases} 0, \qquad z \leq 0 \\ 1, \qquad z > 0 \end{cases} \]


如此，我們便將連續的 \(z\) 轉換為二元取值 \(g(z)\)，再采取類似的方法優化 \(g\) 中的引數，使得預測結果貼近真實的 \(Y\)，然而如上設計的 \(g\) 并不連續，故而不可微，這并不符合廣義線性模型（GLM）的條件，我們希望這么一個中間函式 \(g\)，它的取值在 \((0, 1)\) 上，并且單調可微，因此便有了 sigmoid 函式的提出：


\[\sigma(z) = \frac{1}{1 + e^{-z}} \]


不難判斷出對于 \(\forall z \in \mathbb{R}: ~ \sigma(z) \in (0, 1)\)，且 \(\sigma(z)\) 在 \(\mathbb{R}\) 上單調遞增且可微，我們令：


\[\begin{align*} & y = \sigma(z) = \frac{1}{1 + e^{-z}}\\ & z = \vec{w}^{T} \vec{x} + b \\ \implies & y = \frac{1}{1 + e^{-(\vec{w}^{T} \vec{x} + b)}} \end{align*} \]


我們發現，對于輸入任意的 \(\vec{x} \in X\)，sigmoid 函式先將 \(\vec{x}\) 轉化為一個取值在 \((0, 1)\) 上的標量，除此之外還有：


\[\begin{align*} & \ln \frac{y}{1-y} = \ln \big( e^{\vec{w}^{T} \vec{x} + b} \big) = \vec{w}^{T}\vec{x} + b \\ \implies & \ln \frac{y}{1-y} = \vec{w}^{T}\vec{x} + b \end{align*} \]


這樣等式的右邊又回到 Linear Regression 的簡單結構，


Maximum Likelihood Estimation

我們會發現存在這么一個問題，即，資料集最終的 label 取值在 \(\left\{ 0, 1 \right\}\) 中，為離散值，而經由 sigmoid 計算得到的值卻在 \((0, 1)\) 間連續取值，這個問題的解決辦法是，我們不再將 sigmoid 函式生成的值（\(y\)）視作 label，而是視作 “對于給定的 \(\vec{x}\)，其 label 為 \(y=1\)” 的概率，即：


\[y = P(y=1 ~ | ~ \vec{x}) \\ \ln \frac{P(y=1 ~ | ~ \vec{x})}{1 - P(y=1 ~ | ~ \vec{x})} = \ln \frac{P(y=1 ~ | ~ \vec{x})}{P(y=0 ~ | ~ \vec{x})} = \vec{w}^{T} \vec{x} + b \]


注意到以上第一個式子中等式兩邊的 \(y\) 的含義并不相同，等式左側的 \(y\) 代表著 “對于給定的 \(\vec{x}\) 其 label 為 \(1\) 的概率”，而等式右邊的 \(y\) 為真實 label \(\in \left\{ 0, 1 \right\}\)，


我們會發現，由 total probability：\(P(y=1 ~ | ~ \vec{x}) + P(y=0 ~ | ~ \vec{x}) = 1\)，\(\frac{P(y=1 ~ | ~ \vec{x})}{P(y=0 ~ | ~ \vec{x})}\) 在 \(P(y=1 ~ | ~ \vec{x})\) 較大（\(P(y=0 ~ | ~ \vec{x})\) 較小）時較大，極端情況下將趨于正無窮，對數值也將趨于正無窮；相反，在 \(P(y = 1 ~ | ~ \vec{x})\) 較小（\(P(y=0 ~ | ~ \vec{x})\) 較小）時較小，極端情況下將趨于 \(0\)，對數值將趨于負無窮，當模型無法判斷對于一個 \(\vec{x}\) 其 label 更偏向于 \(0\) 還是 \(1\) 時，此時 \(P(y=1 ~ | ~ \vec{x}) = P(y=0 ~ | ~ \vec{x}) = 0.5\)，使得對數值為 \(0\)，因此，在這種假設下，當訓練好的模型計算的 \(\vec{w}^{T} \vec{x} + b > 0\)，模型將認為其 label 為 \(1\)；相反，當 \(\vec{w}^{T} \vec{x} + b < 0\) 時模型認為其 label 為 \(0\)，


在這種情況下，顯然：


\[\begin{align*} & P(y=1 ~ | ~ \vec{x}) = \frac{1}{1 + e^{-(\vec{w}^{T} \vec{x} + b)}} = \frac{e^{\vec{w}^{T} \vec{x} + b}}{1 + e^{\vec{w}^{T} \vec{x} + b}} \\ & P(y=0 ~ | ~ \vec{x}) = 1 - P(y=1 ~ | ~ \vec{x}) = \frac{1}{1 + e^{\vec{w}^{T} \vec{x} + b}} \\ \end{align*} \]


我們希望對于擁有真實 label \(y_{i} = 1\) 的所有 \(\vec{x}\)，模型得到的 \(P(y = 1 ~ | ~ \vec{x}; \vec{w}, b)\) 越大越好，即：


\[\quad \prod\limits_{\vec{x_{i}} ~ s.t. ~ y_{i}=1} P(y = 1 ~ | ~ \vec{x_{i}}; \vec{w}, b) \]


同理，對于擁有真實 label \(y_{i} = 0\) 的所有 \(\vec{x}\)，模型得到的 \(P(y=0 ~ | ~ \vec{x}; \vec{w}, b)\) 越大越好，即：


\[\prod\limits_{\vec{x_{i}} ~ s.t. ~ y_{i}=0} P(y=0 ~ | ~ \vec{x_{i}}; \vec{w}, b) = \prod\limits_{\vec{x_{i}} ~ s.t. ~ y_{i}=0} \Big(1 - P(y=1 ~ | ~ \vec{x_{i}}; \vec{w}, b) \Big) \]


如何將以上兩個目標統一起來（將兩個式子寫入一個式子中，使得該式擺脫對下標 \(y_{i}\) 的依賴）呢？即，我們希望建立一個式子 \(P(y = y_{i} ~ | ~ \vec{x_{i}}; \vec{w}, b)\)，表示對于任意 \(\vec{x_{i}} \in X\) 以及真實 label \(y_{i} \in \left\{ 0, 1 \right\}\)，模型預測成功（\(y = y_{i}\)）的概率，當這個綜合運算式被建立后，我們便可以通過最大似然估計（MLE）求出在訓練集上最優的引數 \(\vec{w}, b\)，即：


\[\max \quad \prod\limits_{i} P(y = y_{i} ~ | ~ \vec{x_{i}}, \vec{w}, b) \]


周志華的《機器學習》里提到這么一種構建方法：


\[P(y_{i} ~ | ~ \vec{x_{i}}; \vec{w}, b) = y_{i} P(y=1 ~ | ~ \vec{x_{i}}; \vec{w}, b) + (1 - y_{i}) P(y = 0 ~ | ~ \vec{x_{i}}; \vec{w}, b) \]


這樣構建能夠滿足我們的目標，即：當 \(y_{i} = 1\) 時，\(P(y_{i} ~ | ~ \vec{x_{i}}; \vec{w}, b) = P(y=1 ~ | ~ \vec{x_{i}}; \vec{w}, b)\)；當 \(y_{i} = 0\) 時，\(P(y_{i} ~ | ~ \vec{x_{i}}; \vec{w}, b) = P(y = 0 ~ | ~ \vec{x_{i}}; \vec{w}, b)\)，但是，這樣會使得 MLE 求解變得復雜：


\[\begin{align*} \max\limits_{\vec{w}, b} L(\vec{w}, b) & = \max\limits_{\vec{w}, b} \quad \prod\limits_{i} \big( y_{i} P(y=1 ~ | ~ \vec{x_{i}}; \vec{w}, b) + (1 - y_{i}) P(y = 0 ~ | ~ \vec{x_{i}}; \vec{w}, b) \big) \\ & = \max\limits_{\vec{w}, b} \quad \prod\limits_{i} \big( y_{i} \frac{e^{\vec{w}^{T} \vec{x} + b}}{1 + e^{\vec{w}^{T} \vec{x} + b}} + (1 - y_{i}) \frac{1}{1 + e^{\vec{w}^{T} \vec{x} + b}} \big) \end{align*} \]


哪怕取對數似然：


\[\begin{align*} \max\limits_{\vec{w}, b} l(\vec{w}, b) & = \max\limits_{\vec{w}, b} \quad \ln \Big( \prod\limits_{i} \big( y_{i} P(y=1 ~ | ~ \vec{x_{i}}; \vec{w}, b) + (1 - y_{i}) P(y = 0 ~ | ~ \vec{x_{i}}; \vec{w}, b) \big) \Big) \\ & = \max\limits_{\vec{w}, b} \quad \ln \Big( \prod\limits_{i} \big( y_{i} \frac{e^{\vec{w}^{T} \vec{x} + b}}{1 + e^{\vec{w}^{T} \vec{x} + b}} + (1 - y_{i}) \frac{1}{1 + e^{\vec{w}^{T} \vec{x} + b}} \big) \Big) \\ & = \max\limits_{\vec{w}, b} \quad \sum\limits_{i} \ln \big( y_{i} \frac{e^{\vec{w}^{T} \vec{x} + b}}{1 + e^{\vec{w}^{T} \vec{x} + b}} + (1 - y_{i}) \frac{1}{1 + e^{\vec{w}^{T} \vec{x} + b}} \big) \\ & = \max\limits_{\vec{w}, b} \quad \sum\limits_{i} \ln \frac{y_{i} e^{\vec{w}^{T} \vec{x} + b} + 1 - y_{i}}{1 + e^{\vec{w}^{T} \vec{x} + b}} \\ & = \max\limits_{\vec{w}, b} \quad \sum\limits_{i} \big( \ln (y_{i} e^{\vec{w}^{T} \vec{x} + b} + 1 - y_{i}) - \ln (1 + e^{\vec{w}^{T} \vec{x} + b}) \big) \end{align*} \]


并不能直接得到書中的目標結果：


\[\min\limits_{\vec{w}, b} \quad \sum\limits_{i} \big( -y_{i} (\vec{w}^{T} \vec{x} + b) + \ln (1 + e^{\vec{w}^{T} \vec{x} + b}) \big) \]


一個更好的 \(P(y_{i} ~ | ~ \vec{x_{i}}; \vec{w}, b)\) 設計方法是：


\[P(y_{i} ~ | ~ \vec{x_{i}}; \vec{w}, b) = P(y=1 ~ | ~ \vec{x_{i}}; \vec{w}, b)^{y_{i}} \cdot P(y = 0 ~ | ~ \vec{x_{i}}; \vec{w}, b)^{1 - y_{i}} \]


這種形式也能滿足我們上述的要求，并且我們對引數求解 MLE：


\[\begin{align*} \max\limits_{\vec{w}, b} l(\vec{w}, b) & = \max\limits_{\vec{w}, b} \quad \ln \prod\limits_{i} \big( P(y=1 ~ | ~ \vec{x_{i}}; \vec{w}, b)^{y_{i}} \cdot P(y = 0 ~ | ~ \vec{x_{i}}; \vec{w}, b)^{1 - y_{i}} \big) \\ & = \max\limits_{\vec{w}, b} \quad \sum\limits_{i} \ln \big( P(y=1 ~ | ~ \vec{x_{i}}; \vec{w}, b)^{y_{i}} \cdot P(y = 0 ~ | ~ \vec{x_{i}}; \vec{w}, b)^{1 - y_{i}} \big) \\ & = \max\limits_{\vec{w}, b} \quad \sum\limits_{i} \big( y_{i} \ln P(y=1 ~ | ~ \vec{x_{i}}; \vec{w}, b) + (1 - y_{i}) \ln P(y = 0 ~ | ~ \vec{x_{i}}; \vec{w}, b) \big) \\ & = \max\limits_{\vec{w}, b} \quad \sum\limits_{i} \big( y_{i} \ln \frac{e^{\vec{w}^{T} \vec{x} + b}}{1 + e^{\vec{w}^{T} \vec{x} + b}} + (1 - y_{i}) \ln \frac{1}{1 + e^{\vec{w}^{T} \vec{x} + b}} \big) \\ & = \max\limits_{\vec{w}, b} \quad \sum\limits_{i} \big( y_{i} (\vec{w}^{T} \vec{x} + b) - y_{i} \ln (1 + e^{\vec{w}^{T} \vec{x} + b}) + (y_{i} - 1) \ln (1 + e^{\vec{w}^{T}\vec{x} + b}) \big) \\ & = \max\limits_{\vec{w}, b} \quad \sum\limits_{i} \big( y_{i} (\vec{w}^{T} \vec{x} + b) - \ln (1 + e^{\vec{w}^{T} \vec{x} + b}) \big) \\ & = \min\limits_{\vec{w}, b} \quad \sum\limits_{i} \big( - y_{i} (\vec{w}^{T} \vec{x} + b) + \ln (1 + e^{\vec{w}^{T} \vec{x} + b}) \big) \end{align*} \]


即為書中所求，

本文來自博客園，作者：車天健，轉載請注明原文鏈接：https://www.cnblogs.com/chetianjian/p/17532510.html

轉載請註明出處，本文鏈接：https://www.uj5u.com/qita/556719.html

標籤：其他

上一篇：Sentieon安裝時 jemalloc error 解決辦法

下一篇：返回列表

標籤雲
其他(162162) Python(38266) JavaScript(25524) Java(18291) C(15238) 區塊鏈(8275) C＃(7972) AI(7469) 爪哇(7425) MySQL(7288) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5876) 数组(5741) R(5409) Linux(5347) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4613) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2438) ASP.NET(2404) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) HtmlCss(1989) .NET技术(1985) 功能(1967) Web開發(1951) C++(1942) python-3.x(1918) 弹簧靴(1913) xml(1889) PostgreSQL(1882) .NETCore(1863) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 網閘典型架構簡述

    網閘架構一般分為兩種：三主機的三系統架構網閘和雙主機的2+1架構網閘。 三主機架構分別為內端機、外端機和仲裁機。三機無論從軟體和硬體上均各自獨立。首先從硬體上來看，三機都用各自獨立的主板、記憶體及存盤設備。從軟體上來看，三機有各自獨立的作業系統。這樣能達到完全的三機獨立。對于“2+1”系統，“2”分為 ......

    uj5u.com 2020-09-10 02:00:44 more
  • 如何從xshell上傳檔案到centos linux虛擬機里

    如何從xshell上傳檔案到centos linux虛擬機里及：虛擬機CentOs下執行 yum -y install lrzsz命令，出現錯誤：鏡像無法找到軟體包 前言 一、安裝lrzsz步驟 二、上傳檔案 三、遇到的問題及解決方案 總結 前言 提示：其實很簡單，往虛擬機上安裝一個上傳檔案的工具 ......

    uj5u.com 2020-09-10 02:00:47 more
  • 一、SQLMAP入門

    一、SQLMAP入門 1、判斷是否存在注入 sqlmap.py -u 網址/id=1 id=1不可缺少。當注入點后面的引數大于兩個時。需要加雙引號， sqlmap.py -u "網址/id=1&uid=1" 2、判斷文本中的請求是否存在注入 從文本中加載http請求，SQLMAP可以從一個文本檔案中 ......

    uj5u.com 2020-09-10 02:00:50 more
  • Metasploit 簡單使用教程

    metasploit 簡單使用教程 浩先生， 2020-08-28 16:18:25 分類專欄： kail 網路安全 linux 文章標簽： linux資訊安全 編輯 著作權 metasploit 使用教程 前言 一、Metasploit是什么？ 二、準備作業 三、具體步驟 前言 Msfconsole ......

    uj5u.com 2020-09-10 02:00:53 more
  • 游戲逆向之驅動層與用戶層通訊

    驅動層代碼： #pragma once #include <ntifs.h> #define add_code CTL_CODE(FILE_DEVICE_UNKNOWN,0x800,METHOD_BUFFERED,FILE_ANY_ACCESS) /* 更多游戲逆向視頻www.yxfzedu.com ......

    uj5u.com 2020-09-10 02:00:56 more
  • 北斗電力時鐘（北斗授時服務器）讓網路資料更精準

    北斗電力時鐘（北斗授時服務器）讓網路資料更精準 北斗電力時鐘（北斗授時服務器）讓網路資料更精準 京準電子科技官微——ahjzsz 近幾年，資訊技術的得了快速發展，互聯網在逐漸普及，其在人們生活和生產中都得到了廣泛應用，并且取得了不錯的應用效果。計算機網路資訊在電力系統中的應用，一方面使電力系統的運行 ......

    uj5u.com 2020-09-10 02:01:03 more
  • 【CTF】CTFHub 技能樹 彩蛋 writeup

    ?碎碎念 CTFHub：https://www.ctfhub.com/ 筆者入門CTF時時剛開始刷的是bugku的舊平臺，后來才有了CTFHub。 感覺不論是網頁UI設計，還是題目質量，賽事跟蹤，工具軟體都做得很不錯。 而且因為獨到的金幣制度的確讓人有一種想去刷題賺金幣的感覺。 個人還是非常喜歡這個 ......

    uj5u.com 2020-09-10 02:04:05 more
  • 02windows基礎操作

    我學到了一下幾點 Windows系統目錄結構與滲透的作用 常見Windows的服務詳解 Windows埠詳解 常用的Windows注冊表詳解 hacker DOS命令詳解（net user / type /md /rd/ dir /cd /net use copy、批處理 等） 利用dos命令制作 ......

    uj5u.com 2020-09-10 02:04:18 more
  • 03.Linux基礎操作

    我學到了以下幾點 01Linux系統介紹02系統安裝，密碼啊破解03Linux常用命令04LAMP 01LINUX windows： win03 8 12 16 19 配置不繁瑣 Linux：redhat,centos(紅帽社區版)，Ubuntu server,suse unix:金融機構，證券，銀 ......

    uj5u.com 2020-09-10 02:04:30 more
  • 05HTML

    01HTML介紹 02頭部標簽講解03基礎標簽講解04表單標簽講解 HTML前段語言 js1.了解代碼2.根據代碼 懂得挖掘漏洞 （POST注入/XSS漏洞上傳）3.黑帽seo 白帽seo 客戶網站被黑帽植入劫持代碼如何處理4.熟悉html表單 <html><head><title>TDK標題，描述 ......

    uj5u.com 2020-09-10 02:04:36 more
最新发布
  • Logistic Regression and its Maximum Likelihood Estimation

    # 從 Linear Regression 到 Logistic Regression 給定二維樣本資料集 $D = \left\{ (\vec{x}_{1}, y_{1}), (\vec{x}_{2}, y_{2}), \ldots, (\vec{x}_{n}, y_{n}) \right\}$， ......

    uj5u.com 2023-07-07 08:23:27 more
  • Sentieon安裝時 jemalloc error 解決辦法

    背景 Sentieon建議使用jemalloc來改善Sentieon應用程式中的記憶體管理和整體性能，尤其是Sentieon bwa-mem。有時在安裝運行程序中會出現報錯： ERROR: ld.so: object '/usr/lib64/libjemalloc.so.2' from LD_PREL ......

    uj5u.com 2023-07-07 08:23:23 more
  • 使用Stable Diffusion生成藝術二維碼

    使用Stable Diffusion生成藝術二維碼是一個有趣且富有創意的程序，它將藝術與技術相結合，為我們提供了一種全新的方式來表達和傳遞資訊 ......

    uj5u.com 2023-07-07 08:22:50 more
  • 實體講解看nsenter帶你“上帝視角”看網路

    摘要：本文重點關注進入目標行程的“網路ns”視角，即站在「容器中的行程視角」看待容器里面的網路世界，并在那個視角中執行命令。 本文分享自華為云社區《《跟唐老師學習云網路》 - nsenter魔法棒》，作者：tsjsdbd 。 有時候Docker容器中缺少需要的軟體。比如 curl，wget，ifco ......

    uj5u.com 2023-07-07 08:22:40 more
  • 山河大學：一所跨越山河，笑對未來的大學

    在高考分數剛剛出爐的時候，一所名為“山河大學”的虛構高校在網上火了起來。這個想法源于網友的玩笑，面對山東、山西、河南、河北四個省份的本科錄取率低的問題，他們提出如果每個考生都拿出1000元，總共三十多億，就可以打造出一所四省交界的綜合性大學，面向“山河四省”招生。 ......

    uj5u.com 2023-07-07 08:22:31 more
  • JavaScript實作合并排序演算法詳解

    JavaScript實作歸并排序演算法詳解 說明 歸并排序（Merge Sort）演算法，也叫合并排序，是創建在歸并操作上的一種有效的排序演算法。演算法是采用分治法（Divide and Conquer）的一個非常典型的應用，且各層分治遞回可以同時進行。歸并排序思路簡單，速度僅次于快速排序，為穩定排序演算法， ......

    uj5u.com 2023-07-07 08:22:25 more
  • 極限科技受邀參加 2023 可信資料庫發展大會并入選 “中國資料庫

    7 月 4-5 日，由中國資訊通信研究院（以下簡稱"中國信通院"）、中國通信標準化協會主辦，中國通信標準化協會大資料技術標準推進委員會承辦，InfoQ 聯合主辦的 "2023 可信資料庫發展大會" 主論壇在北京國際會議中心隆重召開。 中國通信標準化協會副理事長兼秘書長代曉慧以視頻方式致辭，中國資訊通 ......

    uj5u.com 2023-07-07 08:22:09 more
  • 在idea/webstorm等terminal運行命令報錯：Command rejected by the

    在idea/webstorm等編譯器terminal視窗運行命令報錯：Command rejected by the operating system沒有權限，Command rejected by the operating system ......

    uj5u.com 2023-07-07 08:16:48 more
  • 淺談 JEP290

    JEP290 是 Java 底層為了緩解反序列化攻擊提出的一種解決方案，主要做了以下幾件事：1、提供一個限制反序列化類的機制，白名單或者黑名單。2、限制反序列化的深度和復雜度。3、為 RMI 遠程呼叫物件提供了一個驗證類的機制。4、定義一個可配置的過濾機制，比如可以通過配置 properties 文... ......

    uj5u.com 2023-07-07 08:06:39 more
  • Logistic Regression and its Maximum Likelihood Estimation

    # 從 Linear Regression 到 Logistic Regression 給定二維樣本資料集 $D = \left\{ (\vec{x}_{1}, y_{1}), (\vec{x}_{2}, y_{2}), \ldots, (\vec{x}_{n}, y_{n}) \right\}$， ......

    uj5u.com 2023-07-07 08:04:52 more

Copyright © 2010-2020 有解無憂