Serverless Kubernetes 再升級 | 全新的網關能力增強

作者：元毅、如葑

Kubernetes 作為當今云原生業界標準，被眾多開發者所擁抱，Serverless Kubernetes 基于 Kubernetes 之上，提供按需使用、節點免運維的 Serverless 能力，當前 Serverless Kubernetes 中默認提供 Nginx Ingress Controller 已不能滿足按需使用、免運維的訴求，Serverless Kubernetes 與 ALB 結合提供按需使用、免運維的云產品網關能力，同時在微服務場景下提供 MSE 云原生網關能力支持，這里給大家介紹一下如何在 Serverless Kubernetes 中提供網關能力增強，

背景

Serverless Kubernetes (ASK)

ASK 集群是阿里云推出的無服務器 Kubernetes 容器服務，您無需購買節點即可直接部署容器應用，無需對集群進行節點維護和容量規劃，并且根據應用配置的 CPU 和記憶體資源量進行按需付費，ASK 集群提供完善的 Kubernetes 兼容能力，同時降低了 Kubernetes 使用門檻，讓您更專注于應用程式，而不是管理底層基礎設施，

在 Kubernetes 上實作 Serverless 主要做到以下兩點：

第一：線上如何更聚焦業務應用，

這里我們通過 Knative ，聚焦業務應用，進一步抽象 Kubernetes 資源，提供按需使用自動彈性的能力，Knative 是基于 Kubernetes 之上提供的一款開源 Serverless 應用框架，幫助您部署和管理現代化的 Serverless 作業負載，打造企業級 Serverless 平臺，

Knative 主要包括 2 大核心模塊：Serving 和 Eventing

? Serving 提供了 Service 應用模型，支持基于流量的灰度發布、版本管理、縮容到 0 以及自動彈性，

? Eventing 提供事件驅動能力，支持豐富的事件源，以及用于事件流轉、過濾的 Broker/Trigger 模型，

第二：向下如何讓用戶減少對基礎設施的關注

通過 IaaS 資源免運維，減少對基礎設施的關注，做到節點免運維，在 Serverless Kubernetes 中通過虛擬節點結合彈性容器實體 ECI，讓用戶徹底擺脫對 IaaS 的運維，

使用默認網關遇到的痛點

聊完了什么是 Serverless Kubernetes, 我們接著說當前在 ASK 中使用默認網關遇到哪些問題，當前在 ASK 中默認使用 Nginx Ingress, 但是用戶需要面對如下問題：

? 自有組件，維護升級
? 手動配置彈性策略
? 手動性能調優

顯然滿足不了 Serverless 按需使用、節點免運維的訴求，那么接下來我們講一下如何在Serverless Kubernetes 進行網關增強，

Knative 與 ALB

ALB

應用型負載均衡 ALB（Application Load Balancer）是阿里云推出的專門面向 HTTP、HTTPS 和 QUIC 等應用層負載場景的負載均衡服務，具備超強彈性及大規模應用層流量處理能力，ALB 具備處理復雜業務路由的能力，與云原生相關服務深度集成，提供的云原生 Ingress 網關，

應用型負載均衡 ALB 具有即開即用，超大性能，穩定可靠，彈性伸縮，按需付費等特點，更加適合 7 層應用交付場景，

應用型負載均衡 ALB 面向 7 層，支持 HTTP/HTTPS/HTTP2/WSS/QUIC/GRPC 等眾多協議，單實體可支持高達 100 萬 QPS，業界性能遙遙領先，

產品優勢
相較于傳統負載均衡（原 SLB），ALB 在產品定位、性能、功能特性、運維以及云原生支持方面具備如下優勢：

彈性增強

ALB 從 0 升級到 100 萬 QPS，平滑無感，無需額外操作，且完全按量付費，

性能增強

如何做到比 SLB 更強的性能，主要源于多級負載、多級調度：

?提供域名，單實體支持多達 99 個 VIP，多級流量調度，

?根據流量的增長在 AZ 間智能化擴縮，用戶無需感知，

?流量在所有 AZ 所有 RS 上均勻、打散調度，防止雪崩效應，

運維增強

? 基于海量大資料計算能力打造的實時訪問日志中心

? 高精度實時流量秒級監控，陡增陡降，尖峰突刺一覽無余，

? 實體配置管理，向 git 一樣管理配置并可一鍵回滾，

ALB Ingress Controller

顯示結合 ALB 自身產品優勢，我們如何與 Kubernetes 結合使用呢？這里我們提供 cloud provider：ALB Ingress Controller，通過 Kubernetes Ingress 直接創建 ALB 實體與規則，實作 Kubernetes 與 ALB 的集成，

ALB Ingress Controller 通過 API Server 獲取 Ingress 資源的變化，動態地生成 AlbConfig，然后依次創建 ALB 實體、監聽、路由轉發規則以及后端服務器組，Kubernetes 中 Service、Ingress 與 AlbConfig 有著以下關系：

? Service 是后端真實服務的抽象，一個 Service 可以代表多個相同的后端服務，

? Ingress 是反向代理規則，用來規定 HTTP/HTTPS 請求應該被轉發到哪個 Service 上，例如：根據請求中不同的 Host 和 URL 路徑，讓請求轉發到不同的 Service 上，

? AlbConfig 是在 ALB Ingress Controller 提供的 CRD 資源，使用 AlbConfig CRD 來配置 ALB 實體和監聽，一個 AlbConfig 對應一個 ALB 實體，

?豐富的轉發特性

1. 基于 Header、Cookie 轉發，
2. 域名 URL 轉發：支持根據不同的域名和 URL 進行流量調度，提升應用系統靈活性，

?高彈性大吞吐

1. 性能保障型實體：推出性能保障型實體，實作不同實體間的性能隔離，提供相應規格下的性能保障，
2. 超大性能規格：針對高性能需求，提供超大規格的負載均衡實體，解決性能瓶頸問題，

?面向云原生應用

1. 基于原生 Kubernetes Ingress
2. 天然支持阿里云容器服務 Kubernetes 產品
3. 兼容 Nginx Ingress 語意

?更安全可靠

1. ALB 自帶 DDoS 防護，可一鍵集成 Web 應用防火墻，
2. 集成 WAF 防護能力
3. 支持持全鏈路 HTTPS 加密，支持 TLS 1.3 等高效安全的加密協議，

ALB Ingress Controller 架構

ALB Ingress Controller 架構如下：

實體級別配置
?自定義 CR：ALBConfig

并發控制
?同一個 Lb 串行變配，不同 Lb 并行變配，
?同一個 RsPool 串行變配，不同 RsPool 并行變配，
?Lb 變配和 Rs 變配相互獨立

限速控制
?Controller 同時處理的 Lb 變配和 Rs 變配分別可配置
?Controller 每秒處理的 Lb 變配和 Rs 變配分別可配置
?當 Lb 變配或 Rs 變配失敗，重新 Reconcile 的時間控制、重試次數、重試間隔分別可以配置，

Knative 流量管理

那么有了這個橋梁，我們可以很方便的將 ALB 作為 Knative 網關使用，這里我們先介紹一下 Knative 的流量管理，

Knative 提供了強大的流量管理能力，包括：基于流量的灰度發布、基于流量的自動彈性以及請求事件驅動的能力，

Knative 結合 ALB 的實作

接下來我們看一下 Knative 結合 ALB 的實作，這里關鍵設計：將 Knative Ingress 轉換成 Kubernetes Ingress， 然后通過 ALB Ingress Controller 創建 ALB 以及轉發規則，

Knative 與 ALB 結合優勢

那么 Knative 與 ALB 結合給我們帶來了哪些呢？

? 網關全托管、免運維
? 基于流量彈性
? Header/Cookie/權重灰度發布
? 自動證書發現

MSE 云原生網關

在虛擬化的微服務架構下，業務通常采用流量網關 + 微服務網關的兩層架構，流量網關負責南北向流量調度和安全防護，微服務網關負責東西向流量調度和服務治理，而在容器和 Kubernetes 主導的云原生時代，Ingress 成為 Kubernetes 生態的網關標準，賦予了網關新的使命，使得流量網關 + 微服務網關合二為一成為可能，MSE 云原生網關是兼容 Kubernetes Ingress 標準的下一代網關，將傳統的流量網關和微服務網關合并，降低 50%資源成本，

MSE 云原生網關 - 與 ASK 集成支持微服務能力

云原生網關默認集成了容器服務 ASK，支持一鍵匯入 Kubernetes 服務且自動同步 Endpoint；且自研 Multi-Ingress Controller 組件支持多 ASK 集群復用同一個網關實體，支持 Nginx Ingress 核心功能注解的無縫轉換，這里只做簡單的介紹，更多 MSE 云原生網關內容，可以關注后續的專門介紹，

使用場景

Serverless Kubernetes 目前支持的場景包括高彈性互聯網場景、視音頻行業低延遲場景、面向云原生應用場景等按需使用場景，結合 ALB 網關，可以實作新功能上線灰度發布，業務流量仿真，結合 MSE 云原生網關，可以在微服務架構最后實作快速服務發現，

小結

Severless Kubernetes 網關增強:
?Knative 與 ALB 集成，提供更應用感知 Serverless，
?支持 MSE 云原生網關，提供微服務場景能力，

聯系我們

歡迎加入以下釘釘群，有興趣的可以多多交流：

發布云原生技術最新資訊、匯集云原生技術最全內容，定期舉辦云原生活動、直播，阿里產品及用戶最佳實踐發布，與你并肩探索云原生技術點滴，分享你需要的云原生內容，

關注【阿里巴巴云原生】公眾號，獲取更多云原生實時資訊！

標籤：其他

上一篇：讓計算機教育因云而變，阿里云正式發布云原生人才培養合作計劃

下一篇：云原生愛好者周刊：誰開發的軟體，誰負責運維