近期，騰訊云 Serverless 云函式發布了并發管理能力升級版，提供了 3 個維度的并發額度管理的功能，該功能究竟提供了哪些能力，有哪些使用場景？本文將為您全方位解讀并發管理功能，并對多種使用場景提供配置建議，
背景介紹
原先，創建一個函式，默認具有300的并發數量上限，針對小的低頻業務，300 的并發值足夠使用，但是遇到業務量上漲、支撐大型運營活動等大并發的情況，開發者就需要通過提工單聯系平臺方，申請提升函式并發額度，這樣可能導致：
- 每遇到一次大并發，就需要聯系一次平臺方來提升配額，時效性弱，
- 申請等待周期時會導致上漲的業務部分有損，
- 在評估量級時，也可能出現評估不足，導致需要再次申請，低效，
并發能力升級
相對于原有的函式默認固定的并發值，本次上線的并發管理能力，有以下方面的優化：
- 將單一函式的并發調整放開給了出來，用戶可以自行來控制并發數，
- 并發額度由單一的函式維度，移到了賬號維度，
- 賬號下默認具有一定的并發額度，由賬號下的函式所共享的，不需要單獨為其中一個大并發的函式申請額度，
因此，在當前的模式下，默認賬號具有的 128000 MB的額度，可以供 128 MB配置記憶體函式啟動運行1000個并發；在這種情況下，用戶無需去尋找平臺申請，就可以獲得比調整前更高的一個并發額度，用于支撐上漲的業務，
并發的處理
由于賬號級別的額度是在賬號下的多個函式間共享的，在多個函式同時運行的情況下，因為流量突增、業務上漲導致并發增高的函式在占用完全部空閑額度后，可能會和平穩運行的函式之間產生沖突，
這種情況下，有兩種解決方案：
一方面可以通過平臺申請提升更高的賬號額度，來滿足上漲業務帶來的并發上漲；
另外一方面，也可以通過將部分額度分配給具體函式，來保障具體函式的運行可靠性，
下面我將具體說一下第二種方式，舉個例子，在同樣的賬號下，函式 A 提供 H5 頁面用于秒殺的運營活動，函式 B 在進行后臺的流式資料處理，在 B 函式啟動了 300 并發進行業務處理時，運營活動會受限于 A 函式，最大僅能跑到 700 并發；而函式 A 的業務壓力下，如果 B 函式也有業務量上漲，將無配額可用導致無法啟動更多實體，
在上面的例子中，如果要保證 B 函式資料處理流程的可靠性，可以為這個函式設定到 350 的保留并發配額；此時，這個額度將從賬號維度劃給這個函式單獨使用，而運營活動所使用的 A 函式將僅僅可以最大使用的 650 并發的額度，函式 B 在設定到 350 的保留并發額度后，在業務持續上升后，最大也僅僅可以使用到配置的這個額度，此時，就算是賬號維度的額度仍然有剩余時，B 函式也無法去使用，
通過保留額度的設定，一方面，我們可以對函式的運行進行保障，避免多個函式共享額度時，由于其他業務的函式占用導致本函式無法運行產生損失，另外一方面，保留配額也定義了函式的運行額度上限，
因此，針對函式的并發管理控制，可以基于業務來進行更精細的控制，有以下三點建議：
- 針對開發測驗階段的函式，由于請求量小，無業務壓力，并發也極少，可以不配置保留額度而僅僅使用賬號維度的共享額度；
- 針對穩定運行的函式，并發通常是確定的，浮動范圍也不會很大，這個時候可以給這個函式設定稍微有一點余量的保留額度，來保障函式的額度不受共享的影響；
- 針對運營活動、有可能性突增并發的函式，可以利用賬號維度的高額度，來充分利用和支撐業務爆發，
當前預置額度的設定，是設定在函式的版本上，也是從賬號維度的并發配額或函式上的保留額度中扣減下來的，
通過設定預置額度可以預想啟動所需量的并發實體，完成實體的初始化并等待事件的到來，針對函式的請求將不會有冷啟動時間，直接就可以在已經完成準備、初始化完成的實體中得到運行，
在時延敏感的業務，例如前端的 SSR 頁面回應；或者是初始化時間較長的業務，例如 AI 推理的模型加載程序；這些場景下，通過給函式設定上一定的預置可以保障業務更好的運行，
同時，預置的配額也不是實體并發的上限，在業務量上漲到超過已經預置的實體可以承載的時候，函式平臺仍然會根據函式的保留配額或者是賬號的配額，拉起更多的實體來支持業務運行，
并發使用場景設定建議
一個賬號下有多個業務都在同時使用云函式進行支撐時，函式的并發配額就需要進行按需調度，根據不同的業務特性來進行合理合適的設定，
例如有波峰波谷的前端業務，有平穩運行波動不大的資料處理業務，有偶爾才運行一次的定時運維任務，也有并發不大但是計算量重、計算時間長的視頻處理業務；
在這些業務中，根據重要性、是否接受一定損失來說，又有不同的區分：前端業務保障用戶體驗，要求加載速度快，但是可以有一定的錯誤容忍度；資料處理的要求高，不能接收延遲、波動或失敗；定時運維任務偶爾運行，不用投入過多的關注，運行正常即可；而視頻處理業務，可以接受按需調度，失敗時能自動重試就行，
根據不同的業務特性、容錯額度、業務波動情況、時延要求，我們就可以按照不同的情況來進行不同的設定，上述幾項業務中，并發設定有以下幾點建議：
- 對前端業務來說，要求加載速度快，但是有波峰波谷，這種情況我們就可以為函式配置一定量的預置額度，例如按最大使用量的60%來設定，但是同時不設定函式的保留額度，確保在高峰到來時能充分利用總配額；
- 針對資料處理業務，波動不大但是容錯低，我們可以為函式配置一定量的保留額度，確保不會有其他業務使用的共享額度導致資料處理業務的問題；
- 運維任務定時運行，沒有高要求，可以不做任何配置，使用賬號維度的配額來處理就行；
- 針對視頻處理業務，計算量大，而且可以按需排隊處理任務，我們設定好一定的保留額度，讓業務跑滿并發額度，充分利用好且控制好計算資源，
保留配額另一種用法
保留配額還有另外一種用法——對業務的限制或關停，在有緊急事項發生，例如漏洞攻擊、回圈呼叫失控等情況出現時，為了避免有重大損失，可以通過設定保留配額，將額度控制在極小的值上來避免運行失控，甚至可以設定為 0 來關閉函式的運行，
記憶體和并發額度的關系
當前額度按記憶體進行計算，配置記憶體大的函式，并發運行時占用的額度多，而配置記憶體小的函式在多并發運行時占用的額度小；
由于函式服務的資源用量計費項和函式的配置記憶體強相關，通過記憶體進行額度控制，一方面可以讓我們盡量采用合適的記憶體來實作業務，另外一方面，針對整體的支出也可以進行有效的控制，
總結
通過提供多層次的并發配額管理能力，目前我們可以獲得更強的函式并發管理控制的權限，無需再等待平臺方的調整就可以自行根據業務需求快速調整，
目前并發管理功能已經上線，函式可以配置保留并發，同時預置并發功能也處于內測階段，歡迎大家申請試用，針對并發管理的更多場景、用法，也歡迎大家留言探討和反饋，
試用申請鏈接： https://cloud.tencent.com/apply/p/j1fl01i6f2i
One More Thing
立即體驗騰訊云 Serverless Demo，領取 Serverless 新用戶禮包 ?? serverless/start
歡迎訪問：Serverless 中文網！
轉載請註明出處，本文鏈接：https://www.uj5u.com/qita/251514.html
標籤：其他