（4）ASP.NET Core3.1 Ocelot負載均衡

1.負載均衡

Ocelot可以在每個路由的可用下游服務中實作負載均衡，這使我們更有效地選擇下游服務來處理請求，負載均衡型別：
●LeastConnection：根據服務正在處理請求量的情況來決定哪個服務來處理新請求，即將新請求發送到具有最少現有請求的服務去處理，演算法狀態沒有分布在Ocelot集群中，
●RoundRobin：遍歷可用服務并發送請求，演算法狀態沒有分布在Ocelot集群中，
●NoLoadBalancer：從配置或服務發現中獲取第一個可用服務來處理新請求，
●CookieStickySessions：通過使用Cookie，確保特定的請求能夠被分配到特定的服務上進行處理，
在Ocelot負載均衡專案示例中，通過網關專案的路由LoadBalancerOptions選項可以配置負載均衡型別：

{
  "Routes": [
    {
      //下游路由服務地址
      "DownstreamPathTemplate": "/api/values",
      //下游服務地址訪問協議型別http或者https
      "DownstreamScheme": "http",
      //下游服務的主機和埠
      "DownstreamHostAndPorts": [
        {
          "Host": "localhost",
          "Port": 9001
        },
        {
          "Host": "localhost",
          "Port": 9002
        }
      ],
      //上游服務地址，即下游服務真實訪問地址
      "UpstreamPathTemplate": "/",
      //負載均衡型別：輪詢
      "LoadBalancerOptions": {
        "Type": "RoundRobin"
      },
      //上游服務HTTP請求方式，例如Get、Post
      "UpstreamHttpMethod": [ "Get" ]
    }
  ]
}

新請求通過上游訪問下游服務的時候，Ocelot會根據LoadBalancerOptions負載均衡選項型別來分發到具體下游服務，

2.服務發現

下面展示如何使用服務發現來設定路由：

{
    "DownstreamPathTemplate": "/api/posts/{postId}",
    "DownstreamScheme": "https",
    "UpstreamPathTemplate": "/posts/{postId}",
    "UpstreamHttpMethod": [ "Put" ],
    "ServiceName": "product",
    "LoadBalancerOptions": {
        "Type": "LeastConnection"
    }
}

設定此選項后，Ocelot將從服務發現提供程式中查找下游主機和埠，并在所有可用服務中進行負載平衡請求，如果您從服務發現提供者（領事）中添加和洗掉服務，Ocelot會停止呼叫已洗掉的服務，并開始呼叫已添加的服務，后續學習服務發現這塊知識點時候會重新再講解，

3.專案演示

3.1APIGateway專案

該專案通過LoadBalancerOptions配置選項定義服務負載均衡請求機制，事例專案使用的負載均衡型別是RoundRobin，在Program添加Ocelot支持代碼如下：

public static IWebHostBuilder CreateWebHostBuilder(string[] args) =>
    WebHost.CreateDefaultBuilder(args)
            //.UseStartup<Startup>()
            .UseUrls("http://*:9000")
            .ConfigureAppConfiguration((hostingContext, config) =>
        {
            config.SetBasePath(hostingContext.HostingEnvironment.ContentRootPath)
                //添加Ocelot組態檔
.AddJsonFile("configuration.json")
                .AddEnvironmentVariables();
        })
        .ConfigureServices(s =>
        {
            //添加Ocelot服務;
            s.AddOcelot();
        })
        .Configure(a =>
        {
　　　　//使用Ocelot
            a.UseOcelot().Wait();
        });

3.2APIServicesA和APIServicesB下游服務專案

APIServicesA和APIServicesB專案分別新建兩個GET請求方法，代碼分別如下：

//APIServicesA
[Route("api/[controller]")]
public class ValuesController : Controller
{
    // GET api/values
    [HttpGet]
    public string Get()
    {
        return "From APIServiceA";
    }
}
//APIServicesB
[Route("api/[controller]")]
public class ValuesController : Controller
{
    // GET api/values
    [HttpGet]
    public string Get()
    {
        return "From APIServiceB";
    }        
}

3.3專案運行

●通過dotnet run命令啟動APIGateway專案（網關層）

dotnet run --project APIGateway專案路徑\APIGateway.csproj

●通過dotnet run命令啟動APIServicesA專案

dotnet run --project APIServicesA專案路徑\APIServicesA.csproj

●通過dotnet run命令啟動APIServicesB專案

dotnet run --project APIServicesB專案路徑\APIServicesB.csproj

通過瀏覽器查看輪詢分發給下游服務回傳的結果：


負載均衡輪詢分發下游服務成功，

4.自定義負載均衡

Ocelot支持自定義負載均衡的方法，自定義負載均衡的類需要繼承ILoadBalancer介面類，下面我們定義一個簡單的負載均衡回圈輸出下游服務的示例：

public class CustomLoadBalancer : ILoadBalancer
{
    private readonly Func<Task<List<Service>>> _services;
    private readonly object _lock = new object();
    private int _last;

    public CustomLoadBalancer(Func<Task<List<Service>>> services)
    {
        _services = services;
    }
    public async Task<Response<ServiceHostAndPort>> Lease(HttpContext httpContext)
    {
        var services = await _services();
        lock (_lock)
        {
            if (_last >= services.Count)
            {
                _last = 0;
            }
            var next = services[_last];
            _last++;
            return new OkResponse<ServiceHostAndPort>(next.HostAndPort);
        }
    }
    public void Release(ServiceHostAndPort hostAndPort)
    {
    }
}

在Ocelot中注冊此類：

Func<IServiceProvider, DownstreamRoute, IServiceDiscoveryProvider, CustomLoadBalancer> loadBalancerFactoryFunc =
(serviceProvider, Route, serviceDiscoveryProvider) => new CustomLoadBalancer(serviceDiscoveryProvider.Get);
s.AddOcelot().AddCustomLoadBalancer(loadBalancerFactoryFunc);

最后在路由的LoadBalancerOptions配置選項上修改為CustomLoadBalancer自定義負載均衡類名：

"LoadBalancerOptions": {
  "Type": "CustomLoadBalancer"
}

運行專案除錯查看結果：
第一次請求時候分發到APIServicesA專案，

第二次請求時候分發到APIServicesB專案，

從上面結果來看，自定義負載均衡成功，

參考文獻：
Ocelot官網

標籤：.NET Core

上一篇：ABP框架中一對多，多對多關系的處理以及功能界面的處理（1）

下一篇：（4）ASP.NET Core3.1 Ocelot負載均衡