主頁 >  其他 > ML-Agents(五)GridWorld

ML-Agents(五)GridWorld

2020-09-14 21:30:18 其他

?[TOC]

ML-Agents(五)GridWorld

GridWorld這個例子比較有意思,它還是運用了Reinforcement Learning來進行學習的,不同的是它運用了視覺觀察值(Visual Observations)來訓練agent,

GirdWorld

如上圖所示,Agent就是藍色的方塊,每次它可以移動一格(上、下、左、右),要求不能碰到紅叉,最終到達綠色加號目標,

Visual Observations

先來了解一下視覺觀察值是怎么回事,在ml-agents里主要通過CameraSensorRenderTextureSensor兩種方式來向Agent提供視覺觀察,通過這兩個組件收集的影像資訊輸入到agent policy的CNN(卷積神經網路)中,這使得agent可以從觀察影像的影像規律中學習,Agent可以同時使用視覺觀察值( Visual Observations)和矢量觀察值( Vector Observations),

使用視覺觀察可以使得Agent可以捕獲任意復雜的狀態,并且在難以用數字描述的狀態時非常有用,當然,視覺觀察訓練相比矢量觀察訓練,效率低、速度慢,而且有時完全不能成功,因此,只有當使用vector observations或者ray-cast observations(之后會研究到,是射線觀察)不能解決問題時,才使用visual observations,

視覺觀察結果可以從場景中的Cameras或者RenderTextures獲得,為了給agent添加視覺觀察組件,需要在agent上添加Camera Sensor Component或者Render Texture Sensor Component組件,然后將Camera或者RenderTexture拖入相應的地方(如下圖),同時給一個Agent可以加一個以上的camera或者render texture組件,甚至可以兩種組件進行組合,對于每個視覺觀察組件,需要設定影像的寬度和高度(以像素為單位),以及觀察值是彩色還是灰色,

image-20200401205407821

使用相同策略的Agent必須有相同數量的visual observations,并且這些視覺組件需要有相同的解析度(包括灰度設定),另外,在Agent的Sensor Component必須有自己單獨的Sensor Name以便可以確定地對其排序(名稱對于該Agent必須是唯一的,但是多個Agent可以具有同名的Sensor組件),

當使用Render Texture Sensor Component組件時,可以利用Canvas來除錯,需要將在Canvas下建立帶有Raw Image組件的物體,然后將Agent的RenderTexture設定到Raw Image的Texture中,例如下圖,

image-20200402200756322

Grid World示例則是展示了怎樣去使用RenderTexture組件去除錯和觀察,注意,在此示例中,將Camera渲染為RenderTexture,然后將其用于觀察和除錯,為了更新RenderTexture,Camera必須在代碼中要求每次做出決定時,都需要進行畫面渲染,當直接使用Camera作為觀察值時,Agent會自動完成此操作,

  • Visual Observation總結&最佳實踐
    • 為了收集視覺觀察值,需要給GameObject添加CameraSensor組件或RenderTextureSensor組件
    • 除非vector observations不充分,否則通常應使用visual observation
    • Image的大小應該盡可能小,不丟失決策所需的細節
    • 對于不需要顏色資訊來做出決策的情況下,Image應該使用Greyscale(灰度圖)

Masking Discrete Actions

除了Visual Observation,在這個示例中還使用了action mask,下面也先來介紹一下這個概念,

當我們使用離散動作反饋(Discrete Actions)時,可以指定某些動作對于下一決策是不可能發生的,即當Agent被神經網路控制時,agent將無法執行指定的操作,注意,當agent被人為控制時(Heuristic Type),agent仍然能夠決定執行被屏蔽的操作,為了屏蔽某些動作,需要在Agent腳本中重寫Agent.CollectDiscreteActionMasks()虛函式,同時需要在函式中呼叫DiscreteActionMasker.SetMask(),如下圖

public override void CollectDiscreteActionMasks(DiscreteActionMasker actionMasker){
    actionMasker.SetMask(branch, actionIndices)
}

其中:

  • branch:你想屏蔽操作分支的索引(從0開始)
  • actionIndices:對應于agent無法執行操作的索引相對應的int串列

上面的branch就是Behviour Parameters組件中Vector ActionBranches Sizes屬性,

image-20200402215403357

例如,如果一個Agent有兩個branch,第一個branch(branch 0)有四個動作列舉:"do nothing", "jump", "shoot" and "change weapon",分別對應索引值0,1,2,3,如果Agent需要在shoot時不可以jump且change weapon,則代碼如下:

public override void CollectDiscreteActionMasks(DiscreteActionMasker actionMasker){
	if(agent.action==3) //偽代碼,意思是當agent動作為shoot時
	    actionMasker.SetMask(0, new int[2]{1,3}); //重點是這句
}

Notes:

  • 如果你想在多個branch上遮罩,你可以使用Set Mask多次
  • 不可以將一個branch上的所有動作都遮罩
  • 不能遮罩Continuous Type 中的連續動作

OK,有以上基礎,下面就來研究一下Grid World示例,

環境與訓練引數

先來根據官方檔案引數翻譯一下專案引數:

  • 設定:場景包含代理、目標和障礙

  • 目標:agent必須在找到目標的同時,避開障礙

  • Agent:環境中包含九個具有相同行為引數的Agent

  • Agent獎勵設定

    • 每一步都-0.01f(為了使得代理以最短路徑找到目標)
    • 如果agent找到目標(綠色加號)的位置,則+1,同時重新開始下一次
    • 如果agent導航到障礙物(紅色叉)處,則-1,同時重新開始下一次
  • 行為引數

    • 矢量觀察值(Vector Observations):無
    • 矢量動作空間:(離散Discrete型別)Size為4,對應代理上下左右四個方向運動,此外,在環境中,默認情況下會啟動動作遮罩(action masking,可以在對應組件上進行勾選開啟或關閉),源工程中提供的訓練模型是在啟動屏蔽的情況下生成的,這里利用action mask其實就是限制藍色方塊代理不要走出grid的范圍,后面看代碼就知道了,
    • 視覺觀察值(Visual Observations):對應GridWorld自頂向下的視圖
  • 泛化引數:gridSize,障礙物數量(numObstacles)和目標數量(numGoals)三個,具體關于泛化的解釋請查看之前的文章

  • 基準平均獎勵:0.8

場景基本結構

以一個基本的Agent為單位,先看一下在Scene視圖中:

image-20200402225236907

其Hierarchy層級為:

image-20200402225332313

其中scene為組成Grid范圍的父物體,包括一個plane和四個墻體;RenderTextureAgent則是藍色方塊,即為agent;agentCam為渲染相機,通過該相機觀察而渲染得到的Texture就作為CNN的輸入資料;pitgoal分別代表了障礙物和目標,這里是在運行時才在grid中隨機位置生成,

注意這里的父節點AreaRenderTexutre上掛有Grid Area腳本,該腳本主要是初始化環境(包括墻體生成,目標、障礙隨機生成等)、重置Agent以及環境的作用,

此外,你會發現這個AreaRenderTexutres單元和其他訓練單元不同,因為該訓練單元的Camera負責渲染輸出了RenderTexture,即在運行時的小畫面,

image-20200405155247919

代碼分析

環境初始化代碼

GridArea.cs

using System.Collections.Generic;
using UnityEngine;
using System.Linq;
using MLAgents;
using MLAgents.SideChannels;

public class GridArea : MonoBehaviour
{
    [HideInInspector]
    public List<GameObject> actorObjs;//障礙物和目標物GameObjects List
    [HideInInspector]
    public int[] players;//障礙物和目標物陣列,其中“1”的個數代表障礙物個數,“0”的個數代表目標個數

    public GameObject trueAgent;//代理
    public GameObject goalPref;//目標預制體
    public GameObject pitPref;//障礙物預制體

    IFloatProperties m_ResetParameters;//泛化引數

    Camera m_AgentCam;//基本單元的相機,需要設定相機的位置和orthographicSize
    
    GameObject[] m_Objects;//存盤目標和障礙的預制體

    //地面以及四個墻面
    GameObject m_Plane;
    GameObject m_Sn;
    GameObject m_Ss;
    GameObject m_Se;
    GameObject m_Sw;

    Vector3 m_InitialPosition;//父預制體初始位置

    public void Start()
    {
        //引數初始化
        m_ResetParameters = Academy.Instance.FloatProperties;

        m_Objects = new[] { goalPref, pitPref };

        m_AgentCam = transform.Find("agentCam").GetComponent<Camera>();

        actorObjs = new List<GameObject>();

        var sceneTransform = transform.Find("scene");

        m_Plane = sceneTransform.Find("Plane").gameObject;
        m_Sn = sceneTransform.Find("sN").gameObject;
        m_Ss = sceneTransform.Find("sS").gameObject;
        m_Sw = sceneTransform.Find("sW").gameObject;
        m_Se = sceneTransform.Find("sE").gameObject;
        m_InitialPosition = transform.position;
    }

    /// <summary>
    /// 設定環境
    /// </summary>
    public void SetEnvironment()
    {
        //初始化父結點位置,因為場景中有9個訓練單元,根據gridSize來使各個訓練單元分布開來
        transform.position = m_InitialPosition * (m_ResetParameters.GetPropertyWithDefault("gridSize", 5f) + 1);

        //初始化players陣列,其中“1”代表障礙物,“0”代表目標物
        var playersList = new List<int>();
        for (var i = 0; i < (int)m_ResetParameters.GetPropertyWithDefault("numObstacles", 1f); i++)
        {
            playersList.Add(1);
        }

        for (var i = 0; i < (int)m_ResetParameters.GetPropertyWithDefault("numGoals", 1f); i++)
        {
            playersList.Add(0);
        }
        players = playersList.ToArray();

        //初始化地面和墻體的位置以及比例,gridSize代表場景中格子數
        var gridSize = (int)m_ResetParameters.GetPropertyWithDefault("gridSize", 5f);
        m_Plane.transform.localScale = new Vector3(gridSize / 10.0f, 1f, gridSize / 10.0f);
        m_Plane.transform.localPosition = new Vector3((gridSize - 1) / 2f, -0.5f, (gridSize - 1) / 2f);
        m_Sn.transform.localScale = new Vector3(1, 1, gridSize + 2);
        m_Ss.transform.localScale = new Vector3(1, 1, gridSize + 2);
        m_Sn.transform.localPosition = new Vector3((gridSize - 1) / 2f, 0.0f, gridSize);
        m_Ss.transform.localPosition = new Vector3((gridSize - 1) / 2f, 0.0f, -1);
        m_Se.transform.localScale = new Vector3(1, 1, gridSize + 2);
        m_Sw.transform.localScale = new Vector3(1, 1, gridSize + 2);
        m_Se.transform.localPosition = new Vector3(gridSize, 0.0f, (gridSize - 1) / 2f);
        m_Sw.transform.localPosition = new Vector3(-1, 0.0f, (gridSize - 1) / 2f);

        //初始化正交相機
        m_AgentCam.orthographicSize = (gridSize) / 2f;//相機正交視野
        m_AgentCam.transform.localPosition = new Vector3((gridSize - 1) / 2f, gridSize + 1f, (gridSize - 1) / 2f);//相機位置
    }

    /// <summary>
    /// 環境重置
    /// </summary>
    public void AreaReset()
    {
        var gridSize = (int)m_ResetParameters.GetPropertyWithDefault("gridSize", 5f);//網格數
        foreach (var actor in actorObjs)
        {//銷毀當前所有目標和障礙
            DestroyImmediate(actor);
        }
        SetEnvironment();//環境重置
        actorObjs.Clear();

        //利用HashSet,計算出players.Length+1個(所有障礙和目標數量+1個Agent)不重復的隨機值
        var numbers = new HashSet<int>();
        while (numbers.Count < players.Length + 1)
        {
            numbers.Add(Random.Range(0, gridSize * gridSize));
        }
        var numbersA = Enumerable.ToArray(numbers);

        //采用x=randomNum/gridSize,y=randomNum%gridSize來確定每個物體的位置
        for (var i = 0; i < players.Length; i++)
        {//障礙物與目標物隨機放置
            var x = (numbersA[i]) / gridSize;
            var y = (numbersA[i]) % gridSize;
            var actorObj = Instantiate(m_Objects[players[i]], transform);
            actorObj.transform.localPosition = new Vector3(x, -0.25f, y);
            actorObjs.Add(actorObj);
        }

        //Agent位置隨機重置
        var xA = (numbersA[players.Length]) / gridSize;
        var yA = (numbersA[players.Length]) % gridSize;
        trueAgent.transform.localPosition = new Vector3(xA, -0.25f, yA);
    }
}

環境重置代碼總體來講比較簡單,以上代碼加注釋基本大多都沒問題,

Agent腳本

初始化與重置

在之前3D Ball中,初始化在InitializeAgent()中,重置在AgentReset()中,從某種意義上講,初始化與重置其實是一樣的,在本示例Grid World中,將環境和Agent的初試化重置都放到了GridArea.cs腳本中,除此之外,可以來看一下Agent腳本初始化的變數,

public class GridAgent : Agent
{
    [FormerlySerializedAs("m_Area")]//[FormerlySerializedAs(name)]特性可以防止當“area”變數改名時,導致原序列化物件丟失,具體操作見后文
    [Header("Specific to GridWorld")]//[Header(string)]使該變數前有一個說明型標題
    public GridArea area;//環境重置腳本
    public float timeBetweenDecisionsAtInference;//代理行動速度,每隔timeBetweenDecisionsAtInference秒移動一次
    float m_TimeSinceDecision;//決策時間計時器
    public Camera renderCamera;//要輸出RenderTexture的相機
    public bool maskActions = true;//動作遮罩開關,若禁用,可能會使得有動作遮罩的訓練模型達不到最佳訓練效果

    //方塊代理的動作值
    const int k_NoAction = 0;//無動作
    const int k_Up = 1;//向上移動
    const int k_Down = 2;//向下移動
    const int k_Left = 3;//向左移動
    const int k_Right = 4;//向右移動

    public override void InitializeAgent()
    {//為空
    }
    
    public override void AgentReset()
    {
        area.AreaReset();//代理重置
    }
}

以上代碼大多數都有注釋,問題不大,下面說里面兩個Unity中的特性,

  • [FormerlySerializedAs(string name)]

    這個特性可以使得腳本中被序列化的屬性或變數在保持參考物件不丟失的情況下重命名,具體使用方式如下,假設有腳本Test.cs:

    Test.cs

    using UnityEngine;
    
    public class Test : MonoBehaviour
    {
        public GridArea Area;
    
        void Start()
        {
        }
    }
    

    將其放到場景中某物體上,并且將任意符合腳本拖到“Area”變數上,

    image-20200404234426987

    如果此時若改變Area變數名為Area_1,會出現以下現象:

    image-20200404234614232

    會發現原先的參考變數丟失,為了防止如上情況,則需要使用[FormerlySerializedAs]特性來避免,例如這里我們繼續將原來的參考賦給Area_1里去,

    image-20200404235225611

    然后在重命名Area_1前,給它加上FormerlySerializedAs特性,如下:

    using UnityEngine;
    using UnityEngine.Serialization;
    
    public class Test : MonoBehaviour
    {
        [FormerlySerializedAs("Area_1")]
        public GridArea Area;
    
        void Start()
        {
        }
    }
    

    再來看原先變數的參考:

    image-20200404235439612

    會返現該參考存在,當然若此處的參考還有許多引數變數,也可以使得這些變數序列化不丟失,不過這種拖物體到腳本上的方法其實在開發中一般是不推薦的,如果一個工程較大,許多物體都采用這種方式來參考的話,場景中的物體參考丟失就很難統一管理,

  • [Header(string content)]

    直接看效果就行,這個特性比較簡單,

    image-20200405003556370

動作遮罩

關于動作遮罩上文中已介紹,來看一下Grid World中對于遮罩的設定,

public override void CollectDiscreteActionMasks(DiscreteActionMasker actionMasker)
    {
        if (maskActions)//動作遮罩開關
        {
            //防止agent碰到墻體
            var positionX = (int)transform.position.x;//agent的x位置
            var positionZ = (int)transform.position.z;//agent的z位置
            //agent移動的最大位置
            var maxPosition = (int)Academy.Instance.FloatProperties.GetPropertyWithDefault("gridSize", 5f) - 1;

            if (positionX == 0)
            {//當agent在最左邊時,不能再向左
                actionMasker.SetMask(0, new int[] { k_Left });
            }
            if (positionX == maxPosition)
            {//當agent在最右邊時,不能再向右
                actionMasker.SetMask(0, new int[] { k_Right });
            }
            if (positionZ == 0)
            {//當agent在最下邊時,不能再向下
                actionMasker.SetMask(0, new int[] { k_Down });
            }
            if (positionZ == maxPosition)
            {//當agent在最上邊時,不能再向上
                actionMasker.SetMask(0, new int[] { k_Up });
            }
        }
    }

配合以下圖:

image-20200405004922747

基本上代碼配合圖,動作遮罩就明白了,此外動作遮罩只適用于Discrete Type,即離散空間反饋時才可以使用動作遮罩,

Agent動作反饋

下面看一下agent的動作反饋函式AgentAction()

public override void AgentAction(float[] vectorAction)
    {
        AddReward(-0.01f); //每一步都懲罰0.01,為使得agent可以盡快找到目標
        //反饋引數轉換為整數
        var action = Mathf.FloorToInt(vectorAction[0]);
        //根據action引數計算agent將要移動的下一個位置targetPos
        var targetPos = transform.position;
        switch (action)
        {
            case k_NoAction:
                // do nothing
                break;
            case k_Right:
                targetPos = transform.position + new Vector3(1f, 0, 0f);
                break;
            case k_Left:
                targetPos = transform.position + new Vector3(-1f, 0, 0f);
                break;
            case k_Up:
                targetPos = transform.position + new Vector3(0f, 0, 1f);
                break;
            case k_Down:
                targetPos = transform.position + new Vector3(0f, 0, -1f);
                break;
            default:
                throw new ArgumentException("Invalid action value");
        }

        //定義Box型射線檢測,在agent將要移動的下一個位置生成一個Box射線檢測
        var hit = Physics.OverlapBox(
            targetPos, new Vector3(0.3f, 0.3f, 0.3f));
        if (hit.Where(col => col.gameObject.CompareTag("wall")).ToArray().Length == 0)
        {//若agent的下一個位置沒有碰到墻體("wall"標簽的物體),則移動agent
            transform.position = targetPos;

            if (hit.Where(col => col.gameObject.CompareTag("goal")).ToArray().Length == 1)
            {//如果移動的下一個位置是目標(goal),則獎勵1,此次訓練完成
                SetReward(1f);
                Done();
            }
            else if (hit.Where(col => col.gameObject.CompareTag("pit")).ToArray().Length == 1)
            {//如果移動的下一個位置是障礙物(pit),則懲罰1,此次訓練完成
                SetReward(-1f);
                Done();
            }
        }
    }

以上代碼經過注釋后,也沒有太難理解的地方,注意以下兩點:

  • 形參vectorAction代表了agent的運動矢量空間,grid world的agent每次只有一個離散的動作運動,即Branches Size為1,而這個運動可以包括五個選擇k_NoAction、k_Right、k_Left、k_Up和k_Down,因此Branch 0 Size為5.

    image-20200405012722343

  • Physics.OverlapBox為Box型射線,如下圖,此外,這里可以提供一個思路,可以在計算出來的下一個位置先生成一個射線檢測或者碰撞體來檢測下一個位置是否是符合條件的位置,

image-20200405011649203

FixedUpdate()

在Agent腳本中,還注意到運用了*FixedUpdate()*來影響agent的brain做出決策:

	public void FixedUpdate()
    {
        WaitTimeInference();//每幀呼叫
    }

    void WaitTimeInference()
    {
        if (renderCamera != null)
        {//若渲染相機不為空,則每幀手動使相機渲染
            renderCamera.Render();
        }

        if (Academy.Instance.IsCommunicatorOn)
        {//判斷是否環境是否與Python相連,若相連,則每幀使agent的brain做出決策
            RequestDecision();
        }
        else
        {//若未與外界相連,則timeBetweenDecisionsAtInference秒后,使得brain做出決策
            if (m_TimeSinceDecision >= timeBetweenDecisionsAtInference)
            {
                m_TimeSinceDecision = 0f;
                RequestDecision();
            }
            else
            {
                m_TimeSinceDecision += Time.fixedDeltaTime;//決策計時器
            }
        }
    }

手動操作代碼

手動操作代碼具體如下:

 public override float[] Heuristic()
    {
        if (Input.GetKey(KeyCode.D))
        {
            return new float[] { k_Right };
        }
        if (Input.GetKey(KeyCode.W))
        {
            return new float[] { k_Up };
        }
        if (Input.GetKey(KeyCode.A))
        {
            return new float[] { k_Left };
        }
        if (Input.GetKey(KeyCode.S))
        {
            return new float[] { k_Down };
        }
        return new float[] { k_NoAction };
    }

這里代碼比較好理解,但是如果要是調到手動操作模式,會發現在場景中你的操作并不能得到反饋,這是由于Agent上沒有添加Decision Requester組件,添加后,然后將Behavior Type改為Heuristic Only,即可手動操作,雖然操作起來沒那么舒爽= =,

關于GridSetting

在場景中還能發現在Main Camera上有GridSetting.cs腳本,如下:

using UnityEngine;
using MLAgents;

public class GridSettings : MonoBehaviour
{
    public Camera MainCamera;

    public void Awake()
    {
        Academy.Instance.FloatProperties.RegisterCallback("gridSize", f =>
        {
            MainCamera.transform.position = new Vector3(-(f - 1) / 2f, f * 1.25f, -(f - 1) / 2f);
            MainCamera.orthographicSize = (f + 5f) / 2f;
        });
        //測驗
        //MainCamera.transform.position = new Vector3(-(10 - 1) / 2f, 10 * 1.25f, -(10 - 1) / 2f);
        //MainCamera.orthographicSize = (10 + 5f) / 2f;
    }
}

其實這里用處就是根據gridSize來初始化主相機的位置,不知道為啥原始碼中對于這里的回呼呼叫有問題,于是我直接使的gridSize變為10(這里同時需要修改GridArea和GridAgent中相關的gridSize數值為10),然后利用上述代碼測驗注釋部分來調整相機位置,得出如下效果:

image-20200405164000370

可以發現相機會根據gridSize動態調整合適的位置,

關于其他

工程看到一半,發現該示例中其實兩個型別的Visual Observation Sensor都用到了:

image-20200405164221641

另一個

image-20200405164254680

在工程中AreaRenderTexture訓練單元使用了Render Texture Sensor Component,而其他Agent單元卻使用的是Camera Sensor Component,這里你會發現在AreaRenderTexture訓練單元中,如果將agentCam去掉,也對輸出沒啥影響,因為它使用RenderTextureSensor來訓練的,不知道這是是我理解錯了,還是說官方就是想用兩個Sensor來在這里教(迷惑?)大家使用,,,,

訓練模型

OK,以上就是示例代碼部分的分析,下面我們來實操試試訓練該工程,首先試驗一下將障礙物和目標物的數量改為3和2試一下原先工程的訓練模型有沒有訓練泛化引數,

gridworld_gen

根據以上畫面可以發現,代理有點笨,不能立馬找到目標物,說明原先的訓練模型可能沒有引入泛化引數,因此我們訓練的時候引入泛化引數來對其進行訓練,

泛化引數配置

根據本示例中的泛化引數,我們在ml-agent\config新建gridworld_generalize.yaml組態檔:

resampling-interval: 5000

gridSize:
    sampler-type: "uniform"
    min_value: 5
    max_value: 15

numObstacles:
    sampler-type: "uniform"
    min_value: 1
    max_value: 5

numGoals:
    sampler-type: "uniform"
    min_value: 1
    max_value: 3

這里組態檔的含義是,gridSize最小為5格,最大為15格;障礙物最少有1個,最多有5個;目標物最少有1個,最多有3個,

當然這里的配置我也是試一下,對于這里引數的配置我也還沒有多少經驗,不過可以以此來看一下能不能使得訓練模型在一定可變范圍內具有通用性,

開始訓練

基于之前的文章,這里就不詳細寫訓練程序了,只將關鍵步驟做以說明,cd到ml-agent的d目錄,然后輸入以下訓練命令:

mlagents-learn config/trainer_config.yaml --sampler=config/gridworld_generalize.yaml --run-id=GridWolrd_Gen --train

image-20200405170933094

這一次的訓練程序相比3D Ball來說就比較卡了,等一段時間,在cmd里應該會有相應訓練步驟輸出,等待它訓練完成即可,我這里訓練大概花了35分鐘,坑爹的是,,,這里對于三個引數的泛化訓練,訓練的結果并不好,甚至連最基本的要求都沒達到,

試著只泛化一個引數,選擇障礙物可以有1-4個,然后進行訓練再看看,又是30分鐘等待= =,發現就算有一個障礙物引數隨機變化,訓練效果也不好,

下面附上三次訓練的tenserboard(三個泛化引數,一個泛化引數和無泛化引數),

image-20200405211241566

根據圖表就可以看出來,兩個加入泛化引數的訓練是失敗的,具體為什么可能之后了解更多ml-agent才能知道,實際上把加入泛化引數的兩個模型放到Unity中去跑,也會發現訓練結果并不理想,

總結

Grid World這個示例還是比較有趣的,主要它利用了Visual Observations視覺觀察值來輸出影像進行訓練,更加像人類用眼睛去學習的程序,當然不足的地方就是沒有把訓練的模型進行泛化,這點之后再研究吧,

寫文不易~因此做以下申明:

1.博客中標注原創的文章,著作權歸原作者 煦陽(本博博主) 所有;

2.未經原作者允許不得轉載本文內容,否則將視為侵權;

3.轉載或者參考本文內容請注明來源及原作者;

4.對于不遵守此宣告或者其他違法使用本文內容者,本人依法保留追究權等,

轉載請註明出處,本文鏈接:https://www.uj5u.com/qita/38944.html

標籤:其他

上一篇:kubernetes(二十) Ingress

下一篇:CVPR-2020 AAAI2020 CVPR-2019 NIPS-2019 ICCV-2019 IJCAI-2019 論文超級大合集下載,整理好累,拿走不謝

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 網閘典型架構簡述

    網閘架構一般分為兩種:三主機的三系統架構網閘和雙主機的2+1架構網閘。 三主機架構分別為內端機、外端機和仲裁機。三機無論從軟體和硬體上均各自獨立。首先從硬體上來看,三機都用各自獨立的主板、記憶體及存盤設備。從軟體上來看,三機有各自獨立的作業系統。這樣能達到完全的三機獨立。對于“2+1”系統,“2”分為 ......

    uj5u.com 2020-09-10 02:00:44 more
  • 如何從xshell上傳檔案到centos linux虛擬機里

    如何從xshell上傳檔案到centos linux虛擬機里及:虛擬機CentOs下執行 yum -y install lrzsz命令,出現錯誤:鏡像無法找到軟體包 前言 一、安裝lrzsz步驟 二、上傳檔案 三、遇到的問題及解決方案 總結 前言 提示:其實很簡單,往虛擬機上安裝一個上傳檔案的工具 ......

    uj5u.com 2020-09-10 02:00:47 more
  • 一、SQLMAP入門

    一、SQLMAP入門 1、判斷是否存在注入 sqlmap.py -u 網址/id=1 id=1不可缺少。當注入點后面的引數大于兩個時。需要加雙引號, sqlmap.py -u "網址/id=1&uid=1" 2、判斷文本中的請求是否存在注入 從文本中加載http請求,SQLMAP可以從一個文本檔案中 ......

    uj5u.com 2020-09-10 02:00:50 more
  • Metasploit 簡單使用教程

    metasploit 簡單使用教程 浩先生, 2020-08-28 16:18:25 分類專欄: kail 網路安全 linux 文章標簽: linux資訊安全 編輯 著作權 metasploit 使用教程 前言 一、Metasploit是什么? 二、準備作業 三、具體步驟 前言 Msfconsole ......

    uj5u.com 2020-09-10 02:00:53 more
  • 游戲逆向之驅動層與用戶層通訊

    驅動層代碼: #pragma once #include <ntifs.h> #define add_code CTL_CODE(FILE_DEVICE_UNKNOWN,0x800,METHOD_BUFFERED,FILE_ANY_ACCESS) /* 更多游戲逆向視頻www.yxfzedu.com ......

    uj5u.com 2020-09-10 02:00:56 more
  • 北斗電力時鐘(北斗授時服務器)讓網路資料更精準

    北斗電力時鐘(北斗授時服務器)讓網路資料更精準 北斗電力時鐘(北斗授時服務器)讓網路資料更精準 京準電子科技官微——ahjzsz 近幾年,資訊技術的得了快速發展,互聯網在逐漸普及,其在人們生活和生產中都得到了廣泛應用,并且取得了不錯的應用效果。計算機網路資訊在電力系統中的應用,一方面使電力系統的運行 ......

    uj5u.com 2020-09-10 02:01:03 more
  • 【CTF】CTFHub 技能樹 彩蛋 writeup

    ?碎碎念 CTFHub:https://www.ctfhub.com/ 筆者入門CTF時時剛開始刷的是bugku的舊平臺,后來才有了CTFHub。 感覺不論是網頁UI設計,還是題目質量,賽事跟蹤,工具軟體都做得很不錯。 而且因為獨到的金幣制度的確讓人有一種想去刷題賺金幣的感覺。 個人還是非常喜歡這個 ......

    uj5u.com 2020-09-10 02:04:05 more
  • 02windows基礎操作

    我學到了一下幾點 Windows系統目錄結構與滲透的作用 常見Windows的服務詳解 Windows埠詳解 常用的Windows注冊表詳解 hacker DOS命令詳解(net user / type /md /rd/ dir /cd /net use copy、批處理 等) 利用dos命令制作 ......

    uj5u.com 2020-09-10 02:04:18 more
  • 03.Linux基礎操作

    我學到了以下幾點 01Linux系統介紹02系統安裝,密碼啊破解03Linux常用命令04LAMP 01LINUX windows: win03 8 12 16 19 配置不繁瑣 Linux:redhat,centos(紅帽社區版),Ubuntu server,suse unix:金融機構,證券,銀 ......

    uj5u.com 2020-09-10 02:04:30 more
  • 05HTML

    01HTML介紹 02頭部標簽講解03基礎標簽講解04表單標簽講解 HTML前段語言 js1.了解代碼2.根據代碼 懂得挖掘漏洞 (POST注入/XSS漏洞上傳)3.黑帽seo 白帽seo 客戶網站被黑帽植入劫持代碼如何處理4.熟悉html表單 <html><head><title>TDK標題,描述 ......

    uj5u.com 2020-09-10 02:04:36 more
最新发布
  • 2023年最新微信小程式抓包教程

    01 開門見山 隔一個月發一篇文章,不過分。 首先回顧一下《微信系結手機號資料庫被脫庫事件》,我也是第一時間得知了這個訊息,然后跟蹤了整件事情的經過。下面是這起事件的相關截圖以及近日流出的一萬條資料樣本: 個人認為這件事也沒什么,還不如關注一下之前45億快遞資料查詢渠道疑似在近日復活的訊息。 訊息是 ......

    uj5u.com 2023-04-20 08:48:24 more
  • web3 產品介紹:metamask 錢包 使用最多的瀏覽器插件錢包

    Metamask錢包是一種基于區塊鏈技術的數字貨幣錢包,它允許用戶在安全、便捷的環境下管理自己的加密資產。Metamask錢包是以太坊生態系統中最流行的錢包之一,它具有易于使用、安全性高和功能強大等優點。 本文將詳細介紹Metamask錢包的功能和使用方法。 一、 Metamask錢包的功能 數字資 ......

    uj5u.com 2023-04-20 08:47:46 more
  • vulnhub_Earth

    前言 靶機地址->>>vulnhub_Earth 攻擊機ip:192.168.20.121 靶機ip:192.168.20.122 參考文章 https://www.cnblogs.com/Jing-X/archive/2022/04/03/16097695.html https://www.cnb ......

    uj5u.com 2023-04-20 07:46:20 more
  • 從4k到42k,軟體測驗工程師的漲薪史,給我看哭了

    清明節一過,盲猜大家已經無心上班,在數著日子準備過五一,但一想到銀行卡里的余額……瞬間心情就不美麗了。最近,2023年高校畢業生就業調查顯示,本科畢業月平均起薪為5825元。調查一出,便有很多同學表示自己又被平均了。看著這一資料,不免讓人想到前不久中國青年報的一項調查:近六成大學生認為畢業10年內會 ......

    uj5u.com 2023-04-20 07:44:00 more
  • 最新版本 Stable Diffusion 開源 AI 繪畫工具之中文自動提詞篇

    🎈 標簽生成器 由于輸入正向提示詞 prompt 和反向提示詞 negative prompt 都是使用英文,所以對學習母語的我們非常不友好 使用網址:https://tinygeeker.github.io/p/ai-prompt-generator 這個網址是為了讓大家在使用 AI 繪畫的時候 ......

    uj5u.com 2023-04-20 07:43:36 more
  • 漫談前端自動化測驗演進之路及測驗工具分析

    隨著前端技術的不斷發展和應用程式的日益復雜,前端自動化測驗也在不斷演進。隨著 Web 應用程式變得越來越復雜,自動化測驗的需求也越來越高。如今,自動化測驗已經成為 Web 應用程式開發程序中不可或缺的一部分,它們可以幫助開發人員更快地發現和修復錯誤,提高應用程式的性能和可靠性。 ......

    uj5u.com 2023-04-20 07:43:16 more
  • CANN開發實踐:4個DVPP記憶體問題的典型案例解讀

    摘要:由于DVPP媒體資料處理功能對存放輸入、輸出資料的記憶體有更高的要求(例如,記憶體首地址128位元組對齊),因此需呼叫專用的記憶體申請介面,那么本期就分享幾個關于DVPP記憶體問題的典型案例,并給出原因分析及解決方法。 本文分享自華為云社區《FAQ_DVPP記憶體問題案例》,作者:昇騰CANN。 DVPP ......

    uj5u.com 2023-04-20 07:43:03 more
  • msf學習

    msf學習 以kali自帶的msf為例 一、msf核心模塊與功能 msf模塊都放在/usr/share/metasploit-framework/modules目錄下 1、auxiliary 輔助模塊,輔助滲透(埠掃描、登錄密碼爆破、漏洞驗證等) 2、encoders 編碼器模塊,主要包含各種編碼 ......

    uj5u.com 2023-04-20 07:42:59 more
  • Halcon軟體安裝與界面簡介

    1. 下載Halcon17版本到到本地 2. 雙擊安裝包后 3. 步驟如下 1.2 Halcon軟體安裝 界面分為四大塊 1. Halcon的五個助手 1) 影像采集助手:與相機連接,設定相機引數,采集影像 2) 標定助手:九點標定或是其它的標定,生成標定檔案及內參外參,可以將像素單位轉換為長度單位 ......

    uj5u.com 2023-04-20 07:42:17 more
  • 在MacOS下使用Unity3D開發游戲

    第一次發博客,先發一下我的游戲開發環境吧。 去年2月份買了一臺MacBookPro2021 M1pro(以下簡稱mbp),這一年來一直在用mbp開發游戲。我大致分享一下我的開發工具以及使用體驗。 1、Unity 官網鏈接: https://unity.cn/releases 我一般使用的Apple ......

    uj5u.com 2023-04-20 07:40:19 more