這篇論文是在 Recursive Partitioning for Heterogeneous Causal Effects 的基礎上加入了兩個新元素：
- Trigger：對不同群體的treatment選擇個性化閾值， E.g優惠券力度，紅包金額
- 新的Node Penalty: 旨在增強模型generalization
論文
C. Tran and E. Zheleva, “Learning triggers for heterogeneous treatment effects,” in Proceedings of the AAAI Conference on Artificial Intelligence, 2019
模型
Trigger
Trigger的計算主要用在treatment是一個潛在連續變數，例如服藥的劑量，優惠券的金額等等，這時實驗希望得到的不僅是優惠券是否能提升用戶留存，而且是對哪些用戶使用多少金額的優惠券能最大化ROI，
作者在通過樹劃分用戶群的同時計算能夠使該用戶群CATE最大化的Trigger閾值，既在遍歷所有特征可能取值的同時遍歷所有treatment的可能取值，取jointly的最優解，如下
\[\begin{align} T = {t_i}&\quad \text{treatment的所有可能取值}\\ \theta_l &\quad \text{最優treatment閾值}\\ F^t(S_l) &= max_{\theta_l}F(S_l)\\ \end{align} \]
小思考
感覺這里對最佳trigger的選擇還有優化的空間，因為上述split假定了實驗效果對treatment的取值是單調的，如果不單調上述split可能得到不make sense的結果，而且在一些應用場景下是希望取到有條件最優解，例如在成本不超過N的情況下收益越高越好，而不是簡單的最大化實驗效果，這個當前也還無法解決，
Node Penalty
在Athey(2016)的Causal Tree中，作者通過在Cost Functino中加入葉節點方差，以及用驗證集估計CATE的方式來解決決策樹過擬合的問題，這里Tran提出的新的penalty旨在衡量相同節點訓練集和驗證機在CATE估計上的差異，
我們先回顧一下要用到的Notation
\[\begin{align} & {(X_i, Y_i,T_i): X_i \in X} \\ & \text{where X是特征，Y是Response，T是AB實驗分組}\\ &T_i \in {0,1} \quad \\ &Y_i = \begin{cases} Y(1) & \quad T_i = 0\\ Y(0) & \quad T_i = 1\\ \end{cases}\\ &CATE: \tau(x) = E(Y_i(1)-Y_i(0)|X=x)\\ \end{align} \]
以下是Athey(2016) Causal Tree的定義
\[\begin{align} &S_l = {(X_i, Y_i,T_i): X_i \in X_l} \quad \text{葉節點-區域樣本}\\ &\hat{\mu_t}(S_l) = \frac{1}{N_{l,t}}\sum_{T_i=t, i \in S_l}Y_i \quad \text{AB組Y的均值} \\ &\hat{\tau}(S_l) = \hat{\mu_1}(S_l) -\hat{\mu_0}(S_l) \quad \text{葉節點CATE}\\ &F(S_l) = N_l * \hat{\tau}^2(S_l)\\ & \text{cost fucntion}: max \sum_{i=1}^L F(S_i)\\ \end{align} \]
作者先把全樣本切分成train, val和test， 用訓練集來建樹， 用test來估計葉節點variance，penalize小的葉結點帶來的高方差，然后用葉節點上train和val的差異來penalize損失函式,以下\(\lambda\)控制penalty的大小：
\[\begin{align} &penalty = N_L^{val} * |\hat{\tau}(S_l^{val}) -\hat{\tau}(S_l^{train}) | \\ &cost = \frac{(1-\lambda)F(S_l^{train}) - \lambda * penalty}{|N_l^{train} - N_l^{val}| +1}\\ \end{align} \]
小思考
各式各樣解決over-fitting的方法不能說沒有用，但個人認為最終通過Causal Tree得到的特征和特征取值，還是要依據業務邏輯來進行驗證，以及在不同的樣本集上很可能特征取值的變動要超過over-fitting的影響，所以主觀判斷在這里也很重要
其他相關模型詳見AB實驗的高端玩法系列1-實用HTE論文GitHub收藏
歡迎留言～
轉載請註明出處，本文鏈接：https://www.uj5u.com/qita/67687.html
標籤：其他
上一篇：機器學習回顧篇（7）：決策樹演算法（ID3、C4.5）
下一篇：神經網路學習筆記（2）