基于不確定性權(quán)重的保守Q學(xué)習(xí)離線強化學(xué)習(xí)算法

摘要： 離線強化學(xué)習(xí)(Offline RL)中，智能體不與環(huán)境交互而是從一個固定的數(shù)據(jù)集中獲得數(shù)據(jù)進行學(xué)習(xí)，這是強化學(xué)習(xí)領(lǐng)域研究的一個熱點。目前多數(shù)離線強化學(xué)習(xí)算法對策略訓(xùn)練過程進行保守正則化處理，訓(xùn)練策略傾向于選擇存在于數(shù)據(jù)集中的動作，從而解決離線強化學(xué)習(xí)中對數(shù)據(jù)集分布外(OOD)的狀態(tài)-動作價值估值錯誤的問題。保守Q學(xué)習(xí)算法(CQL)通過值函數(shù)正則賦予分布外狀態(tài)-動作較低的價值來避... （共8頁）