自博弈(Self-Play)是强化学习的核心范式之一,智能体通过与自身或历史版本对弈来不断提升策略水平。下方展示四种主要自博弈范式,点击按钮切换查看。
AlphaZero 通过 MCTS 蒙特卡洛树搜索、自我对弈、棋谱生成、网络训练和模型更新的闭环实现端到端学习,无需人类知识即可超越人类水平。
课程式自博弈从简单对手开始,逐步过渡到更强的历史版本,通过难度退火实现稳定收敛,避免策略震荡。
群体进化训练包括 PBT(基于种群的训练)和联赛训练(League),多个智能体相互博弈、优胜劣汰,维持策略多样性。
进化策略通过对参数施加高斯扰动、评估适应度、选择最优个体并进行重组,无需梯度即可优化高维参数。
NEAT 算法通过基因编码、拓扑变异(增节点/增连接)、交叉和选择,实现神经网络结构和权重的协同进化。
自博弈的收敛性分析涉及 Nash 均衡、利用循环(exploitation cycle)、策略空间和收敛曲线,揭示策略动态的稳定性。
自博弈已在围棋(AlphaZero)、星际争霸(AlphaStar)、蛋白质折叠(AlphaFold)和数学证明(AlphaGeometry)等领域取得突破性成果。