AlphaGo Zero

关注
义项:DeepMind 围棋程序
AlphaGo Zero

AlphaGo Zero是英国深度思维(DeepMind)公司开发的人工智能围棋程序,2017年10月18日由该团队在《自然》杂志发表论文公布[1][2]。与此前版本不同,它不依赖任何人类棋谱或人类经验,仅以棋盘、棋子与围棋规则为输入,通过自我对弈的强化学习从零开始掌握围棋[3]。训练3天后它战胜了曾击败李世石的旧版AlphaGo,训练约40天后又超越了击败柯洁的AlphaGo Master[1]([4])。

百科 图文
目录
  1. 定义
  2. 原理
  3. 发展历程
  4. 应用
  5. 局限
  6. 参见

定义

AlphaGo Zero是深度思维公司推出的围棋程序,属于AlphaGo系列的一个版本[1]。它所面对的围棋棋盘为19×19格,双方轮流落子,可能的局面组合数量极其庞大,无法靠穷举所有走法来决定下一步。

该程序的核心特征是学习过程不涉及人类知识。除围棋基本规则之外,它不使用人类棋谱、不接收人工设计的特征,也不接受棋手的指导,只通过与自己对弈来提升棋力[3]。这一做法在人工智能研究中被称为从白纸状态(tabula rasa)学习,被视为通往通用学习算法的重要一步[2]。

原理

AlphaGo Zero建立在深度神经网络与蒙特卡洛树搜索相结合的方法之上[5]。其中的神经网络以棋盘局面为输入,同时输出两个结果:各个落子位置的概率分布,以及当前局面下自己获胜的概率。系统在该神经网络的引导下运行树搜索,得到实际的落子概率与对局结果,再用这些结果反过来修正网络参数,循环往复[5]。

此前的AlphaGo把这两个任务分成两个网络:策略网络负责挑选下一步棋,价值网络负责预测胜负[1]。AlphaGo Zero将它们合并为单一网络,训练和评估都更为高效[1]。它也不再使用快速随机模拟对局的“rollout”方法来估胜率,而是直接依靠神经网络判断局面[1]。用参数θ表示网络,其关系可写作 $(p, v) = f_\theta(s_t)$,其中 $s_t$ 为棋盘局面,$p$ 为走子概率,$v$ 为胜率估计[5]。

发展历程

2016年3月,AlphaGo在首尔以4比1击败韩国棋手李世石,成为首个战胜围棋世界冠军的程序[6]。这一版本的神经网络依靠人类专家棋谱进行监督学习,并辅以自我对弈的强化学习,训练耗时数月,使用多台机器和48个张量处理单元(TPU)[7]。

2017年10月18日,深度思维在《自然》杂志发表论文《不使用人类知识掌握围棋》,正式公布AlphaGo Zero[3]。论文由戴维·西尔弗、戴密斯·哈萨比斯等人完成[1]。文中报告,该程序仅用一台机器和4个TPU训练[7]。

实验结果按时间给出:训练36小时后,其等级分超过击败李世石的旧版本;训练3天后,在100局对局中以100比0击败该版本[1];训练约40天后,它又超过了曾战胜柯洁的AlphaGo Master[1]。据中国经济网的报道,后一比分有89比11与100比0两种表述[7]。

在自我对弈过程中,AlphaGo Zero独立摸索出了人类用数千年总结出的定式、开局与收官思路,并发展出一些与人类棋手不同的下法。研究人员还发现,如果让它同时学习人类棋谱,初期进步更快,但长期能达到的水平反而较低。

应用

AlphaGo Zero本身用于下围棋,其价值更多体现在所验证的方法上。深度思维方面认为,不依赖大规模标注样本的学习方式可用于人类数据稀缺或获取成本高昂的领域[2]。

据该公司与研究人员的说明,这类方法可能适用的方向包括蛋白质折叠研究、新材料设计与寻找具有特定性质的化合物等[8]。强化学习也已被尝试用于训练机器人抓取物体、以及通过动态调整硬件配置降低数据中心能耗等场景[8]。

论文与后续解读同时指出,这些应用方向在当时仍属于展望,尚未有等同于围棋的成果出现[2]。

局限

AlphaGo Zero得出结论的前提是存在清晰、完备且可形式化的规则。围棋的规则明确、走法有限,而现实世界的问题往往结构松散、充满不确定性,同样的方法能否奏效尚待验证。

从效率角度看,该程序掌握围棋所需的自我对弈局数远超人类棋手积累经验所需的对局量。有研究者据此认为,它所体现的智能与人类的智能在性质上仍有明显差异[8]。

此外,论文中的数据表明,学习人类棋谱虽能加快初期训练,却会压低长期可达到的上限,这被部分研究者解释为人类样本可能把算法引向局部最优[9]。这一解释属于研究者的推断,并非程序的固有结论。

参见

  • AlphaGo —— AlphaGo Zero 所属的程序系列,本词条为其后续版本。

  • 深度思维 —— 开发 AlphaGo Zero 的人工智能研究机构。

  • 强化学习 —— AlphaGo Zero 完全不依赖人类数据所采用的核心学习范式。

  • 蒙特卡洛树搜索 —— 与神经网络配合用于选择落子的搜索算法。

  • 人工神经网络 —— 程序中用于预测落子与胜负的模型基础。

  • 李世石 —— 曾与早期版本 AlphaGo 对局的围棋世界冠军。

词条评价
词条统计

浏览次数:3 次

阅读量:0 次 · 阅读完成量:0 次

最近更新:2026-10-13T21:38:08Z

历史版本

本条目引用的词条
AlphaGo 深度思维 强化学习 蒙特卡洛树搜索 人工神经网络 李世石