图灵奖得主Pearl：期待一场迷你革命，让机械明白“为什么”

当前机械学习的数据处置惩罚方法忽略了人类智能的一个基本要素。

撰文｜Judea Pearl、Dana Mackenzie

翻译｜吴小安（清华大学-阿姆斯特丹大学逻辑学团结研究中心）

在通向人工智能那漫长又崎岖的路途中，盘算机法式已经到达了一个庞杂点。它在那些我们曾经认为只有人类专属的任务中体现卓越，好比玩扑克或者在大庭广众中识别出一张脸。但使用相同技术，自动驾驶汽车却撞向路人和栏杆，于是对于它们是否总是值得信任，我们心存疑虑。

在这急速生长又总有意想不到的难题泛起的历程中，在履历了数十年的生长之后，机械依然无法企及人工智能的一个重要的构建基石：明白原因和效果。

简朴来说，今天的机械学习法式并不能告诉我们是否公鸡打鸣是太阳升起的原因，或者后者是前者的原因。不管机械分析多大要量的数据，它并不能明白人们直觉所获取的工具。从婴儿时候开始，我们就把我们的履历以原因和效果的形式组织。“为什么这件事会发生？”和“如果我以另一种方式来行动会怎么样？”的问题是认知生长的焦点，使得我们人之为人，但现在机械还不具备这种能力。

例如，假定一个药店决议把药品的订价权交给一个我们称为 Charlie 的机械学习法式。Charlie回首药店已往的价钱变更和销售记载后，发现牙膏价钱的变化和销售量的改变不相关，因此决议提高牙膏销售价钱以发生更多的利润。效果是，一个月之后牙膏的销售量降了下来 —— 与之相伴的另有牙线、饼干和其他商品的销售量。Charlie 在哪个地方犯了错误呢？

Charlie 并不明确之前的司理之所以会调整价钱是竞争所致。当 Charlie 片面的提高价钱，那么对价钱异常敏锐的主顾就会选择去其他地方消费。这个例子说明单单是历史的数据并没有告诉我们关于原因的任何工具 —— 且因果的指引是重要的。

在分析数据模式方面，机械学习系统取得了令人为之侧目的进步，但那只是人工智能的低端结果。要到达更高端的结果，AI需要一个门路，我称之为因果的门路，它包罗因果推理的三个层级。

第一层级是相关，当前的学习机械和大多数动物都位于这一个条理，在这个层级，巴甫洛夫的狗习得了铃声响起和有食物可吃之间的联系；下一个层级是干预，目的是看看如果刻意制造铃声，或者提高牙膏的价钱将会发生什么？干预差别于视察，无理由提高价钱和以已往的数据体现为依据提高价钱有差别的结果；最高的层级是反事实，这是一种想象效果会如何的能力，反思一小我私家的行动并在在其他情境中做判断。正是在这一条理，机械能够到达对责任、归誉、咎责以及自我更新的判断和转达。想象给予一辆自动驾驶汽车这种能力，在一个事故之后，它的 CPU 会问自己这样的问题：如果我没有向醉酒的行人按喇叭将会发生什么呢？

为了到达更高的层级，除了更多的数据之外，机械需要一个暗含着因果元素的模型 —— 实质上是原因和效果的数学。也许是这样一个简朴的因素：“酒精会损伤一小我私家的判断，醉酒之人会以异于寻常的方式运动”，我们可以以科学家所称之为的因果图来编码这个信息，在这个图中箭头表现的是一系列可能的因果关系：酒精 损伤判断 非正常举动。这类图不只是为了简练优美，而且组成了一个开端算法，以此就使得汽车能够预测某类行人对于汽车喇叭所发出的鸣叫会做出异乎寻常的反映。这也为我们“拷问”汽车解释它的所为提供了可能：为什么你要按喇叭呢？

当前的机械学习系统只在一个受规则严格限制的小规模内才气通达更高的层级，好比下象棋。超出这个规模，它就会手足无措、错误百出。可是如果有了因果模型，机械就能预测之前所从未履历的行动的效果，并反思这个效果，然后把所学到的技术应用于新的情形中。

因果模型源自二十世纪八十年月人工智能的一些事情，由于它可以做更高层级的盘算且经常还能消解统计悖论，现在已经在康健科学和社会科学中广泛应用。随着机械学习研究者寻求更具解释性和回应性的系统，因果模型又开始被关注。好比谷歌和脸书的科学家们诉诸于因果模型来分析网上的广告，以判断广告是否会影响人们购置产物的决议—— 一个反事实问题。

这只是一个开始。当研究者把数据和因果推理联合起来，我们期望在人工智能领域能看到一场迷你革命，这个新的系统能够计划行动，哪怕不存在关于这个行动及其效果的任何数据；这个新的系统还能够把它们之所学应用于新的情形，并用人类语言天生就含有的“因果”观点来解释它们的行为。

作者简介

Judea Pearl 是加州大学洛杉矶分校盘算机系的教授，因为他在概率推理和因果推理的事情而获得了2011年的图灵奖。

Dana Mackenzie 是数学科普类作家，他们两人合写了一本书《为什么：关于因果关系的新科学》，该书不久前由 Basic Books 出书。

原文链接：https://www.wsj.com/articles/ai-cant-reason-why-1526657442 ，原题为“AI Can’t Reason Why”

特 别 提 示

1. 进入『返朴』微信民众号底部菜单“精品专栏“，可查阅差别主题系列科普文章。

2. 『返朴』提供按月检索文章功效。关注民众号，回复四位数组成的年份+月份，如“1903”，可获取2019年3月的文章索引，以此类推。

版权说明：接待小我私家转发，任何形式的媒体或机构未经授权，不得转载和摘编。转载授权请在「返朴」微信民众号内联系后台。