做到这一点，AI才可以让社会更“善”

1月11日，由腾讯研究院主办的第三届“科技向善”年度论坛在北京举行。本届论坛以“千里之行·Action Now”为主题，腾讯主要首创人之一、原首席技术官张志东等人聚焦科技向善的行动路径，分享了海内外先进案例和最新研究结果。

在此次论坛上，麻省理工学院物理学终身教授迈克斯·泰格马克（Max Tegmark）与我们分享了在AI飞速生长的配景下，我们将如何与AI等新兴技术宁静相处。以下为泰格马克演讲内容精选。

迈克斯·泰格马克

首先，我想引用美国现代“哲学家”辛普森（指动画片《辛普森一家人》中的角色）说的一句话：“啤酒，生活中一切问题的解决方案。”（Ah beer. The cause of and the solution to all of life's problems.）

如果我们把“啤酒”替换成人工智能（AI）的话，它仍然是建立的。我们受益于AI，可是AI也带来了许多难题和困扰。与此同时，我们又需要更多的技术来解决问题。这也引出了我今天的主题：技术是否能够向善，能否资助我们制止生活中的问题呢？

AI正变得越来越强大。在不久之前，我们是没有可以走路的机械人的，但现在，它们不仅可以行走，还可以做空翻。已往我们没有自动驾驶汽车，但现在连火箭都可以通过AI自动降落接纳。不久之前，AI不能做很好地识别人脸，但现在AI在人脸识别领域有了很大的希望，中国也有企业做得很好。

已往几十年间，我们的一些算法都被机械学习取代。由于技术的进步，AI可以替我们解决很是多的问题，甚至拯救人类生命。大家都知道，每年有数百万人死于交通事故，这也是可以通过AI淘汰的。除了门路交通，AI还可以帮助我们淘汰医学等领域的人为错误。通过AI，我们还可以提升诊断和预后。现在有许多研究证明，在诊断前列腺癌、肺癌以及眼疾时，AI做得比人类专家更精彩。

我相信AI可以资助我们进一步提升医学研究。好比在卵白质折叠的问题上，谷歌的AI就可以准确地预测氨基酸是如何举行三维折叠的。虽然说预测的效果另有提升空间，但效果已经足够振奋人心了。

这些都是AI在解决问题方面带来的获益，可是AI在解决问题之余，也会带来问题。

AI会带来什么样的问题和挑战呢？大家可能都已经相识到，首先AI可以造成国家和人心的破裂。在许多地域，好比肯尼亚的大选当中就带来了灾难性的结果；在委内瑞拉，无人机试图刺杀该国总统。AI还可能导致严重的经济损失。好比，奈特资本团体因为1分钟的生意业务软件故障损失了4.4亿美元，这是生意业务失误带来的灾难性结果。此外，另有许多因为人们不够相识AI而导致的结果。我们该如何去杜绝此类情况，怎样保持AI的努力层面而杜绝它的负面影响？

首先，我们必须要划清界线。我们需要将AI的应用分为可接受和不能接受的。界线是什么？首先要有一些文化中的界说，好比哪些能做，哪些不能做。一些是道德尺度，另有一些是国际条约。这些都是用于保证AI的使用是可接受的。大家可能会说这样并不现实，没有任何的技术可以举行这样的划分，但我认为我们有许多案例可以借鉴，好比生物学家就已经有许多乐成的案例。

所以我们需要将AI调整到努力的、正面的偏向，与此同时，AI的治理也是全球面临的挑战，因为技术是没有国界的，所以各个国家不能自己关门作战。我以为中国在这方面饰演了很是重要的角色，让AI朝着为我们所用的偏向来生长。这不仅是因为中国让我们的技术变得越发强大，也是因为中国有恒久思维，战略部署的历史积淀和文化。所以在中国演讲，当我说到未来十年、几十年的恒久计划时没有人会笑，因为大家都知道恒久计划的重要性。

在举行分享的历程中，我不禁想到之前的一些案例。好比1975年，生物学家在阿西洛马集会上提出要警惕重组DNA技术的潜在风险。2017年，AI科学家在阿西洛马延续了这一思想，他们提出了阿西洛马人工智能原则，许多国家签署了这一原则。

所以，我们必须划清界线：技术到底是向善的，还是向恶的，我们希望技术能够带来解药，而不是成为武器。

划分这样的界线时，我们要举行努力响应，而非坐以待毙。已往我们人类一直是从错误中去学习，可是随着技术和科学日益强大，这样就不再合适了。好比，我们不能在有了核武器之后，从核战争中学习，说下次我们小心点。在这样强大的技术下，我们需要主动，在一开始就想对做对，因为这也可能是我们唯一的时机。

我们需要让所有任务举行人机匹配，这就叫作通用人工智能（artificial general intelligence，简称AGI）。体现逾越人类的超级智能多快可以实现？谜底是我们不知道。这是我们争论的话题，有着差别的看法，好比DeepMind首创人戴女士·哈萨比斯（Demis Hassabis）认为这很快就会发生。

如果实现的话，机械比我们做得更好、比我们更自制，那会发生什么呢？一些人可能会感应灰心，但我认为这是没有须要的，我们仍然可以建设很是远大的目的。我以为很是重要的是，我们要有努力愿景，只有在此基础上我们才气互助，纵然互助让我们牺牲我们的自由。

现在我们的努力愿景必须是全球共有的，我们知道技术没有国界，这不是一个国家能够独善其身的事情。如果最后能够建设超级智能，这个超级智能也一定要普及、惠及所有人类，而不只是让一小部门人受惠。

我们可以以AI为例来看配合努力愿景。如果要实现全球的高福利体系，我认为AI能够发挥努力作用。例如，AI可以促进医疗，增加受教育的时机。有的人会说，全球的共享是不行能实现的，我以为这样说差池。我们现在已经有了许多全球努力的愿景，好比可连续生长目的，中国、美国和许多国家都已经提出了可连续生长的目的，正在为此奋斗。在这个问题上，AI对每一个目的的实现都能发挥促进作用。

但我们应该有更远大的目的。这些目的可能在10年内实现，但我们不能停留在这些目的上。我们还要继续，除了淘汰不平等、淘汰贫困，我们要行动起来来应对气候变化，让地球越发连续地生长，让我们使用AI去治愈所有疾病。不是说这些疾病不能治愈，只是我们不具备足够的智能来找到治愈方法，AI在这方面可以起到推行动用。

今天我在这里转达的信息是，我们要真正实现人工智能的技术向善，与AI和谐共存。这不仅是在技术层面上，我们应该有着更辽阔、更远大的目的。我们要画一条清楚的红线，什么是可接受的、什么是不行接受的？所以我们要科技向善，而不是科技向恶。我们要和技术和谐相处，我们需要的是全球共有的努力愿景。

以后，我们还会听到更多由AI造成的问题。如果我们只是关注负面的话，它不会促进我们的互助。反过来，如果我们能够意识到努力的契机愿景，我们将第一次真正把我们的愿景掌握在自己手中。我们现在有能力、有气力去打造我们想要的未来，缔造前所未有的未来。这样的未来不仅仅是几百万，有可能是更远。

在此次“科技向善”年度论坛上，除泰格马克之外，张志东、美国家庭网络宁静研究所主席斯蒂芬·巴尔克姆（Stephen Balkam）、财经作家吴晓波和腾讯高级副总裁郭凯天也从差别角度分享了对于科技向善的看法。同时，腾讯研究院院长司晓和腾讯学院院长马永武在本次论坛团结公布《千里之行·科技向善2020白皮书》，白皮书记载了已往一年科技、互联网与社会各界在科技向善领域的最新动态与案例。