隐秘？杂乱？商业化？探秘OpenAI“拯救世界”背后的真相

时间:2020-03-29 17:14:22
浏览:225
来源:世界杯买球盘口网址app

OpenAI的各个团队会尽全力探索差别的AI偏向：盘算机视觉、自然语言处置惩罚、机械人，等等。每一个偏向都是一个“赌注”。

大数据文摘出品

作者：赵吉克、lin、楚阳、Olivia、钱天培

用“出道即巅峰”来形容OpenAI一点也不为过。

2015年10月，硅谷“钢铁侠”Elon Mush和传奇投资人Sam Altman揽入10亿巨资，挥手建立了这个AI梦工厂。

除了众星云集的投资人团队，OpenAI还吸引来了一批技术界的大牛。硅谷知名fintech创业公司Strip的前首席技术官Greg Brockman，师从人工智能教父Geoffrey Hinton的Ilya Sutskever，来自多个顶尖大学的研究员等等，都成为了OpenAI的第一批造梦师。

“成为第一个实现‘通用人工智能’，并确保这一科技术造福全世界。”OpenAI来势汹汹。

独立、超前、透明、忠于全人类——这是这家非盈利机构的最初定位。

2017年8月，OpenAI开发的Dota人工智能首次在1v1对战中打败顶级人类玩家。

2019年4月，OpenAI以2:0击败了Dota2世界冠军OG。

这还只是OpenAI成就的一小部门。从建立到现在，OpenAI结果颇丰，似乎正在稳健地向实现“通用人工智能”这一目的前行。

而在另一边，2019年2月，Elon Musk宣布，由于在公司生长偏向上存在分歧，他将与公司分道扬镳。

2019年3月，Sam Altman辞去了创业加速器YC总裁一职，成为OpenAI的首席执行官。同月，OpenAI通过设立“封顶利润”部门，挣脱了非营利组织的职位。

2019年7月，OpenAI宣布将接受微软的10亿注资，正适建立互助关系。

OpenAI似乎正在一步步向商业化边缘。

我们不经要问，在这短短4年多时间，OpenAI究竟履历了什么？

而更重要的是，在一个个另外界赞叹的研究结果背后，OpenAI又到底离“通用人工智能”另有多远呢？

深挖OpenAI的生长历史和现状，问题的谜底神秘而有趣。

尽他们所能，做最好的事情

OpenAI位于旧金山第18街和福尔松街的交织口，平平武无奇的修建很难让人遐想到背后的庞大野心。

很少有人进入过OpenAI的办公楼。MIT科技评论记者Karen Hao是得以一度庐山真面的幸运儿之一。

Karen Hao在今年年头来到OpenAI，对这些科技狂人men举行了一次专访。

“在室内，空间光线富足，通风良好。一楼有几个公共空间和两个集会室，其中一个用于大型集会，叫做‘太空周游’；另一个，更像是一个装修好的电话亭，叫做‘无尽的玩笑’。这是我会见期间被限制的地方。“Karen如此形貌这一次特殊的采访。

在首席技术官Greg Brockman和Karen的访谈中，这位科技狂人如此回忆他其时决议加入OpenAI的原因。

“马斯克其时和我说，‘我想清楚了。通用人工智能可能很遥远，但如果事实不是这样呢？如果通用人工智能可能在未来五到十年内实现呢？纵然这种几率只有1%或0.1%，我们不应该仔细思量一下吗？’他的这席话引起了我的共识。”

起初，OpenAI研究院们的探索可谓天马行空，公司的扁平化结构更是进一步促成了这样的局势。

然而，这样的随性探究也导致了大偏向的模糊。

2016年5月，在一位Google研究员会见完OpenAI后表现，没人知道他们在做什么。其实OpenAI团队自己也不太清楚。他们的目的是，“尽他们所能，做最好的事情”。实在有些模糊。

”到2017年3月，也就是15个月后，向导层意识到是时候越发集中目的了。因此，Brockman和其他一些焦点成员开始起草内部文件，为通向通用人工智能铺平门路。

“可是，该历程很快袒露出致命的缺陷。当团队研究该领域的趋势时，他们意识到维持非营利性在财政上是站不住脚的。

”该领域其他团队用于获得突破性效果的盘算资源每3.4个月翻一番。Brockman认为，为了保持竞争力，他们将需要足够的资金来到达或凌驾这一指数级增长。这就需要一种可以迅速积累资金的新组织模型，同时又要使其能够忠于使命。

”思量到这一点，OpenAI于2018年4月公布了章程，这个章程是差池民众和大多数员工宣布的。该文件重新阐明晰实验室的焦点价值，但巧妙地改变了说话以反映新的现状。除了答应‘制止使用损害人类利益或过分集权的AI’，它还强调了对资源的需求。

“它说：‘我们预计需要调拨大量资源来完成我们的使命，但将始终努力以最大水平地缓解广泛的员工和股东之间的利益冲突。’”

Karen讲述了OpenAI使命的微妙变化。

时间快进到2019年3月。正如文章开头所提到的那样，OpenAI设立“封顶利润”部门，实际挣脱了非营利组织的职位。投资人可以通过注资OpenAI赢利，只不外收益上限为100倍。

这样的举动引来了一波职责——究竟Google的早起投资者也只获得了约莫20倍的资本回报率。

”这样的变化也使许多员工感应不安，他们也表达了类似的担忧。为了缓解内部动荡，向导层撰写了答疑指南，作为一系列受高度掩护的过渡文档的一部门。好比，问：‘我可以信任OpenAI吗？’ 回覆是‘是’，然后是一段解释。“

去年夏天，OpenAI正式接受微软的10亿注资。向导层向员工保证，这些更新不会在功效上改变OpenAI的研究方法。微软完全切合实验室的价值观，商业化会很遥远。

”一段时间以来，这些保证似乎都是建立的，项目依旧保持原样。许多员工也不知道他们究竟对微软答应了什么。“

不外，在和员工的访谈中，Karen感受到，“近几个月，商品化的压力加大了，做赚钱研究的需求也不再只发生在遥远的未来了。”

“不为赚钱而研究，但要为研究而赚钱。”

GPT-2的争议

让我们再回到OpenAI的研究历程。陪同组织结构的一次次剧变，OpenAI的科研是否有从众受益呢？

提到这个问题，我们不得不讲述OpenAI的智能写作模型GPT-2——这是Dota AI之外，OpenAI的另一个重磅研究结果。2019年4月，OpenAI宣布了GPT-2的存在。

GPT-2是OpenAI在自然语言处置惩罚领域的一大结果：只要按下一个按钮，模型就能凭据输入的一段台词写出气势派头类似的下一段。

然而，OpenAI并没有遵从建立之初“透明、忠于全人类”的原则，选择不公布这个“神奇”的模型。理由是，“如此强大的AI模型如果被非法分子使用，就会成为制造种种虚假言论的武器。”

这连忙引起了科学家的阻挡，认为OpenAI是自导自演了一场公关大戏。

受到争议影响，5月，OpenAI一改口径，决议了“阶段性公布”的计划，并宣称这一切其实都是他们的一场实验——为了应对研究出更大风险的AI模型的一次小演戏。

事实上，GPT-2并不是OpenAI第一次选择对其项目保密。另一个越发秘密的项目正在悄然实施。

在一系列访谈和研究后，Karen发现了OpenAI实现通用人工智能的”隐秘“计划。

“乐观派”OpenAI

对于通用人工智能，现在有两种盛行的技术理论。“乐观派”认为，我们已经完成了对通用人工智能的基础研究，只需一些工程类进步，如算力提升，并假以时日，就可以告竣。“灰心派”认为，仅靠深度学习等现有技术，我们还无法实现通用人工智能。

OpenAI在这场争论中选择了“乐观派”的态度。

”在OpenAI内部，一支名为‘先知’的团队做了一些实验，他们根据数据量和盘算能力递增的顺序训练已有的算法，以测试他们能把AI的能力向前推进几多。这些实验的效果证实了他们的直觉，即盘算驱动计谋是最好的实现通用人工智能的方法。

“这些效果在未来的约莫六个月都没有被公然，因为OpenAI视其为主要竞争优势。员工和实习生被明确指示不要透露它们，而那些脱离的人则都签署了保密协议。直到1月，OpenAI才无比低调地在一个用于AI研究的主要开源数据库中公布了一篇论文。”

“OpenAI的秘密之一就是他们的下一步行动：使用大量盘算资源对大量的文本、图像数据举行训练的AI系统。”

在这期间，OpenAI的各个团队会尽全力探索差别的AI偏向：盘算机视觉、自然语言处置惩罚、机械人，等等。每一个偏向都是一个“赌注”。

最终，一些赌注会脱颖而出，吸收其他偏向的研究结果，指出唯一的走向通用人工智能的偏向。

“它仍然拥有最重要的元素，也仍有时间去做出改变”

深思这一战略，我们似乎不难明确OpenAI的结构剧变了。

面临“第一个实现通用人工智能”的目的，OpenAI在前期渺茫的探索后终于找到了一条可行的门路。

这样的战略选择无疑需要大量的资金支撑，组织的结构变化也就随之而来。

“这种压力迫使它做出一些似乎离初衷越来越远的决议。它急于举行炒作以吸引资金和人才，捍卫其研究以期保持优势，并追逐盘算繁琐的计谋——不是因为这是通向通用智能的唯一途径，而是因为这似乎是最快的。”Karen这样评论道。

那么，OpenAI的未来是否又足够清朗了呢？

可以相信，在未来的很长一段时间，我们会连续看到他们更为炫目的研究结果。

更重要的是，OpenAI无疑有着名贵的财富。Karen认为，这里“充满了为人类的利益而真诚地努力事情的人们。换句话说，它仍然拥有最重要的元素，也仍有时间去做出改变”。

让我们用Karen和一位OpenAI前研究员的访谈记载作为末端。对于前东家的前景，这位研究员说道，

“我认为，问题是有的。一些问题来自于他们所面临的情况，而另一些问题来自于他们所吸引的目的人群。可是我以为他们在做一些正确的事情，因为我能感受到他们正带着真诚而坚定的信念实验着什么。”