对于未来 ChatGPT背后的老板并不担心 但他知道你可能会

编者按：ChapGPT 背后公司的老板是一位很像比尔·盖茨的人。但他最突出的能力不在于技术，而在于洞悉未来与说服人的本领。正是因为 OpenAI 采取了让利的策略，让这家创业公司拿到了巨额投资，同时也因为它没有太多顾忌地将 AI 技术推向消费者，从而成为有史以来突破一亿用户最快的组织。对于未来，山姆·奥特曼（Sam Altman）很乐观，但他知道你也许会担心。文章来自编译。

我第一次见到 山姆·奥特曼（Sam Altman） 是在 2019 年夏天。几天前，微软同意向他那家成立 3 年的初创公司 OpenAI 投资 10 亿美元。在他的建议下，我们到离他位于旧金山的家不远的一家现代风格的小餐馆吃晚饭。

(资料图片)

吃到一半时，他举起了他的 iPhone，好让我看到他用了过去几个月的时间与全球最大科技公司之一谈下来的合同。上面写道，微软投资的数十亿美元将帮助 OpenAI 开发出所谓的通用人工智能 (AGI)，也就是一种可以做人类大脑能做的任何事情的机器。

后来，当奥特曼喝着甜酒当作甜点时，他把自己的公司比作曼哈顿计划。他说美国在二战期间制造原子弹的努力是一个“OpenAI 级别的项目——我们的抱负是渴望做到那种程度”，说话的口吻平常到仿佛他在讨论明天的天气预报一样。

他相信 AGI 会给世界带来前所未见的繁荣和财富。他还担心他的公司正在开发的技术可能会造成严重伤害——传播虚假信息，破坏就业市场。甚至摧毁我们所知道的世界。

他说：“我尽量开诚布公。我做的是不是好事？还是真的很糟糕？”

2019 年的时候说这样的话，听起来仿佛在看科幻小说。

2023 年，人们开始怀疑奥特曼的先见之明是不是超出了他们的想象。

现在 OpenAI 已经发布了在线聊天机器人 ChatGPT，任何有互联网连接的人与能回答各种问题的技术都只要一步之遥——比如有机化学亟待解决的问题，写一篇关于马塞尔·普鲁斯特与他的玛德琳的 2000 字的学期论文，甚至生成一台计算机在笔记本电脑屏幕上投放数字雪花的程序这样的要求都可以满足。所有这些似乎都是人类才具备的技能。

随着人们意识到这项技术也是一种传播谎言，甚至是说服人们做他们不应该做的事情的手段，一些批评者指责奥特曼的鲁莽行为。

比如最近有一千多名人工智能专家和技术领袖呼吁 OpenAI 等公司暂停在 ChatGPT 等系统上的工作，称它们“对社会和人类构成了极大风险”。

然而，当人们表现得好像奥特曼几乎实现了他长期以来的愿景时，他却开始反击了。

他在最近的一个下午告诉我：“对这些系统的炒作——即便我们希望的一切从长远看都是对的——但在短期内则是完全失控的”。他说，需要时间来更好地了解这些系统最终会如何改变世界。

很多行业领导者、人工智能研究人员以及权威人士都把 ChatGPT 视为一项根本性的技术转变，认为它跟网络浏览器或 iPhone 的发明一样重要。但很少有人能就这项技术的未来达成一致。

部分人认为它将带来一个乌托邦，人人都将拥有所需要的一切时间与金钱。其他人则认为它会毁灭人类。还有一些人花费了大量时间来争论，质疑这项技术根本不像每个人所说的那么强大，坚持认为天堂与世界末日都不像看起来那么近。

奥特曼来自圣路易斯郊区的，今年 37 岁，既是创业者也是投资者。他长得很瘦，一脸孩子气，尽管外面波浪滔天，他却巍然不动。作为 OpenAI 的首席执行官，不知怎地，这些看似矛盾的观点在他身上都有体现，似乎在希望将这种奇怪、强大、有缺陷的技术推向未来时能平衡无数的可能性。

这意味着他经常受到来自各个方面的批评。但与他最亲近的人认为这是理所当然的。 OpenAI 总裁 Greg Brockman 说：“如果你能同时让两个极端的人都感到不安，那你肯定就做对了。”

与奥特曼呆在一起，就是为了了解硅谷将推动这项技术向前发展，尽管硅谷自己也不太确定其潜在影响是什么。在我们 2019 年的那次晚餐上，他曾引用了曼哈顿计划负责人罗伯特·奥本海默的话，后者认为原子弹是科学进步的必然产物。 他说：“技术之所以会发生，是因为它是可能的”。 （奥特曼指出，仿佛命中注定，他跟奥本海默都是同一天生日。）

他相信不管是以何种形式，人工智能都会发生，它会做出连他自己都无法想象的奇妙事情，但我们可以找到缓和人工智能可能造成的危害的方法。

这种态度也是奥特曼自身轨迹的体现。在一套有效的个人技能的推动下，他的生活一直都是芝麻开花节节高——而且我们还没提到他的运气。他相信会发生的是好事而不是坏事，这是说得过去的。

但如果他错了，还有一个逃生口：在与微软等投资者的合同中，OpenAI 的董事会保留了随时关闭该技术的权利。

素食的肉牛农场主

与标志上除了行车路线以外，还有一条警告：“小心奶牛”。

奥特曼周末的度假去处是加州纳帕市的一个牧场，那里有农场工人种植酿酒葡萄，饲养奶牛。

这一周，奥特曼和他的搭档、澳大利亚软件工程师 Oliver Mulherin 住在旧金山市中心俄罗斯山（Russian Hill）的一所房子里。但随着星期五的到来，他们搬到了牧场，一个安静的地方，位于布满青草的岩石山丘之间。那间房子已经有 25 年的历史，经过了改建，看起来既朴实又现代。覆盖外墙的 Cor-10 钢已完全生锈。

接近他的住处时，可以看到在绿色原野与碎石路上闲逛的奶牛。

奥特曼这个人好像活在矛盾之中，这一点即便在他的度假屋里也是如此：一个饲养肉牛的素食主义者。他说他的伴侣喜欢这些动物。

在最近一次的下午，我们一起在牧场散步，途中在一个小湖边停下来休息。眺望水面，我们再次讨论起人工智能的未来。

自 2019 年以来，他发出的讯息并没有太大变化。但他的话现在更加大胆了。

他说，他的公司正在开发的技术将“解决我们最紧迫的一些问题，将真正提高人们的生活水平，并为人类的意志与创造力找到更好的用途。”

他不确定这个东西将解决什么问题，但关于有哪些可能性，他认为 ChatGPT 显示出了一些初步迹象。然后马上他又担心起如果同样的技术落入到坏人手中时，可能会造成的严重危害来。

奥特曼倾向用仿佛已经存在的口吻来描述未来。在描述时他的那种乐观态度似乎与当今世界的氛围格格不入。与此同时，他有办法对另一方的意见快速点头认可。

对此，曾与奥特曼一起共事，担任过 OpenAI 的董事会顾问，身为风投公司 Thrive Capital 合伙人的Kelly Sims表示，这就好像他一直在跟自己争论一样。

她说：“在一场对话中，他既是辩论俱乐部的正方，也是反方。”

他是硅谷的产物，在 2010 年代中期发展得如此迅速、如此得意忘形的那个科技中枢的产物。作为硅谷创业加速器、种子轮投资者 Y Combinator 的总裁， 2014 年到 2019 年间，他为雨后春笋般冒出来的新公司提供建议——而且是足够精明的建议，有好几家家喻户晓的公司（包括 Airbnb、Reddit 和 Stripe）都是他亲自投资的。对于能够看出一项技术何时将取得指数级的增长——然后站在风头浪尖走向未来，他感到很自豪。

但他也是一个奇怪的、不断滋长的在线社区的产物，大概在奥特曼来到硅谷的同时，这个社区也开始担心起人工智能有朝一日会毁灭世界。这一运动的成员被称为是理性主义者或利他主义者，他们在创立 OpenAI 方面发挥了重要作用。

问题是奥特曼的两面性最终能否兼容：如果这项技术的发展可能以灾难告终的话，那么站上风头浪尖还有没有意义？奥特曼当然下定决心要看看结果如何。

他打算这么做未必是受金钱驱使。就像硅谷的许多个人财富都已经与各种各样的上市及非上市公司捆绑在一起一样，奥特曼的财富也没有得到很好的记录。但当我们在他的牧场漫步时，他第一次告诉我，他手上并没有 OpenAI 的股份。他唯一能从公司赚到的钱是约 65000 美元的年薪，再加上Y Combinator 过去曾投资过这家公司，他手头也有一小部分。

关于奥特曼的动机，他的长期导师、Y Combinator 创始人保罗·格雷厄姆 (Paul Graham) 是这样解释的：“他为什么要从事不能让他变得更富有的事情？一个答案是，很多人一旦有了足够的钱之后就会这样做，奥特曼可能就是处于这个原因。另一个是他喜欢权力。”

“比尔·盖茨年轻的时候肯定就是他这样的”

私立预科学校约翰·巴勒斯学校 (John Burroughs School)是以 19 世纪美国博物学家和哲学家的名字来命名的。1990 年代后期， 该校邀请了一位独立顾问来观察其位于圣路易斯郊区的校园的日常生活，并给出评论。

顾问的意见当中包括一条严厉批评：学生群体中充斥着恐同症。

2000 年代初期，约翰·伯勒斯学校 17 岁的学生奥特曼开始致力与改变这里的文化，他独自一人说服老师在教室门贴上“安全空间”的标志，以此来作为支持同性恋学生（比如他）的声明。大四那年，他正式出柜，说他十几岁时的圣路易斯对于同性恋来说不是一个容易呆的地方。

教授该校大学预修计算机科学课程的Georgeann Kepchar将奥特曼视为她教过的最有才华的计算机科学学生之一，并称他具有将人们推向新方向的罕见本领。

她说：“他有创造力，有远见，再加上有雄心壮志和人格力量，可以说服其他人与他合作，能将他的想法付诸实践”。奥特曼还告诉我，他曾要求一位特别恐同的老师张贴“安全空间”标志，就为了嘲笑一下那个人。

与奥特曼一起工作了十年的格雷厄姆在这个来自圣路易斯的人身上看到了同样的说服力。

格雷厄姆说：“他天生就有说服别人的能力。如果这不是天生的能力，那至少在他 20 岁之前就已经完全培养出来了。我第一次见到奥特曼是在他 19 岁的时候，我记得当时我在想：‘比尔·盖茨年轻的时候肯定就是他这样的。 "”

两人相识于 2005 年，当时奥特曼的创业公司向 Y Combinator 的第一批次训练营提出了申请。他赢得了一个名额，并且拿到了 10000 美元的种子资金，在斯坦福大学上到大二之后，他退学创办了自己的新公司 Loopt，这是一家社交媒体初创企业，可以让人们与家人朋友分享自己的位置。

回忆起当年在斯坦福的短暂停留，他说自己从玩扑克的许多夜晚学到的东西比他从大多数其他大学活动中学到的还要多。大一结束后，他到吴恩达教授（教授后来创建了谷歌的旗舰AI实验室）负责的人工智能与机器人实验室工作。但玩扑克教会了奥特曼如何读懂人和评估风险。

扑克向他展示了“如何逐步观察人的行为模式，如何在非常不完善的信息下做出决定，为了获取更多信息，如何（在某种意义上）决定什么时候忍受痛苦是值得的”。他在纳帕的牧场漫步时告诉我：“这是很好的游戏。”

在出售 Loopt 获得微薄回报后，他以兼职合伙人的身份加入了 Y Combinator。三年后，格雷厄姆辞去了公司总裁一职，出乎硅谷许多人的意料，他选择了当时才 28 岁的奥特曼作为他的继任者。

奥特曼不是码农、不是工程师或 AI 研究人员。他是制定议程、将团队凝聚到一起并达成交易的那个人。接任 Y Combinator 的总裁后，他几乎毫不犹豫地开启公司的扩张势头，不仅启动了一支新的投资基金，成立了一个新的研究实验室，还将每年提供咨询的公司数量增加到数百家。

他还开始从事投资公司以外的几个项目，其中就包括了 OpenAI，这是 2015 年他与埃隆·马斯克等团队共同创立的一家非营利组织。 奥特曼自己也承认，Y Combinator 越来越担心他的注意力过于分散了。

他决心将注意力重新集中在一个（如他所说那样）将对世界产生真正影响的项目上。他考虑过政治，但最终选择了人工智能。

根据奥特曼的弟弟 Max 的说法，奥特曼相信自己是为数不多的可以通过 AI 研究让世界发生重大改变的人之一，而且不是像很多人那样靠政治来做到这一点。

2019 年，正当 OpenAI 的研究刚刚起步时，奥特曼辞去了 Y Combinator 总裁一职，个噢来接手OpenAI，把自己的注意力放在一家员工不到 100 人、还不确定该如何支付账单的公司。

在一年之内，他把 OpenAI 变成了一家拥有营利性部门的非营利组织。这样一来，他就可以筹集到所需的资金，去建造一台可以做人脑能做的任何事情的机器了。

融资“100 亿美元”

2010 年代中期，奥特曼与当时的男友、他的两个兄弟以及他们的女朋友合租了一套三居室、三浴室的旧金山公寓。2016 年，兄弟俩分道扬镳，不过大家还都在一个聊天群里面，他们花了很多时间互相吐槽，只有兄弟姐妹才能做到这样。然后，有一天，奥特曼发了一条短信，说他计划为公司的研究筹集 10 亿美元。

后来不到一年的时间，他就做到了。在爱达荷州太阳谷（Sun Valley）举行的科技领袖年度聚会（通常被称为“亿万富翁的夏令营”）上，在遇到了微软首席执行官萨蒂亚·纳德拉后，他亲自与纳德拉以及微软的首席技术官凯文·斯科特（Kevin Scott）谈判，最终达成了协议。

几年后，奥特曼再次给他的兄弟们发了一条短信，说他打算再筹集 100 亿美元。今年一月，他又做到了，跟微软又签订了一份合同。

OpenAI 总裁 Brockman 表示，奥特曼的才能在于了解别人想要什么。Brockman告诉我： “他总是设法找到对一个人最重要的东西——然后弄清楚如何把别人想要的东西给到对方。这就是他反复使用的算法。”

这份协议让 OpenAI 与微软站在了一场运动的中心——而这场运动有望重塑从搜索引擎到电子邮件应用乃至于在线辅导的一切。所有这一切发生得太快，快到甚至让那些几十年来一直在追踪这项技术的人都感到惊讶。

在这种狂热之中，奥特曼还是一如既往地冷静——尽管他确实说他用 ChatGPT 来帮助快速总结所收到的大量电子邮件和文件。

斯科特认为奥特曼最终将可以与盖茨、史蒂夫·乔布斯以及马克·扎克伯格比肩。

他说：“这些人给科技行业乃至世界的结构留下了不可磨灭的印记。我认为奥特曼将成为其中的一员。”

问题是，与苹果、微软以及 Meta 刚刚起步的日子不同的是，现在人们很清楚技术将如何改变世界——以及它会有多么危险。

站在中间的那个人

今年 3 月，奥特曼在推特上发布了一张自拍，沐浴在淡橙色的闪光下，照片上的他微笑着站在一位金发女人与一个戴着浅顶软呢帽的大胡子男人之间。

这位女士是加拿大歌手Grimes，马斯克的前妻，戴帽子的是Eliezer Yudkowsky，他自称是人工智能研究人员，并且相信人工智能有朝一日会毁灭人类，或许在这一点上没人比他更加坚定。

这张自拍照是奥特曼在他的公司举办的派对上拍摄的——这说明了他与这种思维方式的接近程度。但他对人工智能的危险有自己的看法。

Yudkowsky 和他的著作对于 OpenAI 以及 DeepMind （另一家致力于开发通用人工智能的实验室）的创立发挥了关键作用。。

他还帮助催生了一个庞大的理性主义者与有效利他主义者的在线社区。这群人坚信，人工智能会给人类带来生存风险。这个具有惊人影响力的团体的代表是许多顶级人工智能实验室（包括 OpenAI 在内）的研究人员。他们并不认为这种态度是虚伪：他们当中有许多人认为，正因为他们比其他任何人都更清楚地了解个中的危险，所以他们才是开发这项技术的最佳人选。

奥特曼认为，有效利他主义者对 AI 的崛起发挥了重要作用，他们提醒这个行业要注意危险。他还认为这帮人夸大了这些危险。

随着 OpenAI 开发出 ChatGPT，包括谷歌和 Meta 在内的许多其他公司也在开发类似的技术。但选择与世界分享技术的是奥特曼与 OpenAI。

这个领域有很多人批评这一决定，认为这引发了一场技术的发布竞赛。这些技术会把东西搞错，会捏造事情，并可能很快会被用来迅速传播虚假信息。最近，意大利政府以担心隐私问题和对向未成年人提供露骨内容为由暂时禁止该国使用 ChatGPT。

奥特曼认为，与其在全面发布之前完全闭门开发和测试这项技术，不如逐步将它共享出来会更安全，这样每个人都可以更好地了解有哪些风险以及如何应对这些风险。

他告诉我，这将是一次“进展非常缓慢的起飞”。

当我问奥特曼，当人脑可以做的任何事情机器也可以做时，会不会最终将人类劳动的价格降为零，他表示反对。他说他没法想象一个人类智慧将毫无用处的世界。

如果他错了，他认为自己也可以弥补人类。

他已经对 OpenAI 进行了重组，让这家公司变成他所谓的有利润上限（capped-profit）的公司。正因为次，他才可以通过向微软等投资者承诺出让利润来寻求数十亿美元的融资。但这些利润是有上限的，任何额外的收入都将被抽回到 2015 年成立的那家 OpenAI 非营利组织。

他有一个宏伟想法，那就是 OpenAI 将通过创建出 AGI 来获取全世界大部分的财富，然后将这些财富重新分配给人们。在纳帕，当我们坐在他牧场中心的湖边聊天时，他抛出了几个数字——1000 亿美元、1 万亿美元、100 万亿美元。

如果 AGI 确实能创造出所有这些财富的话，他不确定公司将如何重新分配这些财富。在这个新世界里，金钱可能意味着非常不一样的东西。

但正如他曾经告诉我的那样：“我觉得 AGI 在这方面可以提供帮助。”

关键词：