来源:天天炫技
本文来自微信公众号:Founder Park (ID:Founder-Park),作者:FounderPark,头图来自:视觉中国
(资料图片仅供参考)
AI Labs 正在卷土重来,产业界比以往几十年都更加重视 AI 研究。
短短半年前,AI Labs 还是一个几乎被互联网大厂和科技公司们放弃的组织。
除了发论文,给公关部提供 PR 业绩,个别顶级学者加入带动技术人才招聘等抽象务虚的收益以外,AI Lab 较少给企业带来实际的利益,但是它的成本又高,高得离谱,企业给研究人员开的薪酬,往往会比学界高一个数量级。
在从激进狼性的卡兰尼克手里接过 Uber 之后,新任 CEO Dara Khosrowshahi 立刻取消了 Uber AI Lab。类似的事件在过去几年屡屡发生。
如果要列出一个 AI Lab 最成功的公司,那一定是 Google。
你没有任何理由否认,AlphaGo、AlphaFold、TensorFlow、Transformer 等等这些 Google Brain 和 DeepMind 为科学和技术世界带来的价值。并且,Google 自身的业务又比其他任何大公司都更能够尽快与研究成果相结合。
但现在是 2023 年,spark of AGI 初现。曾经领先的 Google Brain 成为背景板之一。
OpenAI 最终带来了引发世纪革命的大模型产品。一些笃信 AI 的人不求回报资助创立的研究机构(谢谢难得当韭菜的马斯克的 1 亿美元)——它最初就是为了对抗 Google 的 AI 霸权。
放在五年前都难以置信,它居然真的做到了。现在微软只花了动视暴雪 1/6 的成本,收割了这些想象空间无穷的技术成果。
回过头看,曾经在 AI 和深度学习领域风光无限的 Google Brain 团队,全世界 AI Lab 的榜样,为什么会沦落到失去领先优势还被外部团队兼并的境况呢?
合并:好事还是坏事?
当地时间 4 月 20 日,Google 宣布将 Google Brain 和 DeepMind 团队合并,成为新的 Google DeepMind 部门,新部门将由 DeepMind 的联合创始人& CEO Demis Hassabis 领导,Jeff Dean 担任 Google Research 和 Google DeepMind 的首席科学家。
2011 年,Google Brain 因为一项斯坦福大学与 Google 的联合研究项目而诞生;2014 年,Google 以大约 5 亿美元的价格收购 DeepMind。
前 Google Brain 高级研究员李基薰对于这次架构调整的看法:
Google 高层认为 DeepMind 的名声超过 Google Brain 团队,同时 Demis Hassabis 也完全不同意 Google 在合并后放弃 DeepMind 的名字。
这样的合并可能只是开始,未来我们或许能看到 Google 内部研究团队更大规模的架构调整。
这样的合并也许并不是双赢的,很多项目会取消、合并,人员会重新分配,自然也会带来大量研究员和管理人员的离职。
两支团队的组织文化也有区别,这会导致很多内耗和动荡,最终可能会影响整个 Google 研究团队的效率。
前 Google 科学家、出门问问创始人李志飞是这么看这次架构调整的:
合并后的部分既做研究,也有产品部分,解决了以往各自为政、算力和人力浪费的问题,也会缓解研发和产品部门脱钩的问题。
Jeff Dean 成为首席科学家,可以充分发挥工程余热;Demis 还是创业者,更有 AGI 使命感,更有战斗力。
组织方式上,新的 DeepMind 更独立,可以尽量远离 Google 因自身的极度政治正确和机构膨大带来的效率低下。
大公司的钱,科学家怎么赚?
企业会给从学校里走出来的研究者提供数倍于学校和机构的收入。
Google Brain、OpenAI、Facebook 的 FAIR...... 他们会资助数以百计的机器学习研究人员,从事纯粹的研究,至少在挖人时承诺只做纯粹的研究。
但现在的情况是,研究人员最终还是要为了业务服务,Google Brain 的团队就要考虑推荐系统、广告优化和搜索排名等业务。
机器学习不一定会带来直接的收益,但有时候它可能会大大缩减企业的成本,比如算力等,这反过来可以总结为研究团队的 KPI。
最大的价值是品牌影响力
对于 Google Brain 里从事研究的学者来说,Google 会支付高额的报酬。不过前提是你需要从事推荐系统、广告优化、搜索排名等工作,而不是纯粹的研究。Brain 拥有众多的研究人员和项目,其中许多是直接或间接盈利的。例如,许多研究人员专注于优化器、架构搜索和超参数搜索的改进。这些研究降低了一定的计算成本。
但与此同时,Google Brain(以及 DeepMind、OpenAI 等其他机构)会资助数百名机器学习研究人员从事纯粹的研究,看似只是为了研究而研究,而仍然支付比学术界高一个数量级的报酬,Google 为什么会资助这些项目?
Brain 项目为 Google 带来的首先是公司在学术界的品牌影响力,“Brain 与其他工业研究实验室竞标,聘请最优秀的研究人员,以便成为最具声望的研究团队,这反过来又将帮助他们聘请最优秀的研究人员”。毕竟,这就是美国学术界的运作方式:以资金、学生/博士后和首席研究员(PI)的三位一体为基础。
原则上,资金应该流向最有才华的 PI 和学生/博士后;学生/博士后会去有最有才华的 PI 和资金的地方;PI 会去他们能找到才华横溢的学生/博士后和资金的地方。大学对于这类的合作研究最有热情,因为他们可以从所有研究资金中抽成,而一般公司的研究实验室并不是这样的机制,这些研究实验室只会给研究院高薪用来留住他们。
学术行业的品牌影响力有两个作用:消费领域好的品牌形象、以及更容易招聘到优秀的学术人才。对于机器学习的技术人才来说,Google 显然是比 Apple 更适合的公司,虽然 Apple 本身肯定也有类似的岗位。对于想要雇佣几千名机器学习工程师的公司来说,资助一些顶级的机器学习研究人员显然是一件性价比很高的投资,这也是一种被证实的招聘策略。
当然,在当下整个行业都在削减招聘预算,那么这一项的支出也会被减少了。
催化剂:无往不胜
Google Brain 有一项政策格外引人注意,他们对于顶级学术会议、学术论文以及学术出版的不求回报的支持。
这种资源支持力度是其他公司很少见的,主要有以下原因:
1. 品牌影响力;
2. 本身学术人员就可以随时离职带走这些学术成果;
3. 这些学术成果可以成为公司科技实力进步的催化剂。
这里的催化剂理论是指:通过在与 Google 核心业务相关的关键研究领域发表学术文章,该研究方向将朝着有益于 Google 的方向发展。例如,Google 一直对更好的 NLP 技术感兴趣,而关键研究的发表,如 2014 年的 seq2seq 和 2017 年的 Transformers,催化了整个 NLP 领域的增长。Google 是少数几家拥有消费者触达能力和计算能力的公司之一,可以将 ML 部署扩展到十亿用户,因此 Google 受益于该领域的整体进步。
图片来自:Google I/O大会
是科学家,还是打工人?
TensorFlow、TPU、Google 翻译、Transformer 等等,这些 Google Brain 研究成果给 Google 带来了难以衡量的商业价值,更不要说这些研究和产品本身对行业和学术界的贡献——Transformer 最终导致了 LLM 的实现。
从这个角度看,Google Brain 是极具创新能力的,团队自由开放,形成了自上而下以研究员为中心的组织文化,每个研究员都可以自由对外表达他们的想法,接受采访,谈论成果,没有任何管理压力,这是 Jeff Dean 作为领袖和负责人带来的宽松环境。
可以想象,如果是一个商学院毕业的职业经理人,一个 MBA 出身的高管接管了 Google Brain,团队一定是另一番境况。
但是最近几年,Google 内部的经管团队越来越多地插手 Google Brain。
一方面,互联网的大环境和 AI 研究的竞争压力,逼迫 Google 意识到必须为 Google Brain 制定更加细节和具体的方向和目标。
另一方面,行业内逐渐认可了机器学习的价值,区别于数年前没人知道机器学习能带来怎样的价值,越来越多的机器学习研究成果给产业带来了实实在在的产品进步,管理产品的人们自然希望得到更多。相对的,这意味着研究团队自由探索的空间收窄了。
曾经 Google 研究员的考核和晋升标准与研究的商业价值无关,但现在,Google 会更加重视研究能够带来的商业化价值,对于曾经被承诺自由探索的研究员们来说,自由正在离他们远去,很快他们的学术价值,会慢慢变成为我们更加熟悉的“大厂打工人”的价值。
曾经最强,可现在呢?
GPT-4 发布时,很多人调侃到人类遇到了“存在危机”。
“我们的存在是虚无、荒谬的,还是真的有什么价值?”
事实上,这样的问题对于 Google Brain 团队内的研究员们来说,是一个更加现实的问题,LLM 的成功导致很多深度学习和 AI 的研究变得不再被重视。他们漫长无期的 AGI 理想,似乎在别人手里有了触手可及的明确路径。
不只是大语言模型。
Google 一度领先业界超过 10 年,TensorFlow 和 TPU 都是标杆级别的产品,一度被认为是行业最大的希望。
图片来自:Google I/O大会
但现在,PyTorch 和黄仁勋的 GPU,显然拥有远超 Google 的行业价值。
耗费大量资金成本,积累多年的深度学习,它建立的领先优势正在迅速扁平化。
进击的Google,守不住家了
这几年,Google AI 研究的催化剂理论正在失效。
一方面,机器学习给产业带来经济效益,是一件行业已有共识的事情。Google 不再像以前一样,可以轻松进入一个新的领域,带来革命性的效率迭代。
另一方面,微软和 OpenAI 的联盟,其他巨头对 AI 和机器学习的重视,也意味着 Google 在横向拓展时面临着近乎红海的竞争压力。
在这样的背景下,Google 已经从过去的“进攻”转为了“防守”。进攻性质的原创研究被大量叫停,研究者被调派到防御性质的项目上,维持核心领域的研究领先。
很多研究者因为这样的调派,选择离开 Google。
此时此刻 Google 全面转向大模型研究,也许会导致同样的问题。
不只是业务层面,人才方面也存在问题。
Google Brain 过去的研究项目包括:医学影像、天气建模、神经成像、DNA 变异检测、音乐艺术、蛋白质等等,这些都是基于深度学习向其他领域探索的研究。
这些跨学科研究有一个前提,它们往往需要更懂专业领域的人,而不只是深度学习专家。其他领域卓越的研究者,掌握深度学习的成本相对较低,远远低于深度学习专家去学习生物/化学/医学/气象/艺术......
Google 的高管们很难理解这个问题,Google Brain 招聘了大量刚刚拿到博士学位的机器学习专家,但他们很难拓展 Google 的研究边界。这导致了现在 Google Brain 研究在跨学科领域越来越难以取得突破。
同样的道理,专业领域的公司寻找机器学习的高端人才,越来越不是一件难事,更何况 Google 早就教给他们机器学习的重要性。
本文来自微信公众号:Founder Park(ID:Founder-Park),作者:FounderPark
关键词:
还在苦苦寻找优秀经典的名言吗?为大家整理的关于法律的名言警句
关于法律的名言警句(精选220句)在日常学习、工作或生活中,大家都有令自己印象深刻的名言吧,巧用名言有助于我们正确对待学习、生活、成长
怎样写方案才更能起到其作用呢?整理的项目合作实施方案
项目合作实施方案5篇为保证事情或工作高起点、高质量、高水平开展,往往需要预先进行方案制定工作,方案指的是为某一次行动所制定的计划类
楚辞影响最大的作品 《离骚》全文对照翻译
《离骚》全文对照翻译《离骚》是屈原的代表作,创作于楚怀王时期屈原遭谗被疏之时,是楚辞影响最大的作品。下面是《离骚》全文对照翻译...
写申请书时理由总是不够充分?为大家整理的退学申请书
退学申请书(精选12篇)在一步步向前发展的社会中,申请书在现实生活中使用广泛,申请书不同于其他书信,是一种专用书信。写申请书时理由总是
都有哪些类型的话语呢?为大家收集的感恩老师的话精选150句
感恩老师的话在生活、工作和学习中,越来越多人喜欢发表话语,话语是特定社会语境中人与人之间从事沟通的具体言语行为。那么都有哪些类...
关于我们 加入我们 联系我们 商务合作 粤ICP备18023326号-32
中国创氪网 www.chuanganwang.cn 版权所有
投稿投诉联系邮箱:85 572 98@qq.com