8年前马斯克和拉里·佩奇的一场争吵,拉开了这轮AI大潮的序幕

发布时间:2023-12-08 浏览量:118

2015年是一个美好而特别的年份。上证指数一度涨上5000点,X当时还叫推特,特斯拉被视为全球变暖的解决方案,虽然它还没能盈利,全世界大部分人都不相信留着一头乱糟糟金发的地产大亨能当选美国总统。那年没有ChatGPT,也没有AlphaGo,绝大多数人对AI的印象还停留在科幻电影里,把它视为许多许多年后才能实现的天方夜谭。深度学习的繁荣当时才刚刚开始,有人尝试用AI识别YouTube上的猫,准确率是
豆绘AI(douhuiai.com)12月08日 消息:

2015年是一个美好而特别的年份。上证指数一度涨上5000点,X当时还叫推特,特斯拉被视为全球变暖的解决方案,虽然它还没能盈利,全世界大部分人都不相信留着一头乱糟糟金发的地产大亨能当选美国总统。

那年没有ChatGPT,也没有AlphaGo,绝大多数人对AI的印象还停留在科幻电影里,把它视为许多许多年后才能实现的天方夜谭。深度学习的繁荣当时才刚刚开始,有人尝试用AI识别YouTube上的猫,准确率是16%。

时年7月,44岁的埃隆·马斯克在加州纳帕谷举办了为期三天的生日派对。当时的谷歌CEO拉里·佩奇(Larry Page)正是宾客之一。

马斯克和佩奇是相识十多年的老朋友。马斯克还曾开玩笑说,他偶尔会在通宵打游戏之后昏睡在佩奇家的沙发上。

派对的第一天晚上,酒足饭饱的硅谷名流们聚在院子里聊天,AI慢慢变成了对话的主题。

一切都在和谐轻松的氛围中进行,直到马斯克和佩奇聊到了“AI最终会不会取代人类”,两个人的语气开始变得严肃起来。

佩奇相信,人类最终会和AI融为一体,未来会有很多种智能争夺资源,最强大的种族将成为赢家。

马斯克则认为,一旦这种情况发生,人类将会灭亡。

佩奇对马斯克的想法不置可否,在争吵的最后,他管马斯克叫“物种主义者”,暗示马斯克更喜欢人类,而不是未来的数字生命形式。马斯克后来称,佩奇的侮辱是“压倒两人友谊的最后一根稻草”。

人群中的许多人似乎被逗乐了,当他们分散过夜时,他们认为这只是硅谷派对上经常爆发的又一场深奥的辩论。

但八年过去,这场争吵的意义日益凸显。一项可以重塑世界的技术,有可能毁灭人类吗?尖锐对立的不止马斯克和佩奇,从硅谷名流到ChatGPT用户们,再到AI学者和各国监管机构,都各执一词各自站队。

科技行业似乎很矛盾,人们既对创新的潜力感到兴奋,又对其可能的后果深感忧虑。上个月,这种对立,甚至差点儿让世界上最著名的AI创企一夜分崩离析。

而围绕AI安全的论战与商战,才刚刚开始。

01 OpenAI:伟大愿景的结晶

2015年夏天的派对结束后,马斯克和佩奇这对挚友就走向了反目。马斯克甚至笃定,一定不能让强大的AI技术落入佩奇这样的人手里。

很快,他找到了一群心怀同样愿景的人。

就在马斯克过完生日几周后,他在加州门洛帕克的一家酒店了,和山姆·奥特曼以及几名AI研究人员一起吃了一顿饭。

这场饭局直接促使一家叫OpenAI的非营利组织在当年12月诞生。在马斯克和其他资助者提供的数亿美元资金支持下,OpenAI誓要走与佩奇相反的道路,把AI这项革命性的技术用于造福人类。

正如几周前的宫斗期间,OpenAI员工齐刷刷发的那条推特:OpenAI is nothing without its people.(没有员工,OpenAI什么都不是)。

OpenAI挑战谷歌的勇气,来自其联合创始人、首席科学家伊尔亚·苏茨克维(Ilya Sutskever)。

苏茨克维出生于俄罗斯下诺夫哥罗德,在苏联时期,那个城市还叫高尔基。他5岁时随家人移民到以色列,在耶路撒冷长大。2005年毕业于多伦多大学,2012年获得CS博士学位,是深度学习教父杰夫·辛顿(Geoffrey Hinton)的学生。

2012年秋天,辛顿带着苏茨克维和另外一名学生亚历克斯·克里切夫斯基(Alex Krizhevsky)发表了一篇论文,向世界展示了AI可以做什么。他们训练了一个神经网络来识别常见的物体,如花、狗和汽车。

学术界对辛顿和学生们所开发的技术的准确性感到惊讶。当时还在百度工作的机器学习专家余凯(芯片公司地平线创始人、CEO)敏锐地意识到了辛顿团队的潜力。在他的力推下,百度提出,愿意向辛顿团队提供1200万美元,邀请他们加入百度。

辛顿没有答应,但这位一生中绝大多数时候都在学术界工作的英国侨民,开始意识到自己的研究可能价值连城。

在咨询律师和专家之后,辛顿和两名学生一起,成立了一家名叫DNNResearch的公司,然后在加州度假胜地太浩湖组织了一场盛大的拍卖会,拍卖的对象就是这个没有产品,没有资产,只有三名员工的公司。谁竞拍成功,辛顿和学生们就会加入那家公司。

入围竞拍的公司有四家:DeepMind、百度、微软和谷歌。竞拍的规则是,起价1200万美元,抬价单位至少100万美元。

辛顿在酒店房间里主持了拍卖会,由于腰椎旧伤,他很少坐下。他把一个垃圾桶倒过来放在桌子上,把笔记本电脑放在上面,看着接下来两天的出价滚滚而来。

随着价格的上涨,当时还是初创企业的DeepMind迅速退出。根据文件记录,剩下的三家巨头将出价推高至2000万美元,然后是2500万美元,3000万美元。微软选择了退出。

最后剩下的百度和谷歌把价格抬到了4200万美元,然后是4300万美元。

当谷歌最终报出4400万美元的价格时,辛顿和他的学生们停止了拍卖,从心理上来说,他们更愿意加入一家硅谷本地的、自己更熟悉的公司,谷歌赢了。

追随辛顿加入谷歌的苏茨克维,在29岁这年分到了1320万美元的巨款,再加上谷歌为他提供的每年上百万美元的年薪,早已实现财富自由。

但在2015年,当接到奥特曼的offer时,苏茨克维答应了。为了一个抽象而遥远的AGI愿景,他选择离开谷歌,降薪加入当时看来前途未卜的OpenAI,成为日后奠定GPT技术基座的关键人物。

02 DeepMind:有效利他主义的失败

2010年,在马斯克与拉里·佩奇发生争吵的五年前,时年34岁的神经科学家德米斯·哈萨比斯(Demis Hassabis)走进了亿万富翁彼得·蒂尔(Peter Thiel)旧金山联排别墅的鸡尾酒会。

为了这次会面,哈萨比斯已经准备了一年。他正在和其他两位住在英国的同事一起,为了打造“通用人工智能”(AGI,一种可以像人类一样完成任何复杂工作的超级AI)筹集资金。

当时,很少有人对AI感兴趣。经过半个世纪的研究,AI领域还没有产出任何能媲美人脑的东西。

但哈萨比斯和他的同事们关注的东西则要宏大得多。他们都属于网上一个以AI科学家埃利泽·尤德科夫斯基(Eliezer Yudkowsky)为首的社群“有效利他主义者”。

这些人相信,AI可以找到治愈癌症的方法或解决气候变化问题,但他们担心AI机器人可能会做一些他们的创造者没有想到的事情。有效利他主义者认为,如果机器变得比人类更聪明,可能会攻击人类。

彼得·蒂尔是一个理想的投资人。这位亿万富翁对对奇点(即智能技术不再被人类控制的时刻)有着浓厚的兴趣。而且已经在资助尤德科夫斯基的AI研究项目,这次会面,也是尤德科夫斯基安排的。

自小学习国际象棋的哈萨比斯成功把蒂尔迷住了。很快,蒂尔和他的风险投资公司同意向他们的创业公司投资140万英镑(约合225万美元)。成为这家名叫DeepMind的初创公司的第一个主要投资者。

DeepMind的三位创始人相信,最了解AI的那些人(比如他们自己),也更能把握AI研发的风险,所以能把人类的福祉放在第一位。

DeepMind三位创始人之一的穆斯塔法·苏莱曼(Mustafa Suleyman)曾表示:

“我不认为这是一个矛盾的立场,这些技术带来了巨大的好处。目标不是消除它们或暂停它们的发展。目标是减轻不利因素。 

在赢得蒂尔之后,哈萨比斯博士很快进入了马斯克的视野。大约两年后,他们在蒂尔的投资基金组织的一次会议上相遇,这个基金会也向马斯克的SpaceX投入了资金。哈萨比斯博士参观了SpaceX总部,两人在SpaceX的食堂聊了起来。

马斯克说,他的计划是殖民火星,以逃避地球上的人口过剩和其他危险。哈萨比斯则指出,这个计划也许会奏效,只要未来可能毁灭世界的超级智能机器不会一路从地球追到火星去。

马斯克无言以对。他没有想过这种特殊的危险。很快,他开始担心起了AI的安全性,并和蒂尔一起投资了DeepMind。

但好景不长。2014年,谷歌在与Facebook的竞争中胜出,买下了DeepMind。

2015年8月14日,DeepMind伦理委员会召开了第一次会议。该委员会是在初创公司创始人的坚持下成立的,以确保他们的技术在出售后不会受到损害。

现在牢牢控制着DeepMind的三位谷歌高管出席了会议:拉里·佩奇;谷歌联合创始人兼特斯拉投资者谢尔盖·布林(Sergey Brin);以及谷歌董事长埃里克·施密特(Eric Schmidt)。其他与会者包括PayPal的另一位创始人里德·霍夫曼(Reid Hoffman)和研究“存在风险”的澳大利亚哲学家托比·奥德(Toby Ord)。

DeepMind的创始人报告说,AI技术存在严重的风险。

DeepMind的联合创始人苏莱曼告诉董事会,AI可能会导致虚假信息的爆炸式增长。他担心,随着这项技术在未来几年取代无数工作岗位,公众会指责谷歌窃取了他们的生计。他认为,谷歌需要与数百万无法再找到工作的人分享其财富,并提供“普遍的基本收入”。

马斯克对此表示同意。但很明显,谷歌并不这么想。

施密特云淡风轻地说,这些担忧完全被夸大了。而佩奇则认为,AI创造的就业机会比它摧毁的岗位数量更多。

八个月后,DeepMind取得了震惊AI社区和世界的突破。一个名为AlphaGo的AI在围棋比赛中击败了世界上最好的棋手之一,比行业内的预期早了十年。这场比赛通过互联网直播,全球有2亿人观看。

有效利他主义者和其他担心AI风险的人声称,AI的胜利证实了他们的担忧。DeepMind的创始人越来越担心谷歌会用他们的发明做什么。2017年,他们试图脱离公司。谷歌的回应是,提高DeepMind创始人及其员工的工资和股票奖励待遇。他们最终没有选择离开。

再到后来,连收购时承诺的独立运营也结束了。今年4月,DeepMind与谷歌内部的AI研究部门谷歌大脑合并,变成了一家属于谷歌的inhouse AI机构。

伦理委员会再也没有召开过第二次会议。

03 Anthropic:美好愿景的分裂

在成立之后的几年里,OpenAI在有条不紊地推进着GPT大模型的开发,大多数时候,它在公共视野中都默默无闻。

随着已被谷歌收入囊中的DeepMind,凭借击败世界冠军的围棋AI AlphaGo大放异彩,吸引全球注意力,马斯克开始着急了。

他觉得OpenAI的研发进度实在是太慢了,他想让OpenAI团队能尽快做出一些吸引眼球的东西,把谷歌的风头压下去。

四位知情人士对媒体透露,2017年底,马斯克开始谋划,从奥特曼和其他创始人手中夺取OpenAI的控制权,并将其转变为商业运营,最终并入特斯拉,依靠特斯拉的超级计算机,加速AI研究。

但他的计划失败了,所有高管对他的提议一致表示反对。马斯克最终选择辞职,并在辞职声明中宣称他要专注特斯拉的AI研发,因此和OpenAI有了利益冲突。

据知情人士透露,2018年2月,他在OpenAI办公室顶层宣布离开的消息,还在讲话中敦促OpenAI需要加快行动,台下有人反驳说,马斯克太鲁莽了。

马斯克毫不客气地回敬说,这名研究人员是个“混蛋”(jackass)。

根据媒体报道,分道扬镳之后,马斯克和奥特曼彼此之间几乎不再有来往。

奥特曼后来表示:

“这其中存在分歧、不信任和自负。人们的目标方向越接近,就越容易产生分歧……就连最亲密的人之间也会有激烈的斗争。” 

马斯克也撤回了当初注资的一亿美元。根据TechCrunch调查,税务记录显示,马斯克实际是只捐助了其中的1500万美元。

摆在OpenAI面前的问题很严峻:开发AGI不是动动嘴皮子就能完成的事情,这项伟大的事业需要钱,很多很多钱。

最终,八面玲珑的奥特曼为公司解决了难题。2019年,OpenAI从微软那里筹集了十亿美元和用不完的算力资源,代价是,要在非营利组织的架构下,再成立一家有营利上线的限制性营利实体,并且要给微软的服务提供技术支持。

虽然公司有了钱,但并非OpenAI内部的每个人都感到高兴。

比如创始员工之一的达里奥·阿莫迪(Dario Amodei),他也是当时负责LLM开发的领导者之一。

阿莫迪对与微软的交易并不满意,他认为,这会把OpenAI带向商业公司的方向。据五位知情人士透露,他联合了其他一些研究人员向董事会施压,希望能把奥特曼赶下台。

但他们的计划同样没能成功。由于担心微软可能会为了商业利益,而不顾AI安全。阿莫迪和其他几位研究人员选择了离开。

2021 年,这个由 15 名工程师和科学家组成的小组创建了一个名为Anthropic的新实验室。力图把AI安全放在绝对优先的位置。

但Anthropic似乎没能避免类似OpenAI的命运。两年后,Anthropic接受了亚马逊的40亿美元投资,又接受了谷歌的20亿美元投资。从模型的质量和用户规模上看,Anthropic目前也落后于OpenAI的ChatGPT。


声明: 本站所有文章,如无特殊说明或标注,均为网友发布。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。