微信号
15618884964
专题:马斯克起诉OpenAI及其CEO 后者回应:绝对不认可
当地时间2月29日,马斯克向OpenAI提起诉讼,一封诉讼书提交给旧金山高等法院。
OpenAI在注册成立时签署了一份《成立协议》,协议规定了公司应该作为非营利性组织运营,以为人类社会开发AGI技术为宗旨,并保持开源开放的原则。基于这些条款,马斯克与格雷戈里·布罗克曼(Gregory Brockman)和萨姆·奥尔特曼(Sam Altman)一起完成了OpenAI的初创。马斯克认为现在的OpenAI违反了《成立协议》,因此有了本案的重要诉由之一。
条款中部分内容生效的关键是OpenAI是否达到了通用人工智能AGI的水平,这将是诉讼最重要的一条火线。马斯克认为GPT-4已达到AGI的门槛,OpenAI和微软对AGI的研究则更加深入。微软没有从OpenAI获取和使用AGI技术的许可权,但GPT-4却已经集成到微软的众多产品当中。
诉讼书提到:“OpenAI已转变为世界上最大的科技公司微软的事实上的闭源子公司。在其新董事会的领导下,它不仅正在开发而且实际上正在完善AGI,以实现微软利润最大化,而不是为了人类的利益。”
马斯克对OpenAI提出了包括违反合同、违反信托责任和不公平商业行为在内的索赔,并要求该公司恢复开源。OpenAI、布罗克曼和奥尔特曼三者都是本案的被告方,马斯克请求颁布禁令,阻止被告以及微软从OpenAI的通用人工智能技术中获利。对于审判后确定一般性的、补偿性的和惩罚性赔偿,马斯克将向非营利组织或慈善机构捐款。
此外,诉讼书描述了OpenAI成立的前后过程,尤其是马斯克参与创办和运营OpenAI的多年经历,并勾勒出OpenAI发展至今的脉络。本文根据诉讼书整理,其中事件和脉络仅代表原告一方的说辞。
AGI的威胁
这次起诉被放到了人工智能发展的范式转变的大背景当中,并解释了马斯克对人工智能担忧的起因和长久以来的努力。
在谷歌收购DeepMind之前,马斯克认识了DeepMind的联合创始人德米斯·哈萨比斯(Demis Hassabis)。2012年,在一次位于SpaceX工厂的会面中,哈萨比斯强调了人工智能的潜在危险。这次谈话之后,马斯克越来越关注人工智能。
2013年底,马斯克得知谷歌正计划收购DeepMind,他对此深感忧虑。因为在一次与谷歌当时的首席执行官拉里·佩奇(Larry Page)的谈话中,佩奇对人工智能的危险漠不关心。
为了防止DeepMind强大的技术落入谷歌之手,马斯克和PayPal的联合创始人卢克·诺塞克(Luke Nosek)计划筹集资金收购DeepMind。两人在一次长达一小时的电话会议中试图说服哈萨比斯,但以失败告终。
2014年,谷歌收购了专注于深度学习的DeepMind。DeepMind最初的开发项目之一是AlphaZero,一种国际象棋算法。除了游戏规则,AlphaZero对其它知识一无所知,但经过“强化学习”训练后成了当时世界上最强的国际象棋系统。
在DeepMind团队的帮助下,谷歌迅速成为AGI竞赛的领跑者。马斯克对此深感不安。他相信,在谷歌这样一家封闭的营利性公司手中,AGI对人类构成了严重的危险。诉讼书中提到,2014年,要在核心业务上与谷歌竞争已经很困难了。
诉讼书强调,这没有阻止马斯克继续确保人工智能安全发展的实践。2015年,马斯克与奥巴马讨论了人工智能和人工智能的安全问题,期间马斯克解释了人工智能的危险,并倡导监管。“奥巴马明白人工智能的危险,但监管从未到来”。同一年,马斯克认识了奥尔特曼。
OpenAI成立前后
奥尔特曼找到马斯克,称同样对超级人工智能(SMI)的威胁感到担忧。诉讼书提到了奥尔特曼的原话,他认为:“超级人工智能的发展可能是对人类持续存在的最大威胁。我认为还有其他威胁更会发生,但不太可能毁灭宇宙中的每个人类,然而超级人工智能就可以做到这一点。”同年晚些时候,奥尔特曼向马斯克建议联手组建一个非营利性人工智能实验室,用跟谷歌相反的方式,在AGI的竞赛中赶上谷歌。
2015年3月,在奥尔特曼的建议下,他与马斯克着手准备一份致美国政府的公开信,呼吁监管人工智能,并联系人工智能领域有影响力的人士共同署名。这一举动引起了哈萨比斯的注意,2015年4月,哈萨比斯联系马斯克确认了此事。五天之后,哈萨比斯宣布了谷歌DeepMind人工智能伦理委员会的第一次会议,并邀请马斯克作为委员会的成员主持。
第一次会议之后,马斯克认识到这个委员会只是一个试图放慢人工智能监管的幌子。马斯克和奥尔特曼的公开信于2015年10月28日发出,签名者超过11000人,包括斯蒂芬·霍金(Stephen Hawking)和史蒂夫·沃兹尼亚克(Stephen Wozniak)。
OpenAI于2015年12月8日注册成立,马斯克和奥尔特曼被任命为OpenAI联合主席,布罗克曼被任命为首席技术官。注册之前,一份《成立协议》被商定,协议规定这个新的实验室将为了人类的利益发展AGI,将是非盈利性的,而不是寻求股东利润最大化的;将是开源的,只平衡对立的安全考虑,不会出于商业原因而将其技术封闭和保密。
为了反映成立协议,马斯克将这个人工智能实验室命名为“OpenAI”。同时,这份协议也被记录进公司的注册证书中。
诉讼书中提到,奥尔特曼、布罗克曼和OpenAI在多个场合重申,马斯克是创建OpenAI的推动力量,在最初的几年中贡献了公司的大部分资金,并为研究方向提供建议。最重要的是,马斯克招募了一些世界领先的科学家和工程师,包括首席科学家伊利亚·萨特斯科弗(Ilya Sutskever)。
诉讼书强调,如果没有马斯克的创始贡献和早期领导,就不会有OpenAI公司。当时谷歌DeepMind不断地在招聘,并提供了丰厚薪酬,“因此为OpenAI招聘员工是一项艰巨的任务”。
在马斯克的努力下,OpenAI从谷歌挖来了科学家伊利亚。这一举动引起了谷歌反击,谷歌开始向OpenAI新员工提出了越来越丰厚的还价。
这时候,马斯克认为需要重新考虑现有员工的薪水,“要么我们找到世界上最好的人,要么我们就会被DeepMind打败。只要能培养出王牌天才,我无所谓。DeepMind给我带来了极大的精神压力,如果他们赢了,这将是真正的坏消息。他们显然正在取得重大进展,鉴于那里的人才水平,取得进展是理所当然的。”
根据诉讼书,马斯克在2016年向OpenAI捐赠了超过1500万美元,在2017年捐赠了近2000万美元,两次都超过任何其他捐赠者。2016年至2020年9月期间,马斯克共向OpenAI捐赠了超过4400万美元。
此外,马斯克还通过Musk Industries公司租赁了OpenAI在旧金山先锋大厦的办公空间,并支付了月租金。这段时间,马斯克定期访问OpenAI,出席了重要的里程碑活动,例如2016年向OpenAI捐赠第一台DGX-1 AI超级计算机。
2017年,布罗克曼等人建议将OpenAI从一个非营利性机构转变为一个盈利性机构。经过几周的沟通,马斯克表示他只为一家非盈利组织提供资助,而不是给创业公司提供免费资金。沟通以布罗克曼等人承诺继续维持OpenAI非营利结构而告终。
2018年2月21日,马斯克辞去OpenAI联席董事长职务,但仍然在当年捐赠了约350万美元。
2019年3月11日,OpenAI宣布将创建一个营利性子公司OpenAI LP,消息公布后,马斯克联系奥尔特曼,要求他“明确表示我在OpenAI的营利性部门中没有经济利益。”当年,马斯克额外捐赠了348万美元。
OpenAI从开源到闭源
OpenAI最初的工作很大程度上遵循了DeepMind的脚步,使用强化学习玩游戏。然而,OpenAI不是玩下棋,而是玩一款策略游戏Dota 2。 OpenAI团队构建了一个模型,用这个模型击败了卫冕世界冠军团队,展示了“自我对弈”强化学习可以在困难的任务上取得超人的表现。
与此同时,谷歌创建了一种名为“Transformers”的算法来解决深度学习在理解长文本序列时面临的许多问题。OpenAI的研究人员发现,Transformers算法可以在没有预训练的情况下执行许多自然语言任务。更令人吃惊的是,通过使用Transformer架构,一个预训练的深度神经网络可以生成新的文本。
2018年1月,OpenAI发布了GPT的源代码和训练模型,同时发布了一篇描述该模型及其功能的详细论文。
2019年,OpenAI发布了GPT-2,同样有一份详细的论文描述了这个模型。在发布GPT-2的同时,OpenAI还发布了由OpenAI科学家以及独立社会和技术科学家共同撰写的详细论文,论文解释了公开发布模型而不是封闭模型所带来的诸多好处。
2020年,OpenAI发布了其模型的第三个版本GPT-3,同时宣布将公开完整的研究论文供其他开发该模型的人借鉴。诉讼书中提到,GPT-3打开了一条通往生成式人工智能的道路,但这条道路后来被戏剧性地改变了。
2020年9月22日,OpenAI与微软达成协议,向微软独家授权其GPT-3模型。不过,微软的许可只适用于OpenAI的前AGI(pre-AGI)技术,微软没有获得AGI的任何权利。
2023年3月14日,OpenAI发布了新一代模型GPT-4。GPT-4是一个完全封闭的模型,OpenAI未发表任何描述其内部设计的论文。
GPT-4的发布是一个标志,根据诉讼书,马斯克认为奥尔特曼使OpenAI从根本上背离了其最初的使命和向公众提供其技术和知识的历史惯例。GPT-4的内部设计被完全保密,“这种保密主要是出于商业考虑,而非安全考虑”。
此外,作为原告的马斯克认为GPT-4是一种AGI算法,确定不属于微软在2020年9月与OpenAI签订的独家许可范围。但“GPT-4现在实际上是微软的专有算法,它已经集成到Office软件套件中”。诉讼书引用微软研究员的公开表示,“鉴于GPT-4功能的广度和深度,我们合理认为,可以将其视为通用人工智能系统的早期版本”。
GPT-4是否已达到AGI的门槛将是这场诉讼的关键。
再提“宫斗”闹剧
由于微软只对OpenAI的某些前AGI技术拥有权利,董事会对OpenAI是否达到AGI水平的决定将是双方合作的关键。诉讼书中提到,但“在一系列令人震惊的发展中,大多数OpenAI的董事会被迫在2023年11月22日辞职,而他们的替代者,是由奥尔特曼和微软精心挑选的”。
2023年11月17日,OpenAI董事会解雇了奥尔特曼,原因是“他没有始终如一地坦诚面对董事会”,“对他继续领导OpenAI的能力失去了信心”。诉讼书中提到,在接下来几天的事态发展中,奥尔特曼、布罗克曼与微软联手,利用微软对OpenAI的巨大影响力,迫使OpenAI董事会大多数成员辞职。
奥尔特曼于11月21日重回到OpenAI,新的董事会成员由奥尔特曼亲自挑选,并得到了微软的支持。诉讼书里写到:“OpenAI公司曾经精心设计的非营利组织结构被一个纯粹以利润为导向的CEO和一个在AGI和Al公共政策方面专业水平较低的董事会所取代”,“新的董事会成员缺乏人工智能专业知识,甚至根本不具备独立判断OpenAI是否以及何时达到AGI的能力,因此也不具备独立判断OpenAI开发的算法是否超出与微软合作的许可范围的能力”。
诉讼书援引新闻报道称,奥尔特曼被解雇的部分原因是OpenAI在AGI方面的突破。OpenAI董事会成员和执行官们在安全问题和下一代算法Q-Star带来的潜在威胁方面存在分歧。根据报道,几名OpenAI工作人员曾写了一封关于Q-Star潜在力量的警告信,Q-Star可能是OpenAI开发AGI的一个更清晰的例证。
诉讼书提到了这场闹剧中的另外两个人,微软首席执行官萨蒂亚·纳德拉(Satya Nadella)和OpenAI原董事会成员海伦·托纳(Helen Toner)。
根据诉讼书里的描述,微软相信,通过其对OpenAI的大量所有权,如果OpenAI不复存在,它可能会完全剥夺该公司的研究成果。在奥尔特曼先生被解雇后不久的一次采访中,纳德拉先生表示:“我们对自己的能力非常有信心。我们拥有所有的知识产权和所有的能力。”
按照诉讼书的描述,微软从未放弃确保奥尔特曼恢复OpenAI职位的计划,在奥尔特曼被解雇后的几天里,OpenAI的董事会面临着来自律师和包括微软在内的大股东的压力越来越大,他们被要求恢复奥尔特曼的职务。
诉讼书提到,托纳女士是恢复奥尔特曼职务的特别目标。在这期间,OpenAI的一名律师告诉托纳,如果OpenAI因为奥尔特曼的解雇而破产,她和董事会可能会面临索赔,因为他们对投资者负有信托责任。
托纳将律师的警告行为描述为一种恐吓策略,因为OpenAI董事会从未对投资者负有信托责任,即使是旗下的营利公司,所有投资者都被告知,公司对其使命的责任优先于对其投资者的责任。
微软曾承诺向OpenAI提供100亿美元投资,在闹剧发生时,微软只支付了一小部分。这让微软对“独立”的非营利组织董事会拥有了巨大的影响力。此外,如果微软拒绝提供OpenAI所依赖的云计算系统,OpenAI将丧失能力。
诉讼书总结称,经过2023年的这些事件,现在的OpenAI基本上完全颠覆了公司成立时的协议。OpenAI已经变成了世界上最大的科技公司——微软的一个闭源子公司。在新董事会的领导下,该公司不仅在开发,而且实际上正在改进AGI,以使微软的利润最大化。
值得注意的是,这一起诉之前,《华尔街日报》的报道称,美国证券交易委员会(SEC)正在审查包括奥尔特曼在内的OpenAI现任和前任官员、董事的内部通讯,并于去年12月向OpenAI发出了传票。这次调查针对OpenAI的“宫斗”闹剧,SEC认为其中存在误导投资者的嫌疑。如果马斯克起诉OpenAI的案件一经审理,可以预见,这一事件的更多细节将被公布出来。
另外,诉讼主张司法认定GPT-4构成通用人工智能,这将成为双方争论的焦点,这个过程中,OpenAI和GPT-4将不可避免地被揭开面纱。
微信号
15618884964