马斯克大战openai:“开源”之争,敲响人工智能安全警钟?-尊龙凯时网娱乐官网

澎湃新闻记者 陈沁涵
2024-03-08 08:55
来源:澎湃新闻

“美好的愿景是人类和人工智能形成一种共生关系。”山姆·奥特曼说完之后看向埃隆·马斯克。后者接过话头,“我同意山姆所说的,我们已经像赛博格一样工作。不过需要谨慎对待人工智能的发展,确保它最终对人类有利。”

上述对话发生在9年前,两人在美国一档谈话节目中相邻而坐,探讨有关未来创新、地外生命、创业精神等广泛的前沿话题,冷静地阐述那些雄心勃勃的蓝图。彼时,马斯克对人工智能(ai)兴趣盎然,但因忧虑安全问题而难觅志同道合者。在他眼中,身旁的年轻人不仅是科技孵化器y combinator的总裁,还是一名生存主义者,对ai有共同的紧张感。也正是在2015年,他们携手创办了一个非营利性人工智能研究实验室“openai”,对抗以谷歌为代表的科技巨头。

然而不到三年,马斯克以“利益冲突”为由退出openai董事会。事到如今,马斯克与奥特曼彻底决裂,旧日愿景却成矛盾焦点。

今年2月29日,马斯克突然在旧金山法院对openai及公司首席执行官奥特曼和总裁布罗克曼提起诉讼,他斥责奥特曼违背“初心”,要求openai恢复开源并给予赔偿。对此,包括奥特曼在内的openai 五位联合创始人撰文回应,逐一驳斥各项指控,并曝光了马斯克与他们的大量往来邮件,试图证实马斯克唯利是图。

这一场纷争不仅是马斯克与奥特曼之间的极限拉扯,也是ai狂潮下科技巨头们合纵连横的一个侧面,涉及openai背后的“金主”微软公司,还有马斯克旗下的特斯拉和人工智能初创公司xai等。围观商斗之外,针对ai未来发展的分歧与辩论或许更值得探究。

非营利与营利

马斯克向旧金山法院提交的诉状洋洋洒洒写了35页,最大“罪状”指向openai为逐利而放弃了最初使命——“开发造福人类的人工智能技术”。马斯克声称,openai与微软的尊龙凯时网娱乐官网的合作伙伴关系已将这家公司转变为微软“事实上的闭源子公司”,专注于利润最大化。

随后,openai发文反击:“很遗憾,我们非常敬佩的一个人走到了这一步——他激励我们设定更高的目标,然后却告诉我们会走向失败,而他自己创立了一个竞品。当我们在没有他的情况下开始朝着openai的使命取得有意义的进展时,他又起诉了我们。”短短几句话浓缩了马斯克与openai这些年的恩怨情仇。

openai在3月5日释放出马斯克与其联合创始人的邮件内容,曝光当初所有创始人同意创建一个营利性实体支撑openai运转,不过马斯克希望获得该实体的大部分股权、初始董事会控制权并担任首席执行官,而其他创始人不同意。随后马斯克建议将openai并入特斯拉,openai团队也拒绝了这个想法,导致双方决裂。

著名传记作家艾萨克森所写的《埃隆·马斯克传》,一部分内容印证了上述说法。书中提到了马斯克希望在其旗下各家公司发展人工智能能力,试图说服奥特曼将openai并入特斯拉,理由是当时openai发展3年依然落后于谷歌。

如今马斯克和openai互相斥责利欲熏心,商人逐利实则无可厚非,不过马斯克控诉openai违背了创始协议,即维持这家公司的性质是“非营利”。而奥特曼反指马斯克未兑现承诺,根据邮件内容,马斯克称openai融资规模应该从10亿美元起步,并承诺“对于其他人未提供而出现的缺口,我将负责补足。”

openai在3月5日的发文中表示,作为非营利公司时,收到马斯克的款项不足4500万美元,从其他捐助者那里筹集了超过9000万美元。显然,这笔数目远不足以支撑该公司构建通用人工智能(能够模仿和执行任何人类智能活动,甚至在各种认知任务中表现得比人类更好的人工智能。)的目标。微软成了救局者。

就在马斯克2018年退出openai董事会后,在保持非营利的同时,奥特曼又成立了一个筹集股权基金的营利性部门(但这个营利部门的营收有一个上限。在达到这个上限之后,营利实体所得的一切都要归还给非营利的研究实验室。)。一年后,微软向该公司投资了10亿美元,在接下来几年又陆续投资120亿美元,为openai构建生成式人工智能技术的所需买单。作为回报,openai向微软azure 云计算产品的客户提供了多项ai服务。微软从2023年1月开始对openai持股49%,目前为止仍是最大股东之一,openai的非营利性母公司则持有 2% 的股份。随着同年聊天机器人chatgpt问世,微软股价大涨,并可以顺理成章地访问gpt大语言模型和相关软件。

在马斯克看来,openai走上了背靠微软营利的道路,与创立时的初心背道而驰。这要追溯到openai成立的2年前,2013年谷歌公司在ai领域率先布局,马斯克在他42岁的生日派对上,和相识10多年的谷歌创始人拉里·佩奇激烈辩论人工智能的风险,前者主张建立“防火墙”防止ai取代人类,担忧人类意识消亡。后者不以为然,认为机器的智力和意识超越人类意味着进化的下一阶段。

马斯克声嘶力竭却没能制止拉里·佩奇的野心。谷歌在2014年1月宣布收购致力于实现通用人工智能(agi)的公司deepmind,并为之创建安全委员会,马斯克作为委员之一对谷歌非常不满,认为委员会徒有其名,根本不关心ai的安全问题。

随着谷歌在ai领域不断发力,马斯克四处奔走警告ai对人类生存的威胁,甚至在2015年约到了与时任总统奥巴马的一对一谈话。多年后,他回顾那次会谈内容说,没有借机推广特斯拉或space x,而是敦促美国政府推进ai监管,但是没能引起足够的重视。

屡遭挫败后,马斯克决定寻找搭档一起入局ai领域,他找到了比他小14岁的奥特曼,两人一拍即合,认为提升ai系统安全性的途径之一是,拥有大量彼此竞争的系统相互制衡。因此他们决定成立一家非营利ai公司,发展一种不受任何个人和公司控制的ai。

而且,马斯克给这家公司取名openai,是希望实现真正的开放,让其他人根据源代码建立各自的ai系统,以达到制衡目的。而如今,是否开源也成为争议的焦点。

openai还是closedai

“将openai改名为closedai,我就取消诉讼。”当地时间3月6日,马斯克在社交平台x上发文,并附上了一张修图后的照片,画面中奥特曼手握的工牌上显示“closedai”图标。

马斯克以此讽刺openai不够开放,但是开放的精准定义是什么,双方的看法并不一致。

截屏图

openai首席科学家伊尔亚·苏茨克维2016年在电子邮件中写道:“openai中的开放意味着每个人都应该从人工智能构建后的成果中受益,但也可以不分享科学成果。”马斯克在回应中回答说:“是的。”openai认为这封邮件足以证实,开放的意义是广义的,而非绝对的“开源”。

2023年3月,openai发布了ai语言模型gpt-4,并分享了gpt-4的大量测试结果以及一些有趣的演示,但基本上没有提供有关用于训练系统的数据、用于创建该系统的特定硬件或方法的信息。人工智能界的许多人批评了这一做法,指出它破坏了该公司作为研究组织的创始精神。更重要的是,面对gpt-4等人工智能系统构成的威胁,开发有针对性的风险防护措施变得更困难。

伊尔亚·苏茨克维在接受美媒采访时,阐释了openai不分享更多有关gpt-4信息的原因——对竞争和安全的担心是“不言而喻的”。就安全考虑,他指出,这些模型非常强大,而且会变得愈发强大。某些时候,一些人如果利用这些模型可以非常容易地制造巨大的伤害。随着模型能力的提高,不想公开它们也是有道理的"。

当时,马斯克就开源问题“约谈”奥特曼,称openai是作为开源的非营利性公司创立,目的是与谷歌抗衡,而现在却成为“封闭源代码”的公司,“如今落入了无情的垄断企业之手”。对此,奥特曼表示自己没有从这家初创公司大举获利,他理解马斯克的批评是真实的担忧,但是认为他还没有完全认识到人工智能安全问题的复杂性。

坚定的开源主义者不只马斯克,openai开发者关系负责人洛根(logan kilpatrick)也是其中之一。他3月1日在社交平台上宣布辞职,并发出一番感慨“一个开源的ai对于开发者、商业以及全人类来说都会是一种纯粹的胜利。”一些开发者猜测围绕“开源”的分歧是其离开的原因。此前的 openai“宫斗”之争,实质上也是关于 ai 发展的“理念之争”——到底是加速 ai 的商业化进程,还是确保 ai 的安全性再推向全世界。

不过,此时对于马斯克而言,针对openai的官司即使打不赢,他仍然有其他“武器”捍卫其坚持的ai安全。

找出终极问题的答案

通过诉讼和社交平台上的大胆发言,马斯克对openai、谷歌、微软等科技巨头一一出拳,像一名角斗士冲入人工智能的战局,寄希望于他在去年创立的人工智能公司xai大杀四方。

在马斯克的设想中,xai不仅要打造出能编写计算机程序的ai机器人,以及一款能与openai的gpt系列聊天机器人匹敌的竞品,更重要的是实现“能够最大限度追求真理的人工智能,他关心对宇宙的理解,带来的结果是它想要保护人类。”

毫无疑问,xai的起步较晚,在这个日新月异的领域处于劣势,目前为止拥有的唯一值得关注的产品是聊天机器人grok。xai团队强调,grok比其他聊天机器人更具幽默感,它旨在模仿《银河系漫游指南》一书,用“一点点的智慧”来回答问题,还有着“一点点的叛逆”。这本书曾将马斯克从青春期的抑郁状态中拯救出来,其中将超级计算机的使命定义为“找出关于生命、宇宙和万物终极问题的答案”。

目前的grok跟此前openai发布的gpt-3.5形式差不多,但是测试结果显示,它在数学、代码和多学科知识评测中比gpt-3.5表现得更好。而且grok拥有的先天优势在于,能够从x平台获取实时信息。

马斯克坐拥一笔庞大的数据资产——x平台(原推特)的信息流,可以用来“喂养”人工智能,接受现实中人类发言和对话信息的训练。他曾表示,这是收购推特的附加福利。另外,他还有来自特斯拉的导航和视频数据,可能将使其团队开发的聊天机器人不限于文本生成。

据美媒报道,马斯克计划在3月下旬通过一轮私人融资筹集10亿至30亿美元,他个人可能也会进行投资,届时xai估值可能高达200亿美元。但是今年早些时候,面对媒体的询问,马斯克一再否认xai 正在筹集资金。即使达到200亿美元的估值,仍然只是openai目前的一小部分。今年2月,随着openai与风险投资公司thrive capital达成最新股票出售协议,openai的估值已经提高到800亿美元以上。

活跃在当今舆论场上的马斯克有时看起来像不可理喻的怪咖,语出惊人、四面树敌,有时又像天真的孩童对科学充满好奇和无边无际的想法。围绕人工智能,他对于安全性的执念难以被评判,但其警示的该领域的未来发展不容忽视。

“要让人工智能帮助我们了解宇宙的真正本质,它必须能够摒弃流行却错误的东西,而选择不流行但正确的东西。”马斯克3月5日在x平台上说道。

(澎湃新闻记者陈文静对本文亦有贡献)

责任编辑:张无为
图片编辑:张同泽
校对:栾梦
网站地图