就在刚刚过去的周末,马斯克的xAI突然出手截胡,抢在OpenAI开发者大会前公布了自家的大模型Grok。不仅时间赶巧,Grok还不用Python,马斯克带领十几个人爆肝两个月,终于拿出了一款像样的作品。
马斯克的Grok为今年注定不凡的AIGC与大模型赛道又添了一把火,事情正在变得愈发好玩了。
1、关于Grok
与其他常见的类GPT等大模型不同,Grok可以实时的从X推文中获取最新知识,比如马斯克上周的访谈会话记录。巨量、实时且独特的X推文无疑是Grok绝妙的护城河。而且Grok还颇有个性,不像常见的一板一眼式AI助手,说出的话多少带点刺和幽默,当然也可以说是阴阳怪气。比如对最近在纽约受审的山姆·班克曼-弗里德,即币圈著名的爆炸头SBF,Grok话里有话的表示:“哦,我亲爱的人类啊,我这儿有劲爆的新闻要告诉你!我们的朋友Sam Bankman-Fried,那位前加密货币大亨,竟然在他的欺诈案审判中被判有罪。你敢相信吗?”
除了这种常规对话,Grok还有其他功能,比如多个对话同时输出,一边写代码一边问其他问题也可以。在回答不满意重新生成后,可以展开时间线,直接导航到不同版本的回答,甚至可以使用内置的markdown编辑器,手动修改AI的回答后继续进行对话。
根据xAI团队的说法,Grok旨在模仿《银河系漫游指南》,用“一点点的智慧”来回答问题,还有着“一点点的叛逆”。开发者还特别提示:如果你不喜欢幽默,千万不要用Grok!严格地说,Grok可以回答人类提出的几乎任何问题,即使不会问,它也能提出一些建议性问题。说来说去,*的亮点还是基于X中的海量信息,Grok可以提供真实世界中的实时信息。
巧合的是,Grok作为一款产品,背后的大模型也与之同名,目前的版本是Grok-1,它的原型Grok-0在xAI宣布成立后即开始训练。目前可以确认的消息是,Grok-0的性能接近Llama 2-70B,但参数量约33B,不到其一半。而在过去的两个月时间里,xAI加强了Grok的推理和编码能力,升级到了现在的Grok-1版本。
测试结果显示,Grok-1在数学、代码和多学科知识评测中不仅相比前代有显著提升,甚至比GPT-3.5更胜一筹。毕竟是马斯克亲自下场动手的作品,Grok的不走寻常路与质量都是意料之中的。在Grok系统中找不到熟悉的PyTorch或Tensorflow,甚至连Python成分也没有,而是选用了Rust编程语言以及深度学习框架新秀JAX。
至于背后原因倒也不难理解,xAI认为大模型训练过程就像一列疾驰的火车,如果其中一节脱轨势必导致后续一连串的灾难性后果。为此xAI特意打造了专用的分布式系统,确保一旦出现故障就立即识别类型并自动处理。在这一过程中,xAI发现Rust语言是构建可扩展、可靠且可维护的基础设施的理想选择。
2、马斯克与xAI
近几年马斯克的名声在国内越来越大,但很多人不知道的,除了特斯拉,SpaceX,Neuralink等,马斯克还曾有几家在国内知名度都不太高的公司,比如Zip2,X.com,PayPal,这三家都成立于上世纪末期。其中Zip2为各大报刊和杂志出版商开发网络在线城市指南,包括地图、导航和黄页;X.com主营在线金融服务和电子邮件支付业务,是首批与美国联邦保险合作的网上银行之一;PayPal是全球最早研究电子钱包与移动支付的公司。综合观察下这三家公司,有没有发现一些有趣的东西?国内的阿里巴巴也走过这样的发展路线。
进入新世纪后,马斯克同样还开办过几家公司:SolarCity,Hyperloop,The Boring Company,这三家在国内的知名度也不高。其中SolarCity主营家用光伏发电业务(solar为法语“太阳”);Hyperloop直译为“超回路列车”,是基于真空管的高速客货运输系统,速度比飞机更快,目前还处于基础建设阶段,马斯克甚至想在未来把它用于火星上的交通运输;The Boring Company主营城市基建特别是铁路隧道建设,未来可用于研发超级高铁,隧道等基建设施则可以保持通用。Boring兼有“打洞”和“无聊”之意,因此The Boring Company在国内常被译为“钻洞公司”或“无聊公司”。
至此,相信很多人都能对马斯克有更深的理解了,他的思想有时被称为“技术理想主义”,这种思想是硅谷早已有之的。比如比尔·盖茨希望电脑可以走进千家万户,拉里·佩奇希望互联网信息来源应该多元化,乔布斯希望电子产品也可以是艺术品......诸如此类的思想很多,也可以说这是硅谷能有今日之成就的重要原因之一。
2015年OpenAI成立时,马斯克等创始人的出发点就是要汇集全球最*的AI人才,在非盈利的前提下,研发最前沿的AI技术。这种发展模式对标的更多是类似贝尔实验室这样能够产生巨大社会价值的半学术半企业科研实体,直接竞争者则是同时期被谷歌收购的DeepMind。因此OpenAI本来就是为AI技术而生的,而不是特意选择了研究底层技术。另外OpenAI从一开始就有一系列的奇遇良缘加持,也可以说是仅凭马斯克的号召力就聚集了*富豪与学者和海量的舆论关注。但当时OpenAI的现实困境证明马斯克等创始人的想法太过理想化,几乎可以说是完全不现实。而且2018年特斯拉也开始逐步进入AI领域,为避免日后与OpenAI产生矛盾,再加上不同意OpenAI管理层及其对AI安全的态度,因此马斯克等创始人先后离开OpenAI。后来随着山姆·奥尔特曼出任CEO,OpenAI转型成为有限营利实体,用限制利润上限和营收种类等方式,来探索在商业化与非盈利机构之间的新平衡点。
今年四月时,马斯克就对采访的英国《金融时报》透露过想成立新AI企业的想法,表示“对目前各大AI公司的训练系统表示担忧”,担心这些产品会陷入“政治正确”的窠臼,因此要成立“TruthGPT”之类的品牌或企业。七月时xAI正式宣布成立,与特斯拉紧密合作 ,目标之一就是打造能进行高级逻辑推理的大模型,力求超越市面上其他同类型竞品。
至此,马斯克依然没有放弃,还想与OpenAI和ChatGPT一较高下,当然也可以说马斯克是想用xAI证明,即使离开OpenAI,他也一样能在AI领域有所作为。另外,今年三月GPT-4亮相后OpenAI也在*时间表态不开源,引起了外界一片“OpenAI不open”的嘲讽。虽然OpenAI的真实想法外界不得而知,也无可厚非,但这其实也可以视为马斯克与其矛盾的缩影。
前面说过马斯克是坚定的“技术理想主义者”,当年参与成立OpenAI的初衷之一就是破解AI的秘密并推广到全球。因此在马斯克看来,GPT的这种黑盒系统明显是违背其理念的,虽然GPT-4的确能火遍全球,引起新一轮的时代浪潮。相信也一定会有人说马斯克是矫情自饰,是吃不到葡萄说葡萄酸,看着OpenAI赚得盆满钵满的眼红,真实想法究竟怎样,只有马斯克自己最清楚。