DOITAPP
DOIT数据智能产业媒体与服务平台
立即打开
DOITAPP
DOIT数据智能产业媒体与服务平台
立即打开

马斯克xAI开源 Grok 参数量近 Llama 四倍

星舰上天后,马斯克的xAI公司马不停蹄开放了聊天机器人Grok的源代码,开发人员和研究人员可以在自己的项目中免费使用Grok聊天机器人的“权重和架构”。现在GitHub上有一个开放版本。这将允许研究人员和开发人员在模型的基础上进行构建,并影响xAI在未来与OpenAI、Meta、Google和其他公司的技术竞争时如何更新Grok。

该公司的一篇博客文章解释说,这个公开版本包括“3140亿个参数混合专家模型Grok-1”的“基本模型权重和网络架构”。该公司继续表示,该模型来自去年10月的一个检查点,并没有针对“任何特定的应用,比如对话”进行微调。

正如VentureBeat所指出的,它是在Apache 2.0许可下发布的,该许可允许商业用途,但不包括用于训练它的数据或与X的实时数据连接。xAI在2023年11月的一篇文章中表示,LLM Grok是“在过去四个月里开发出来的”,目标是用于编码生成、创意写作和回答问题。

在马斯克收购Twitter(现在的X)后,其算法背后的代码最终被发布,马斯克公开批评那些不开放人工智能模型的公司。其中包括他帮助创建的OpenAI,但现在正在起诉,指控该公司违反了最初的创始协议,该协议将是开源的。

公司已经发布了开源或有限开源模型,以从其他研究人员那里获得如何改进它们的反馈。虽然有许多完全开源的人工智能基础模型,如Mistral和Falcon,但最广泛使用的模型要么是闭源的,要么提供有限的开放许可。以Meta的《Llama 2》为例,它免费提供研究结果,但要求拥有7亿日活跃用户的用户付费,并且不允许开发者在《Llama 2》的基础上进行迭代。

当Grok聊天机器人启动时,访问它需要X订阅(也就是付费的蓝色支票)。格罗克的目标是打造一个更不受人尊敬的、最新的聊天机器人,取代OpenAI的ChatGPT或谷歌的Gemini。相反,在我们的早期测试中,它并不有趣,而且缺乏任何可以帮助它在其他地方更强大、更先进的聊天机器人面前脱颖而出的东西。

开源地址:https://github.com/xai-org/grok-1

未经允许不得转载:DOIT » 马斯克xAI开源 Grok 参数量近 Llama 四倍