Grok-1 是 xAI 的开源版本，具有大语言模型 (LLM) 的基本模型权重和网络架构。 Grok-1 拥有 3140 亿个参数，是一个强大的专家混合模型，由 xAI 从头开始训练。
此开源版本提供对 Grok-1 预训练阶段（于 2023 年 10 月结束）的原始基础模型检查点的访问。值得注意的是，该模型尚未针对任何特定应用进行微调，例如对话。
在 Apache 2.0 许可下，Grok-1 的权重和架构现已可供使用。有兴趣使用该模型的开发人员可以在 github.com/xai-org/grok 找到有关如何入门的说明。< /p>
Grok-1 是一种卓越的语言模型，经过大量文本数据的训练。它是一个 3140 亿个参数的专家混合模型，其中 25% 的权重在给定代币上处于活动状态。该模型由 xAI 于 2023 年 10 月使用基于 JAX 和 Rust 构建的自定义训练堆栈从头开始训练。
如需了解更多信息，您可以访问 x.ai 博客上的Grok-1 开放版本。
如果您无法正常访问官网，可能是您的网络设置！