世界上最大的AI大模型:马斯克的Grok-1正式开源

Grok-1是当前世界上参数最大的、开源大语言模型。296GB的大小,3140亿参数,远超OpenAI GPT-3.5的1750亿。基础模型基于大量文本数据进行训练,没有针对任何具体任务进行微调;3140亿参数的MoE模型,在给定token上的激活权重为25%;2023年10月,xAI使用JAX库和Rust语言组成的自定义训练堆栈从头开始训练。

国外地址: GitHub - xai-org/grok-1: Grok open release 国内地址: grok-1: synchronize from: https://github.com/xai-org/grok-1
相关阅读: 百度正式推出“文心一言”
Open AI放大招:发布文生视频大模型Sora
OpenAI公布GPT4
阿里云“通义千问”开源,可免费商用
抱团交流
一个集大神卖家与逗趣同行于一体的交流群,扫码添加客服微信(备注“进群”哦)。

目前100000+人已关注加入我们












上一篇:7K字长图文!拿一个被我PASS的产品为案例,通俗易懂地带你剖析市场调研的全过程!
文章为作者独立观点,不代表AMZ520立场。如有侵权,请联系我们。