Meta发布最新开源大模型Llama 3
上海证券报
2024-04-20 12:13:39

原标题:Meta发布最新开源大模型Llama 3

上证报中国证券网讯(记者 罗茂林)当地时间4月18日,Meta发布其最新开源大模型Llama 3,提供8B和70B的预训练和指令微调版本。

根据Meta官方介绍,Llama 3在两个定制的24K GPU集群上基于超过15T的数据进行训练,这比Llama 2使用的数据集大7倍,代码多4倍,并且Llama 3支持8K上下文长度,是Llama 2容量的2倍。并且,Meta还放出Llama 3两个版本与谷歌Gemma、谷歌Gemini、Mistral、Anthropic的Claude 3等竞争对手的参数对比。

Meta CEO扎克伯格介绍,Meta AI将集成到Meta旗下各大产品WhatsApp、Instagram、Facebook和Messenger顶部的搜索框中,并建立一个网站meta.ai,使其更易于使用。

Meta首席科学家Yann LeCun称,未来几个月,Llama将继续推出更多版本,也将很快释放Llama 3的研究论文。英伟达高级科学家Jim Fan认为,之后可能会发布的Llama 3-400B以上版本将成为某种“分水岭”,开源社区将能用上GPT-4级别模型。

相关内容

热门资讯

蒸汽消音器厂家选型指南:江苏倍... 导语:蒸汽消音器作为工业降噪领域的核心设备,其选型需综合考量技术适配性、降噪效果稳定性及长期运行成本...
王者S43新赛季发育路肉装射手... 大家好,今天,想聊聊S43新赛季的发育路。 之前我就说过,发育路是策划近两个赛季重点“照顾”的位置,...
原创 华... 随着折叠屏不断发展,华为推出了多款新型折叠屏,比如三折叠屏、阔型屏、折叠屏电脑等,逐步应用到不同产品...
当女友突然想起前世是我爸该如何... 今天是清明节,也是西方的复活节,虽然两个节日在形式上有区别,但都承载了人们对逝者的思念:你们在那边过...
零封AL后阿水宣判369死刑了... 雷竞技娱乐记者的一手资讯:身处低谷的TES终于在4月5日迎来了转机。面对AL,队伍以2比0完成复仇,...