Meta发布最新开源大模型Llama 3
上海证券报
2024-04-20 12:13:39

原标题:Meta发布最新开源大模型Llama 3

上证报中国证券网讯(记者 罗茂林)当地时间4月18日,Meta发布其最新开源大模型Llama 3,提供8B和70B的预训练和指令微调版本。

根据Meta官方介绍,Llama 3在两个定制的24K GPU集群上基于超过15T的数据进行训练,这比Llama 2使用的数据集大7倍,代码多4倍,并且Llama 3支持8K上下文长度,是Llama 2容量的2倍。并且,Meta还放出Llama 3两个版本与谷歌Gemma、谷歌Gemini、Mistral、Anthropic的Claude 3等竞争对手的参数对比。

Meta CEO扎克伯格介绍,Meta AI将集成到Meta旗下各大产品WhatsApp、Instagram、Facebook和Messenger顶部的搜索框中,并建立一个网站meta.ai,使其更易于使用。

Meta首席科学家Yann LeCun称,未来几个月,Llama将继续推出更多版本,也将很快释放Llama 3的研究论文。英伟达高级科学家Jim Fan认为,之后可能会发布的Llama 3-400B以上版本将成为某种“分水岭”,开源社区将能用上GPT-4级别模型。

相关内容

热门资讯

鼎力福取得电磁线绝缘层加工装置... 国家知识产权局信息显示,苏州鼎力福机电科技有限公司取得一项名为“一种电磁线绝缘层加工装置”的专利,授...
原创 i... 当三千档手机在国补加持下纷纷“下沉”到两千价位时,原本就主打性价比的机型,直接像踩了氮气一样起飞。而...
中国电信第六届科技节重庆站启幕 5月15日,中国电信第六届科技节・重庆站活动在中国电信重庆公司(以下简称“重庆电信”)本部举行。活动...
省政府举行“人工智能+制造”路... 本报讯 (记者 王拓 付奇 李嘉豪) 5月15日,省政府举行“人工智能+制造”路演,深入学习贯彻习近...
iPhone用户闭眼入!小米耳... 快科技5月16日消息,卢伟冰和魏思琪在直播中详细介绍小米首款耳夹式耳机,直言这款新品对iPhone用...