Meta发布最新开源大模型Llama 3
上海证券报
2024-04-20 12:13:39

原标题:Meta发布最新开源大模型Llama 3

上证报中国证券网讯(记者 罗茂林)当地时间4月18日,Meta发布其最新开源大模型Llama 3,提供8B和70B的预训练和指令微调版本。

根据Meta官方介绍,Llama 3在两个定制的24K GPU集群上基于超过15T的数据进行训练,这比Llama 2使用的数据集大7倍,代码多4倍,并且Llama 3支持8K上下文长度,是Llama 2容量的2倍。并且,Meta还放出Llama 3两个版本与谷歌Gemma、谷歌Gemini、Mistral、Anthropic的Claude 3等竞争对手的参数对比。

Meta CEO扎克伯格介绍,Meta AI将集成到Meta旗下各大产品WhatsApp、Instagram、Facebook和Messenger顶部的搜索框中,并建立一个网站meta.ai,使其更易于使用。

Meta首席科学家Yann LeCun称,未来几个月,Llama将继续推出更多版本,也将很快释放Llama 3的研究论文。英伟达高级科学家Jim Fan认为,之后可能会发布的Llama 3-400B以上版本将成为某种“分水岭”,开源社区将能用上GPT-4级别模型。

相关内容

热门资讯

IG主场采访事故,外国观众举牌... LPL季后赛精彩赛事依旧在火热进行中,关注赛程的都清楚,接下来只有两场大战了,一场是IG和AL的败者...
俄罗斯方块公司投诉后,美国白宫... IT之家 9 月 9 日消息,美国白宫官网近日上线的网页游戏“Build the Wall”因与《俄...
小钻石打磨产业硬实力(今日快评... “把钻石‘磨’亮,靠的是技术;把产业建强,需要精准有效的服务、不断完善的产业生态和久久为功推进创新。...
科技保险护航新质生产力 当前,战略性新兴产业与未来产业布局不断优化,科技创新正在新质生产力培育中发挥越来越大的作用。和传统领...
6G智能手机,要来了 《经济参考报》9月8日刊发文章《深读“十五五”专项规划|新一代通信网2030年全面建成 6G商用适时...