Stability AI推出更小、更高效的1.6B语言模型
OSC开源社区
2024-01-22 20:12:33

原标题:Stability AI推出更小、更高效的1.6B语言模型

Stability AI 宣布推出迄今为止最强大的小语言模型之一 Stable LM 2 1.6B。以英语、西班牙语、德语、意大利语、法语、葡萄牙语和荷兰语的多语言数据为基础进行了训练,体积小、速度快,降低了硬件门槛;并提供了完全透明的训练细节,旨在让开发人员和模型创建者能够快速进行实验和迭代。

Stable LM 是一种文本内容生成 LLM,Stability AI 于 2023 年 4 月首次推出了 30 亿和 70 亿参数模型。新的 StableLM 模型实际上是 Stability AI 在 2024 年发布的第二个模型,此前该公司在早些时候还发布了一个 Stable Code 3B。

Stability AI 声称,Stable LM 2 1.6B 在大多数基准测试中均优于其他参数低于 20 亿个的小语言模型,如微软的 Phi-1.5 (1.3B) 和 Phi-2 (2.7B)、TinyLlama 1.1B 或 Falcon 1B。

不过他们也警告称,由于小型、低容量语言模型的特性,Stable LM 2 1.6B 可能会出现高幻觉率、潜在的有毒语言等类似的常见问题。“我们要求社区在构建应用程序时牢记这一点,并采取适当措施确保以负责任的方式进行开发。”

Stable LM 2 1.6B 目前可在商业和非商业领域使用,只要拥有 Stability AI 会员资格,即可在 Hugging Face 上测试该模型。

相关链接:https://stability.ai/news/introducing-stable-lm-2

2023 LLM技术报告——知名大模型应用

知名游戏开发者云风宣布开源基于Lua的自研游戏引擎Ant Engine

洗衣机日耗流量3.6GB,或被入侵后用于“挖矿”?

这里有最新开源资讯、软件更新、技术干货等内容

点这里 ↓↓↓ 记得 关注✔ 标星⭐ 哦

相关内容

热门资讯

当变化发生在科隆 “今天行业面对的不是‘有没有玩家’和‘有没有收入’,而是玩家时间流向哪里,玩家收入集中在哪里。市场总...
中金:看好AI算力集群持续扩容... 中金公司研报称,看好AI算力集群持续扩容背景下光通信散热赛道的高成长性,建议重点关注光模块VC、液冷...
图个好回忆:孙宇晨前女友景甜,... 大家好,我是阅图无数的正惊小弟。 梗图登场,欢乐万两;会心一笑,回忆拉满! 游戏圈不乏让人值得铭记的...
数智赋能传统行业转型,淄博首家... 近日,淄博首家“云网吧”在淄博市张店区正式落地投运。 据悉,该项目是山东移动淄博分公司的区域算网融合...
所有人看见了「大晓速度」,但真... 让真正影响行动结果的信息,以更低成本进入模型,并转化成机器人的生产力。 编辑丨李希 过去一年,具身...