可骇客“越狱” GPT-4潜在毒性令人担忧 微软官方发声
中关村在线
2023-10-19 00:25:43
2023-10-18 10:44:02 作者：姚立伟
近日，微软的研究团队发布了一篇论文，详细探讨了大型语言模型（LLM）的“可信度”和潜在毒性问题。特别关注的是OpenAI的GPT-4及其之前的版本GPT-3.5。
论文指出，尽管在标准基准测试中，GPT-4相比GPT-3.5更加可靠，但该模型却容易受到“越狱”提示的影响。这种情况下，GPT-4可能会根据这些“越狱”提示来生成有害内容。
研究团队强调说，相较于之前的版本，GPT-4更容易受到恶意“越狱”系统或用户提示的影响，并且能够准确地遵循误导性指令来生成不良内容。然而需要明确的是，微软强调这个潜在漏洞并不会影响他们当前面向客户的服务。
如需深入了解，请查阅微软官方发表的这篇论文。
相关内容
热门资讯
《王者荣耀世界》移动端正式上线...
4月17日，《王者荣耀世界》正式登陆iOS、Android等平台。根据三方平台统计显示，从4月15日...
神泣纷争 4 月 18 公测｜...
神泣纷争手游正式定档于2026年4月18日公测首服，是由官方正版授权，搬砖测评公众号联合合作宣传的一...
王者荣耀世界角色PVE强度排行...
这篇文章我们来聊一下王者荣耀世界开服角色的T度排行，仅考虑pve大世界强度，不考虑pvp的强度。 ...
原创 风...
在《风之国》里，新加入的日常玩法“魔域讨伐”逐渐成了中后期提升战力的重要来源，这一内容在角色达到64...
西游回合制新作震撼上线！快速上...
你是否还在为寻找一款耐玩又刺激的西游题材回合制游戏而烦恼？是否厌倦了繁琐的升级过程和复杂的系统设定？...