可骇客“越狱” GPT-4潜在毒性令人担忧 微软官方发声
中关村在线
2023-10-19 00:25:43
2023-10-18 10:44:02 作者：姚立伟
近日，微软的研究团队发布了一篇论文，详细探讨了大型语言模型（LLM）的“可信度”和潜在毒性问题。特别关注的是OpenAI的GPT-4及其之前的版本GPT-3.5。
论文指出，尽管在标准基准测试中，GPT-4相比GPT-3.5更加可靠，但该模型却容易受到“越狱”提示的影响。这种情况下，GPT-4可能会根据这些“越狱”提示来生成有害内容。
研究团队强调说，相较于之前的版本，GPT-4更容易受到恶意“越狱”系统或用户提示的影响，并且能够准确地遵循误导性指令来生成不良内容。然而需要明确的是，微软强调这个潜在漏洞并不会影响他们当前面向客户的服务。
如需深入了解，请查阅微软官方发表的这篇论文。
相关内容
热门资讯
原创 9...
“你知道我等了多少年吗？” 2 月 6 日，一款名为《桂花落》的游戏登陆 Steam。评论区里，有玩...
尼得科电机申请轴承座自动送料压...
国家知识产权局信息显示，尼得科电机（东莞）有限公司申请一项名为“一种轴承座自动送料压合装配机器”的专...
原创 科...
专家称马斯克的卫星计划可能引发“剧烈”的空间碎片连锁反应，损害夜空并将人类困于地球。 专家担忧，埃隆...
智信联科技申请自动识别夹线通电...
国家知识产权局信息显示，杭州智信联科技有限公司申请一项名为“一种自动识别夹线通电机构”的专利，公开号...
建邺区一企业用AI漫剧“重现”...
（来源：南京晨报） 转自：南京晨报 晨报讯(通讯员 建萱 南京晨报/爱南京记者 孔芳芳)近日，位于南...