可骇客“越狱” GPT-4潜在毒性令人担忧 微软官方发声
中关村在线
2023-10-19 00:25:43
2023-10-18 10:44:02 作者：姚立伟
近日，微软的研究团队发布了一篇论文，详细探讨了大型语言模型（LLM）的“可信度”和潜在毒性问题。特别关注的是OpenAI的GPT-4及其之前的版本GPT-3.5。
论文指出，尽管在标准基准测试中，GPT-4相比GPT-3.5更加可靠，但该模型却容易受到“越狱”提示的影响。这种情况下，GPT-4可能会根据这些“越狱”提示来生成有害内容。
研究团队强调说，相较于之前的版本，GPT-4更容易受到恶意“越狱”系统或用户提示的影响，并且能够准确地遵循误导性指令来生成不良内容。然而需要明确的是，微软强调这个潜在漏洞并不会影响他们当前面向客户的服务。
如需深入了解，请查阅微软官方发表的这篇论文。
相关内容
热门资讯
IG主场采访事故，外国观众举牌...
LPL季后赛精彩赛事依旧在火热进行中，关注赛程的都清楚，接下来只有两场大战了，一场是IG和AL的败者...
俄罗斯方块公司投诉后，美国白宫...
IT之家 9 月 9 日消息，美国白宫官网近日上线的网页游戏“Build the Wall”因与《俄...
小钻石打磨产业硬实力（今日快评...
“把钻石‘磨’亮，靠的是技术；把产业建强，需要精准有效的服务、不断完善的产业生态和久久为功推进创新。...
科技保险护航新质生产力
当前，战略性新兴产业与未来产业布局不断优化，科技创新正在新质生产力培育中发挥越来越大的作用。和传统领...
6G智能手机，要来了
《经济参考报》9月8日刊发文章《深读“十五五”专项规划｜新一代通信网2030年全面建成 6G商用适时...