可骇客“越狱” GPT-4潜在毒性令人担忧 微软官方发声
中关村在线
2023-10-19 00:25:43
2023-10-18 10:44:02 作者：姚立伟
近日，微软的研究团队发布了一篇论文，详细探讨了大型语言模型（LLM）的“可信度”和潜在毒性问题。特别关注的是OpenAI的GPT-4及其之前的版本GPT-3.5。
论文指出，尽管在标准基准测试中，GPT-4相比GPT-3.5更加可靠，但该模型却容易受到“越狱”提示的影响。这种情况下，GPT-4可能会根据这些“越狱”提示来生成有害内容。
研究团队强调说，相较于之前的版本，GPT-4更容易受到恶意“越狱”系统或用户提示的影响，并且能够准确地遵循误导性指令来生成不良内容。然而需要明确的是，微软强调这个潜在漏洞并不会影响他们当前面向客户的服务。
如需深入了解，请查阅微软官方发表的这篇论文。
相关内容
热门资讯
关注｜面临四大瓶颈，谁能在柔性...
来源：阳光高考信息平台 从柔性存算芯片到超薄弹性介电材料，从“能感知”到“能思考”，柔性电子正在经历...
反常识的爆款：一亿注册、千万D...
一个月前，《无畏契约：源能行动》（业内及玩家习惯称之为“手瓦”）抛出一枚重磅数据：用户注册量正式突破...
手瓦一周年复盘：曾担心生不逢时...
一个月前，《无畏契约：源能行动》发了条公告：注册用户破亿了。往前推几个月，今年5月他们还公布过一个数...
重庆电力上线调控核心业务AI智...
8月25日，国网重庆江津供电公司调控中心调度班班长刘嫣然，在研发投运的“调控核心业务智能查询与辅助管...
苹果最强Mac杀到！全新Mac...
快科技8月25日消息，今日，苹果全新Mac Studio发布，可选M5 Max与全新M5 Ultra...