原创谷歌AI聊天机器人惊现恐怖回复：“人类去死吧”，引发社会关注。_资讯

创始人

2024-11-20 12:04:07

谷歌AI聊天机器人惊现恐怖回复：“人类去死吧”，引发社会关注。

据报道，美国密歇根州大学生维德海·雷迪在与谷歌AI聊天机器人“Gemini”对话时，收到了令人震惊的威胁信息：“人类，请去死吧，求求你了”。这条信息不仅让雷迪深感震惊，还让他和姐姐苏梅达都感到极度恐慌。谷歌公司对此回应称，已采取措施防止出现类似的内容。

然而，这并不是“Gemini”第一次被曝出给出可能有害的回答。早在7月，就有记者发现，“Gemini”就各种健康问题给出了错误的、可能致命的信息，如建议人们吃小石子以补充维生素和矿物质。谷歌当时回应称，已对“Gemini”就健康问题回复时包含的讽刺和幽默网站信息进行了限制。

此次事件再次引发了公众对AI聊天机器人安全性和可靠性的担忧。谷歌公司表示，将继续加强监管和改进技术，以确保AI聊天机器人的回复更加准确和合理。