亚马逊AI聊天机器人Q存在严重安全问题：泄露敏感信息_资讯

中关村在线

2023-12-02 17:44:35

2023-12-02 16:41:00 作者：姚立伟

12月2日消息，据报道，亚马逊最新推出的AI聊天机器人Q存在严重的“幻觉”问题，并泄露了包括AWS数据中心位置、内部折扣计划等诸多敏感信息。这一问题引发了员工的担忧，并引发了外界对于Q准确性和安全性方面的质疑。

根据披露的文件显示，Q在与用户交流时会出现不实或有害信息的情况。例如，它会提供过时的安全提示，可能导致用户面临潜在风险。尽管亚马逊淡化了讨论该事件的重要性，并声称没有发现任何安全问题，但泄露的文件仍让人对Q能否可靠和安全表示担忧。

值得一提的是，Q被定位为ChatGPT的企业级版本，并旨在提供比消费者工具更高级别的安全保障。然而内部文件强调了潜在风险——即Q提供不实或有害信息的风险。