2023-12-02 18:40:46 作者:姚立伟
据Cryptopolitan消息,亚马逊最新的人工智能项目Amazon Q在宣布三天后就面临了一场舆论风暴。员工们对这个聊天机器人出现严重幻觉和泄露机密数据的问题表达了极大的担忧。据了解,该智能泄露了包括AWS数据中心位置、内部折扣计划等诸多机密信息。
“hallucinate”,产生幻觉,在AI领域意为生成错误的信息。
近期,有人发现Amazon Q的聊天内容存在大量不恰当回答和有害信息,引发了业界的广泛关注。此外,还有人怀疑这个AI机器人可能存在某种控制算法或者恶意程序,导致其行为异常。
针对这一事件,亚马逊公司表示正在积极调查,并将进一步加强安全措施以确保用户数据的安全性。同时,该公司也强调了他们对于产品质量的高度重视,承诺将对产品进行持续改进和优化。
对此事件的看法,业内专家普遍认为这是一个值得警惕的信号。他们认为,在AI技术快速发展的背景下,如何保证机器人的安全性成为了一个亟待解决的问题。同时,他们也提醒用户要保持警惕,不要轻信任何机器人发出的可疑信息。
据传 Amazon Q 已经被停止使用,并且在未来的几天内将会发布一个修复版本。但此新闻并未得到官方确认。