潮新闻客户端 记者 张云山 柳蓬

“这段视频明显是AI合成的！视频中人脸动作轨迹和速度等信息都出现异常。”

“这条语音在某些频率上过于‘干净’，显示出不自然的变化，AI生成概率在98%以上！”

11月20日，国内首个AI大模型攻防挑战赛在乌镇激烈上演。

国内首个AI大模型攻防挑战赛在乌镇激烈上演

自9月启动以来，这场大赛吸引了2700多个赛队、3200余名技术精英参与，来自290多个国内外高校及280多个行业企业。通过攻、防双向赛道竞技，大赛最终角逐出全球十强，由来自字节跳动、合合信息科技、济南大学、浙江工业大学、安徽大学、上海交通大学等企业和高校的赛队获得。

赛场上，选手们面对各种“眼见不为实、耳听不为实”的场景，通过大模型技术迅速识别出AI造假的音频、证照及视频。有的选手凭借敏锐的洞察力，迅速指出某段视频中的人脸动作轨迹异常，是AI合成的产物；有的选手则通过音频分析，准确判断出某条语音的不自然变化，断定其为AI生成。

图说：全球AI大模型攻防挑战赛十强选手现场对抗AI诈骗

这场大赛不仅是一次技术的较量，更是一次对AI安全的深度探索。随着人工智能技术的飞速发展，大模型应用日益广泛，但随之而来的安全风险也不容忽视。大赛聚焦大模型自身安全和大模型生成内容的防伪检测两个赛道，通过创新的技术解决方案，进一步保障大模型应用安全和产业安全。

“通过攻防实战演练，直面大模型应用中的安全问题，促使大模型安全技术不断进步，从而携手行业迈向更高的安全水平。”蚂蚁集团安全实验室首席科学家、全球AI大模型攻防挑战赛评审委员会委员王维强表示。

人才对谈圆桌论坛

中国工程院院士、中国图像图形学学会理事长王耀南指出：“加强大模型安全保护，构建完善的安全防护体系，是确保人工智能技术持续、稳定、健康发展的关键所在。”大赛的举办，正是为了直面并解决大模型应用中潜藏的风险，助力全球AI产业健康可持续发展。

赛后，来自桐乡的反诈民警李湘臣表示：“现在AI诈骗越来越隐秘，手法越来越多样。今天的比赛让我看到了我们在对抗AI诈骗的道路上有了更多的力量和智慧。”

图说：全球AI大模型攻防挑战赛优秀选手获蚂蚁集团直通offer

此外，大赛还特别设置了“杰出方案奖”和直通offer环节，以鼓励选手在算法创新性和资源绿色性方面的卓越表现，并为优秀技术人才提供职业发展机会。同时，中国信通院还在活动现场启动了“护证计划”，呼吁共建行业标准，守护用户的身份安全。蚂蚁集团积极响应加入该计划，并宣布其推出的凭证可信认证平台将逐步升级，未来打造成为集合智能证照的综合性平台。

“转载请注明出处”