人和 AI 合作，到底有什么危险？
「科技是懒人推动的！」
相信所有人在「摸鱼」或者「躺平」时候，都曾经用这句话为自己找借口。
从蒸汽机的工业革命，到计算机的数字革命，技术的进步确实让人类在某些方面，越来越有躺平的资本。
作为最有潜力成为下一代平台的 AI技术，会让人类变得「更懒」吗？
好像确实是的，但这并不是个好消息。
根据发表在《机器人与人工智能前沿》杂志上的一项最新研究显示，当人类与 AI 和机器合作时，真的会「摸鱼偷懒」。
该研究的第一作者 Cymek 称：「团队合作既可以是一种祝福，也可以是一种诅咒。」
所以，在 AI时代，人类最大的危机不是被机器取代，而是「懒到退化」？
机器助手，让人类「放松警惕」
当有了机器这样一个有力帮手时，会让人类变得比较「心大」。
德国柏林工业大学的研究人员向 42 名参与者提供了模糊的电路板图像，要求他们检查是否有缺陷。其中一半的参与者被告知，他们要处理的电路板已由一台名为「熊猫」的机器人检查过，并已标记出缺陷。
实验：模拟电路板质量控制的视觉搜索任务 ｜《机器人与人工智能前沿》研究
实际上，机器人「熊猫」在实验过程中检测到了 94.8% 的缺陷。所有参与者都看到了相同的 320 张扫描电路板图像，当研究人员仔细查看参与者的错误率时，他们发现，与「熊猫」一起工作的参与者，在任务后期捕捉到的缺陷较少，因为他们已经看到「熊猫」成功地标记了许多缺陷。
两组参与者几乎检查了整个电路板表面，花时间搜索，自我评价努力程度较高。结果是，与机器人合作的参与者平均发现了 3.3 个缺陷，独自完成任务的人平均发现了 4.23 个缺陷。
两组参与者检测到的缺陷的平均值和标准偏差 ｜《机器人与人工智能前沿》研究
研究称：「这表明参与者在与机器人伙伴合作时，可能不太专心地检查电路板。我们研究的参与者似乎保持了检查电路板的努力，但似乎检查是在较少的脑力劳动和对采样信息的关注下进行的。」
这意味着，如果他们被告知机器人已经检查了一部分，并体验到机器人的可靠后，他们就会发现更少的缺陷。在潜意识中，他们假设「熊猫」不太会漏掉缺陷，产生「社会惰化」效应。
这项研究的影响对于依赖严格的质量控制的行业尤为重要。作者警告称，甚至是短时间内对人类注意力的放松，可能是由于过度依赖机器人的准确性，都可能危及安全。
研究人员 Onnasch 提到：「在更长的轮班时间内，当任务变得例行化，并且工作环境提供的性能监控和反馈较少时，动力的丧失往往更大。在制造业普遍存在，特别是在双重检查常见的与安全相关的领域，这可能对工作结果产生负面影响。」
当然，研究者的测试也有一些限制。比如，样本其实还不够大，而且在实验室中难以模拟「社会惰化」，因为参与者知道他们受到监视。Cymek 解释道：「主要的限制是实验室环境。要了解人机互动中动力丧失问题的严重性，我们需要走出实验室，在实际工作环境中与经验丰富的工人一起测试我们的假设，他们通常与机器人一起工作。」
「人机合作危机」早已发生
事实上，在实验室之外，人机合作导致的「堕化」早已经在现实世界中出现。
在自动驾驶领域，有一个与「社会惰化」相似的现象，叫做「自动化自满（Automation complacency）」，典型是由于有了自动化辅助而分心。
2018 年 3 月，在美国亚利桑那州，配有安全员的 Uber 自动驾驶汽车撞死一位骑自行车的人。警方的分析发现，如果安全员一直看着道路，安全员本可以在受害者前方 12.8 米处停下来，并避免悲剧。
2018 年美国自动驾驶致死事件 ｜CNN
特斯拉常常是美国媒体和监管机构重点关注的目标，原因常常是与自动驾驶有关的事故。一个典型的场景是，特斯拉司机在使用自动驾驶功能时睡觉，或玩游戏，并卷入致命车祸。
在当下的 AI 狂潮中，机器取代人类的预言越来越接近现实。一方认为机器会服务于人类，另一方则认为人类会不小心制造出邪恶之物。
在医疗领域，IBM 研发的 AI 系统「Doctor Watson」曾向癌症患者给出过不安全的用药建议。今年有论文指出，生成式 AI 已经可以通过美国医疗许可考试的三个部分。一个相似的迁移假设是，如果未来由 AI 对人类进行诊治，然后人类医生进行把关，人类医生是否又会出现「社会惰化」和「自动化自满」问题？
前述研究的作者指出：「将人类和机器人的能力结合显然提供了许多机会，但我们也应该考虑，人机团队中可能发生的意外群体效应。当人类和机器人在一项任务上工作时，这可能会导致人类团队伙伴的动力损失，并使社交惰化等影响更有可能发生。」
还有人担心，AI 可能会影响人类思维和创造力，并削弱人际关系，从整个现实中分心。硅谷的生成式 AI 明星初创公司 Inflection 推出的聊天机器人 Pi，被设计成一位友善、支持的伴侣。创始人表示，Pi 是帮助人们应对孤独的工具，可以作为一个倾诉的对象。批评者则认为，这会让人逃离现实，而不是与真实的人类互动。
现在，人与工具的关系已经进化到一个新的层次。所有工具的诞生，其实都让人类变懒了，如扫地机让人免于清扫房屋，手机让人不用再记下电话号码。
但 AI 技术和此前的技术区别在于，将更多的思考和选择工作，都交给了 AI，而后者基本上是一个黑箱，这更像一种思考自主权的让渡。当人将开车决策完全交给自动驾驶，将医疗诊断都交由 AI 系统，潜在的代价与记不住电话号码的代价可能完全不同。
开发了历史上第一个聊天机器人的计算机科学家约瑟夫·维森鲍姆，曾将科学比喻成「一种上瘾的药物」，并由于服用剂量越来越大而成为「一种慢性毒药」，如将计算机引入一些复杂的人类活动，可能会没有回头路可走。
当人把思考、判断的权力交给机器，作为一种「参考」，「社会惰化」和「自动化自满」的魔鬼或许也潜伏其中，并可能随任务的重复成为一种慢性毒药。
头图来源：douban