在这份报告中，我们考虑了人工智能(AI)的一个分支，称为强化学习(RL)，以及将这种技术纳入国防部(DoD)的潜在风险。具体而言，这份报告描述了随着AI执行任务的规模、复杂性和重要性的增长，国防部任务面临的风险。近年来，AI在医学、自然语言处理、自动驾驶等领域取得了显著的成功。一些最值得注意的例子是在游戏领域，AI已经掌握了经典的棋盘游戏，如象棋和围棋，以及复杂的在线游戏，如星际争霸2和Dota2，在这些游戏中，多个在线玩家可以同时玩。这些和其他突出的例子的共同之处是AI的学习部分，通常涉及某种形式的RL。RL是一个过程，通过这个过程，代理人与世界的模型互动(在这个过程中，世界由计算机模型代表)，并对行为或导致预期结果的回报进行奖励。这些成功激发了将RL应用到国防部应用程序的巨大兴趣。

在这份报告的大部分内容中，术语challenge被用于与AI可能特别容易在系统操作中失败或导致问题的任务相关。这一术语的选择是基于AI的快速发展，以及AI无法解决某些问题或执行某些任务的频繁失败的预测。在这个观点中，挑战是AI系统容易受到的领域，国防部应该更详细地分析，因为它可能需要额外的技术开发。

风险，在这份报告中，是一系列因素的组合:首先，人工智能失败发生，第二失败-re不减轻，第三，这种完整的失败的结果是相应的国防部的任务中使用的AI。有些风险很容易识别，例如自动驾驶系统无法识别受损桥梁，危及乘客安全，而另一些风险则比较微妙，需要花费一整天的时间，如第4章所述。

本报告使用一个名义RL应用程序探索其中一些问题，该应用程序为国防部的综合任务提供决策分析。应用程序的范围和复杂性被选择涵盖国防部的多种学科，以通过对技术可行性的初步评估来提取可能被忽视的多种挑战和后果。通过一个全天指导的讲习班分析了这个应用，参加讲习班的有兰德公司技术专家和一些目前在兰德公司工作的国防部研究员。通过这次研讨会，确定了一系列重要挑战，这些挑战可能需要在复杂的国防部基于决策的应用程序中考虑。

来源：Rand兰德

免责声明：我们尊重知识产权、数据隐私，只做内容的收集、整理及分享，报告内容来源于网络,报告版权归原撰写发布机构所有，通过公开合法渠道获得，如涉及侵权，请及时联系我们删除，如对报告内容存疑，请与撰写、发布机构联系