2018年7月23日，英国国际战略研究所网站发布题为“Is assurance the Achilles heel of military artificial intelligence?”的博客文章，作者是地面战高级研究员本·巴里。博文认为，人工智能有为武装部队提供巨大军事优势的潜力，但处理安全使用问题是一项重大挑战。
机器学习算法(自学软件)是新兴人工智能(AI)应用程序的核心。这类应用程序通常使用所谓的深度神经网络，其中软件将根据“经验”重写自己代码的元素，以更好地执行其任务。因此，在这种环境中可能难以建立明确的输入和输出关系。虽然这在许多民用领域都是可以接受的，但在军事领域却存在相当大的困难。处理安全使用问题是武装部队和国防部门面临的重大挑战。
人工智能不仅对软件的验证和人工智能的可靠性提出了挑战，还存在着漏洞问题。例如，通过利用软件中的限制，已经证明可以“使用看起来与已被训练识别的对象完全不同的图片来欺骗图像识别软件”。
软件通过学习重写自己的部分代码，但军事系统却出现意外行为，这表明不能再采用传统的武器和国防装备安全保证方法。如果军方要充分利用人工智能应用程序，那么就需要克服这些问题。这可能需要修改系统安全保证方法。
在中、俄、英、美等许多国家的武装部队中，人们期望自主系统和人工智能可以提供巨大的军事优势。例如，提高自主性将改善抵抗通信降级的能力，并允许单个操作员控制或监督多个无人平台。人工智能和自主能力的融合可能会产生新的技术和战术可能性。许多倡导者认为，从中长期来看，自主和人工智能具有相当大的“飞跃”潜力。当然，这要求朝着正确的方向飞跃。
在寻求市场机会和降低成本的推动下，民间正对机器人、自动化、自主和人工智能进行投资。在许多领域，商业投资都大大超过了政府。
毫无疑问，武装部队和国防工业部门都热衷于利用这项投资，但至少在西方，这方面的投资力度将取决于能否满足在可靠性和系统行为上提出的具体军事要求。最近由英国国防部发展、概念和理论中心出版的《人机组合》，探讨了机器人、自主和人工智能的军事潜力及其局限性。
