联合人工智能中心(JAIC)在12月底发布了一项需要(RFI),寻求最新和最先进的人工智能和无人机群技术,并寻找如何将两者结合起来的聪明想法。该机构说,由此产生的智能群体应该是自我引导的,能够自己发现和跟踪人类(RFI指出,还有人造物体),能够流式播放其活动的视频,并愿意推动其看护者(他们大部分时间不会注意到它,因为它主要是人工智能驱动的)当它锁定了一些有趣的东西。蜂群必须能够移动至少50节(93公里/小时),在空中停留至少2小时,覆盖100平方海里(343平方公里)。
RFI解释说,“智能群”的官方目的是搜索和救援,而JAIC计划包括四个“任务倡议”——“预测性维护、人道主义援助和救灾、网络空间和机器人过程自动化”
那么,四号在哪里?RFI没有说明,但我们可以根据JAIC的所作所为进行推测。人工智能专家部门在2018年才首次亮相,最终运行了Maven项目,这是一项将机器学习和大数据武器化的倡议,在员工对帮助五角大楼杀人感到冷淡后,该项目被谷歌拒绝。
马文项目不仅提高了战术无人机的视频输入质量,或者利用计算能力组织通过监视获得的海量数据,还教会了参与者如何“使用算法进行战争”
一个能够以最小的外部方向(按照RFI中规定的路线)猎杀人类的智能群体会遵守规则并坚持搜索和救援吗?还是它的人工智能会将其与“搜索和摧毁”混淆?如果五角大楼的人不能区分平民和恐怖分子,那么它的无人机群应该如何才能做到呢?即使这些算法运行得很好,怎么才能阻止负责人用他们的新玩具杀人呢?
JAIC与DARPA和其他秘密的五角大楼高级机构合作;如果美国军方曾经开发出一批能够在没有人工输入的情况下运行的杀手无人机(他们已经拥有与人类向导一起工作的无人机群),那将在那里发生。
在你想“但他们不敢”之前,要起诉一个战争罪的人工智能算法是非常困难的,尤其是一个用开源编写的算法。
我们以前看过这部电影。科技反乌托邦电视剧《黑镜》的“全国最讨厌”一集讲述了一群在大规模死亡后取代真实事物的自主无人机“蜜蜂”;这个数字蜂巢证明是可以破解的,而且每天,一个单独的无人机蜜蜂刺客被武器化,以杀死任何一个公众人物获得了最社交媒体的仇恨。蜜蜂以如此缓慢的速度消失,不管最后几秒的神风戏如何,都意味着蜂巢看护者从不介意。
《黑镜》中的蜜蜂大师们为自己的创造辩护,他们吹嘘“军事级”加密技术,坚称没有人能比大自然让它们授粉者更好地破解它们的高科技。然而,到那时,已经有人有了。
军事级的加密只和它故意安装的后门一样好,总检察长威廉·巴尔和整个五眼情报网都打算安装足够的后门,让他们在余生中忙于偷看你的私人数据。一旦他们这样做了,每个人的无人机群-字面上和形象上-属于其他人。如果有一天不急于制造一种世界末日的技术,那就是现在。