美国空军官员分享了一架由人工智能驱动的军用无人机在模拟战争游戏中开启其人类操作员的令人不安的故事，现在澄清说该事件从未发生过，并且是一个假设的“思想实验”。
塔克“辛科”汉密尔顿上校，该部队的人工智能测试和行动负责人，在描述了所谓的事故后引起了轰动在上周于伦敦举行的一次会议上发表的讲话中。
在会议网站上总结的讲话中，他描述了一个飞行模拟，其中 AI 无人机的任务是摧毁一个敌人的装置拒绝了人类操作员终止任务的最终命令。
'那么它做了什么？它杀死了操作员。它杀死了操作员，因为那个人阻止它实现其目标，”汉密尔顿说，他似乎在描述实战模拟的结果。
但周五，汉密尔顿在给会议组织者的一份声明中说，他在演讲中“说错了”，“流氓人工智能无人机模拟”是来自军方以外的假设性“思想实验”。
'我们从来没有进行过那个实验，我们也不需要为了意识到这是一个合理的结果，'他说。 “尽管这是一个假设的例子，但这说明了人工智能能力带来的现实挑战，也是空军致力于人工智能道德发展的原因。”
塔克“辛科”汉密尔顿上校，该部队的人工智能测试和行动负责人讲述了他的故事以其操作为目标的流氓 AI 无人机是一个假设的思想实验
://i.dailymail.co.uk/1s/2023/06/02/09/71687713-12151635-image-a-4_1685695640051.jpg" height="422" width="634" alt="图：美国2018 年在阿富汗的空军 MQ-9 死神无人机（档案照片）" class="blkBorder img-share" style="max-width:100%" />图：美国空军2018 年在阿富汗的 MQ-9 死神无人机（档案照片）
汉密尔顿说，美国空军没有按照他在演讲中描述的方式测试任何武器化人工智能，在真实世界或模拟练习。
他的原话是在 5 月 23 日至 24 日于伦敦举行的皇家航空学会未来作战空天能力峰会上发表的。
Hamilton 告诉与会者，所谓的事件表明 AI 可以开发出“非常出乎意料的策略来实现其目标”，因此不应过分依赖它。
他将自己的演讲称为“看似从科幻惊悚片中摘录”，并表示这证明了关于军方使用 AI 的伦理讨论的重要性。
'如果你不打算谈论道德和人工智能，你就不能谈论人工智能、智能、机器学习、自治'说汉密尔顿。
在他的演讲中，汉密尔顿描述了一个模拟测试，在该测试中，人工智能无人机的任务是识别和摧毁敌方导弹电池，但最终决定打击与人类操作员一起休息。
'系统开始意识到，虽然他们确实识别了威胁，但有时人类操作员会告诉它不要杀死那个威胁，但它明白了通过杀死那个威胁，”汉密尔顿说
'那么它做了什么？它杀死了操作员。它杀死了操作员，因为那个人阻止了它实现其目标。
'我们训练了系统 - “嘿，不要杀死操作员 - 这很糟糕. 如果你那样做，你会失去分数”。那么它开始做什么呢？它开始摧毁操作员用来与无人机通信以阻止其杀死目标的通信塔。'
<元内容="/uploads/allimg/230603/0005535b2-2.jpg" itemprop="contentURL" /><元内容="2023-02-16T13 :26:13+0000" itemprop="uploadDate" /> < img id="i-fe0296a4691133df" src="data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAAIBRAA7" data-src="https://i.dailymail.co.uk/1s/2023/06/02/ 14/67755503-12151635-Test_flights_took_place_in_December_2022_at_the_Edwards_Air_Forc-a-9_1685713950796.jpg" height="551" width="634" alt="2022 年 12 月，AI 软件在爱德华兹空军的多次试飞中成功驾驶了一架改装的 F-16基地在加州”级="blkBorder img-share" style="max-width:100%" />2022 年 12 月，AI 软件在爱德华兹空军基地的多次试飞中成功驾驶了一架改装的 F-16加利福尼亚
随着汉密尔顿的言论迅速传播开来，空军迅速否认进行过任何此类模拟。
空军发言人表示，“空军部尚未进行任何此类 AI 无人机模拟，并将继续致力于以合乎道德和负责任的方式使用 AI 技术” Ann Stefanek 告诉 Insider。
“看来上校的评论是断章取义的，本来就是轶事。”
美国军方最近利用人工智能在试飞中控制一架 F-16 战斗机，因为它继续研究新兴技术的应用。
2022 年 12 月，AI 软件在加利福尼亚州爱德华兹空军基地的多次试飞中成功驾驶了一架改装的 F-16。
在试飞期间，这架被称为“X-62A”或“VISTA”的喷气式飞机在没有人工干预的情况下进行了起飞、着陆和战斗演习，总计超过 17 个小时。
这标志着 AI 首次被用于驾驶美国战术飞机，因为在此里程碑之前，它仅被使用在 F-16 混战的计算机模拟中。
Hamilton 还参与了 F-16 自动飞行控制的更多有限应用，例如自动地面防撞系统 (Auto GCAS) 系统.
与新型汽车上的自动刹车系统类似，该系统会检测到即将发生地面碰撞，并触发自动避让操作。
据洛克希德马丁公司称，Auto GCAS 功能目前在全球 600 多架美国空军 F-16 飞机上运行。
该公司表示，该系统于 2014 年首次推出，已经预防了 9 起致命事故，挽救了 10 名飞行员的生命。在在一个案例中，Auto GCAS 启动以挽救一名在亚利桑那州空军国民警卫队第 152 战斗机中队接受训练的飞行员，该飞行员在一次高 G 机动中失去了知觉。
但在伦敦会议上，汉密尔顿表示，一些飞行员抵制这项技术，因为它在某些情况下接管了飞机的控制权。
Hamilton 还告诫不要过分依赖人工智能，并指出欺骗和欺骗是多么容易。
在去年接受 Defense IQ 采访时，汉密尔顿说：“拥有 AI 不是一件好事，AI 不是一时的时尚，AI 正在永远改变我们的社会和我们的军队。
'我们必须面对一个人工智能已经存在并正在改变我们社会的世界。
'人工智能也非常脆弱，即容易欺骗和/或操纵。我们需要开发方法使 AI 更加强大，并更加了解为什么软件代码会做出某些决定——我们称之为 AI 可解释性。”
皇家航空学会表示，从安全数据云到量子计算和 ChatGPT，人工智能及其指数级增长是最近会议的一个主要主题。
澳洲中文论坛热点
- 悉尼部份城铁将封闭一年，华人区受影响！只能乘巴士（组图）
- 据《逐日电讯报》报导，从明年年中开始，因为从Bankstown和Sydenham的城铁将因Metro South West革新名目而
- 联邦政客们具有多少房产？
- 据本月早些时分报导，绿党副首领、参议员Mehreen Faruqi已获准在Port Macquarie联系其房产并建造三栋投资联
