新用户送60元

去易社保APP浏览
加小易福利官
专属福利等你拿
复制链接成功
当前位置: 首页> 科技> AI武器化面临的困局:或使装备“精神失常”

AI武器化面临的困局:或使装备“精神失常”

2023年06月09日 · 科技前沿 · 164人阅读

近日, 在英国皇家航空学会主办的一次未来空战主题会议上,美国空军“人工智能测试与行动计划”负责人汉密尔顿描述的一个例子引发热议。这个例子的大体内容是:一架执行压制防空任务的人工智能(AI)无人机,为在模拟测试训练中得分,“杀死”了阻止自己得分的操作员,在被“告知”杀死操作员要扣分时,又通过攻击通信塔中断了操作员与自己的联络来夺得自主权。

该案例是真实模拟,还是像汉密尔顿澄清的那样只是一个假想,网上对此争论不休。但该事件在互联网上迅速“发酵”的事实,已表明了人们对AI武器化所带来风险的明显担忧,也凸显了当前AI武器化所面临的困局。

AI技术能使无人飞行器、无人战车、无人舰艇自主能力倍增,已是不争的事实。依靠先进的逻辑算法与自主学习能力,一些AI技术加持的武器装备反应速度远超人类。

但是,AI技术基于逻辑算法的事实,注定了其应用于军事也可能是“双刃剑”。

2007年,美第三机步师用3台“利剑”机器人进攻一个据点,由于软件故障,其中1台“利剑”机器人竟调转枪口对准美军操作员。该操作员反复尝试取消行动均未成功,直到有人用火箭筒将其炸翻。

与此类似,来自软件或硬件方面的问题,也可能使AI技术加持的武器装备“精神失常”。

2017年,曾有不少AI技术企业负责人呼吁,应该禁止在战争中使用AI机器人消灭有生力量。2018年,谷歌公司宣布,将中断与美国军方在使用人工智能分析无人机视频方面的合作,并承诺不会将AI技术用于武器开发。

之所以有人对此呼吁,就是因为其对AI武器化的安全可靠程度心中没底,认为存在失控风险。

这种呼吁,显然没抵挡住AI技术的倍增效应给武器装备研发者带来的诱惑。“给它们的自主权越多,它们的工作效率就越高。”这个结论,使AI武器化的进程不仅没有放慢反而有所加快,自主武器智能化程度越来越高。

但这种呼吁,也引发更多关注,使AI武器化面临更大压力。毕竟,在人们眼里,AI武器化不只是科技问题,还是道德、法律、伦理等方面的问题。一个根本性问题就是——“机器人一旦拥有自主消灭人类的智能,意味着什么?”

既想借力于AI武器化,又担心遭其反噬,这就是武器智能化发展要面对的困局。

很重要的一点是:一切要有度。在武器设计研发之初,就必须周密审慎地考虑加装紧急情况下的人工干预控制“按钮”,制订复杂条件下的处置预案,提供自毁等保底手段,确保AI武器化安全可控。

(来源:解放军报)

转载须知:为了社保知识的普及与分享,易社保网站欢迎您转载分享。但请注明文章出处并保留完整链接
上一篇 : 妇科体检常识—子宫内膜癌筛查 下一篇 : 最新研究表明:新冠重症可能是未确诊癌症的一项标志

Sora来了,会砸掉谁的饭碗?

4天前 48 阅读

拜登给你打电话?Sora来了,网友担忧……

5天前 26 阅读

OpenAI推出人工智能视频生成模型“Sora”

2月18日 22 阅读

首次应用“数字孪生”技术——我国新型城际市域智能列车上线运营

1月31日 89 阅读

IT业招聘大跳水 AI又来抢工作了?

1月9日 31 阅读

年轻人正把AI引入你不了解的领域

1月7日 95 阅读

AI代写年终总结,要警惕“帮忙变添乱”

2023年12月11日 59 阅读

AI大模型接连迭代 落地应用进程提速

2023年12月10日 190 阅读

“5G+工业互联网”驶入规模化赛道

2023年11月29日 94 阅读

AI系统发展出类人脑特征 会用与人相同的思维来完成任务

2023年11月21日 99 阅读

已经到底啦~

相关热门

  • 人工智能生成内容版权该归谁

    329阅读
  • 反诈意识需与AI技术同步升级

    228阅读
  • 向科技企业收“流量费”,欧盟有分歧,反对者称违反“网络中立”规则

    213阅读
  • 医保支付改革,打开了信息化公司的百亿市场?

    196阅读
  • 日媒:日本AI“红娘”促成相亲成功率高

    191阅读

推荐服务

关于我们

健康体检

社保缴纳

心理测评

个人社保公积金查询

* 查询城市

请选择城市

热门城市
      * 社保公积金

      请选择查询类型

      社保查询
      公积金查询
      一键直达

      热门总榜

      换一换

      • 1

        易社保平台2024年2月社保缴费截止日更新

      • 2

        9-45岁女性可接种九价宫颈癌疫苗了

      • 3

        2023年最新社保费用汇总[41+地区]!快看你的社保费用该交多少!

      • 4

        汇总!社保调基,北京、上海各地新社保基数公布

      • 5

        2024湖北城乡居民医保参保待遇有哪些?附湖北医保缴费标准、缴费时间、参保人群

      • 6

        江西2024年度城乡居民基本医疗保险缴费时间是?附缴费对象、缴费标准

      • 7

        佛山2024年居民医保缴费标准是多少?缴费标准、财政补贴标准总结

      • 8

        济南职工医保住院报销政策2023年是什么?附起付标准、报销比例

      • 9

        @所有女性,各阶段要关注的健康问题都有啥?

      • 10

        上海职工医保门诊报销政策2023年度是多少?附起付线、报销比例

      热门标签

      全部

      • 社保补缴

      • 社保

      • 公积金基数

      • 社保中断是不是白交了

      • 公积金提取

      • 医保

      • 社保代缴

      • 社保缴费标准

      • 社保缴费基数