资讯动态

人工智能的军事化挑战:当今世界的重大隐患

人工智能的军事化挑战:当今世界的重大隐患

9月23日,联合国安理会专门召开会议,聚焦“人工智能与国际安全”议题。OpenAI、Anthropic等高管齐聚一堂,讨论的焦点已不再是AI在创造美文和生成逼真视频方面的能力,而是一个愈发紧迫的问题:当人工智能逐渐渗透到战争中,人类该何去何从?此次会议的主题围绕先进AI所带来的安全隐患、治理挑战以及国际合作需求展开。

不久前,Anthropic发布了一份引人关注的威胁报告,揭示了一个位于胡塞武装控制区的研发团队正在使用Claude开发包括制导火箭、远程弹道导弹和高超声速滑翔飞行器等高端武器系统。这个团队成员虽少,却能够同时运用多个AI代理进行协同:一个编写代码,另一个搜集信息,再由第三者审查代码,最终完成导引、导航、飞控、参数调试及仿真等多项工作。Anthropic形容,这个团队实际上在用Claude取代传统的软件工程师角色,进一步说明AI技术的强大与威胁。

这一武器研发团队及其借助AI的方式,标志着人类面临着一种新型威胁:人工智能的崛起正在让那些过去只有国家、大型军事工业及资深工程团队才能涉足的高端军事设备研发能力,转移到人数极少的武装组织手中。理论上,单个人可以运用AI代理的能力,运作“一人武装组织”,而这或许才是AI对人类安全构成的最大威胁。 rb88官网

历史上,武装团体能够相对容易地获取枪支与商业无人机,但要独立设计开发远程精确制导武器,他们面临的技术门槛几乎不可逾越。除了需要掌握发动机、材料、芯片及制造设备外,还涉及气动学、导航控制、软件工程等多项专业知识,而这些必须通过多年的培训才能形成完整的工程体系。

如今,AI技术的出现正在逐步降低这一领域的知识与人才成本。Anthropic的最新评估表明,部分军事和情报任务中,前沿模型已经能够承担过去只有稀缺的高水平专业人员才能完成的工作。该报告甚至指出,AI正在模糊不同类型行为者之间的能力差异,日益执著的不是技术水平,而是运用能力的意图。

about image

一支仅有几十人的技术团队,如果能够随时调动世界一流的程序员、资料分析员和工程顾问,战争的力量对比将经历彻底重塑。AI不仅能够推动高端装备的研发,还能协助编写代码、进行仿真与分析,甚至将原本需要数十位专业人才协作的工程任务压缩至少数几名成员手中。 rb88官网

技术的扩散是人类难以阻挡的趋势。从火器、导弹技术,到无人机,国际社会曾为阻止核武器扩散付出巨大努力,并因此影响了全球政治格局。然而,AI所带来的变革似乎更加复杂,因为它传播的并非单一武器,而是一整套“制造、改进和运用武器的能力”。

一枚导弹或许能被拦截,一批零件能在海关被查获,而一位工程师则能被追踪。然而,已经下载到本地的模型、一段程序或一个离线仿真工具,回收的难度却几乎不可能。Anthropic在处理也门案例时关闭了相关账户,却承认对方早已建立能脱离Claude运作的离线仿真工具。这意味着,这个神秘小组已获得与先进国家媲美的武器研发能力。

面对AI治理的问题,国际社会过去往往集中在隐私、版权、虚假信息和就业冲击等问题上,这些课题固然重要,但现今迫切需要关注的是如何防止先进AI大规模赋能恐怖组织、极端分子、跨国犯罪集团及其他非国家武装力量。中国在此次安理会会议上的立场,恰恰回应了这一新的威胁。中国常驻联合国代表傅聪强调,要增强风险意识,确保安全可控,完善监管与国际合作机制,明确表示“坚决打击恐怖组织、极端势力与跨国犯罪集团对AI的恶意滥用”。 rb88官网

在军事应用方面,中国主张保持审慎与负责,避免战略误判与军备竞赛,并强调必须确保人类始终掌握最终决策权。与此同时,中方也呼吁尊重数字主权,鼓励开源与开放,反对借助AI治理建立排他性“小圈子”与技术壁垒。中方的立场显示,人工智能不应因潜在风险被限制在少数国家手中,也不能将“安全”作为维护技术垄断的借口。

人类长期以来忧虑AI会自我决策发动战争,但现在看来,真正的危险并非首先以此方式出现,而是人们将AI引入战争机器,借助其提升导弹精度、无人机自主性以及武装团体的工程能力。尽管机器并无能力决定是否发起战争,但它正在赋予越来越多的人发动更复杂战争的能力。

对人类而言,AI所能带来的最具威胁的事情之一,实际上已经在我们身边悄然发生。 rb88官网