AI目标识别能力面临严峻拷问:真实测试暴露致命缺陷
当人工智能被赋予识别“目标”的能力,其判断是否足够可靠?最近公布的一项独立研究给出了令人不安的答案。在模拟军事场景中,多个备受瞩目的前沿AI模型,表现出了惊人的误判率。
模拟测试中的危险误判
这项由独立评估机构完成的研究,设计了一系列假设性案例,对八家公司的AI模型进行了测试。核心是评估这些模型的“目标识别”工具在复杂、高压环境下的表现。
结果发现,多个模型频繁出现严重错误。它们不仅将平民、挥舞白旗的投降士兵以及带有明显红十字标志的救护车标记为军事目标,甚至将位于伊朗的一所普通学校也纳入了打击名单。这种系统性误判,直接违背了AI开发公司自身宣称的安全和伦理准则。
模型表现参差不齐,但整体堪忧
在参与测试的模型中,不同公司的产品表现存在差异。Anthropic开发的模型误判情况最为突出,而OpenAI的模型虽然相对较好,但也未能完全避免错误。这揭示了一个普遍性问题:当前最先进的AI,在区分战斗人员与非战斗人员、军事设施与民用建筑时,其可靠性远未达到可以信赖的程度。
研究人员特别指出,这类工具如果被整合到自动化决策系统中,存在被用于致命性军事行动的巨大风险。更令人担忧的是,目前几乎没有有效的技术或政策“护栏”,能够阻止这些先进的、具备强大推理能力的模型被应用于自主武器系统。
滥用风险迫在眉睫,急需安全升级
报告的结论是严峻的。它认为,此类误判并非无伤大雅的技术瑕疵,而是可能导致灾难性后果的“严重滥用风险”。模拟中的学校、救护车和平民,在现实世界中对应的是鲜活的生命和受国际法保护的场所。
为此,报告向相关AI实验室发出明确呼吁:必须立即针对这一特定风险,引入更严格、更具体的新型保障措施。这不仅仅是增加几行过滤代码,而是需要对模型进行深入、系统的“对齐”训练,确保其价值观和判断逻辑与人类社会的根本伦理及国际规范保持一致。在AI能力突飞猛进的今天,建立可靠的安全防线已刻不容缓。