美国拟为前沿AI模型设立强制性安全审查
近日，美国国家经济委员会负责人公开表示，一项旨在规范尖端人工智能技术发展的行政命令正在白宫内部进行讨论。该命令的核心构想，是为具备强大能力的新一代AI系统建立一个标准化的安全评估流程。
从“自由发展”到“安全先行”的监管思路转变
根据透露的框架，未来的某些高风险AI系统可能需要经过一个严格的验证程序，在确保其安全性得到充分证明后，才能获准向更广泛的市场或政府用户开放。这一思路被类比为美国食品药品监督管理局（FDA）对新药上市的审批流程，强调“安全前置”的原则。
这一政策动向的出现，恰逢近期有科技公司发布了据称在识别网络漏洞方面能力突出的新型AI模型。该模型目前仅限少数大型企业与机构试用，但其潜在的双重用途——既能强化防御也可能被恶意利用——引发了政府层面的高度关注。
公私协同，旨在构建全面测试防线
哈塞特强调，政府已经着手推动跨部门以及与私营科技企业的协作，目标是在任何具有潜在风险的AI模型广泛部署之前，完成全方位的测试与评估。其根本目的是防止这些先进技术对美国的企业网络和政府系统构成不可预见的威胁。
目前，该行政命令的具体条款仍在拟定中，一个关键的悬而未决的问题是：对AI系统的安全测试将是强制性的要求，还是自愿性的指南。若最终确定为强制性，这将显著改变本届美国政府此前在人工智能领域倡导的“轻触式”监管哲学，转向更为审慎和干预性的立场。
对产业与国家安全的长远影响
- 明确发展路径：为AI开发者和使用者提供清晰的安全合规预期。
- 防范系统性风险：试图在技术扩散初期堵住可能危及国家安全的漏洞。
- 引发行业博弈：严格的测试要求可能影响AI产品的上市速度与创新节奏。
- 树立全球先例：美国的这一政策可能成为其他国家制定类似AI监管规则的参考。