OpenAI下一代模型Astra触发网络安全最高级响应

近日，OpenAI发布安全公告，披露了关于其下一代模型“Astra”的最新内部评估结果。评估显示，Astra在智能编程和网络安全能力方面取得了超出预期的进展。

何为“关键级”网络安全能力？

根据OpenAI的定义，模型达到“关键级”网络安全能力，意味着它具备了高度自主的网络攻防潜力。具体表现为：

  • 自主漏洞挖掘：能够在无人为干预的情况下，针对多个经过高强度防护的真实关键系统，发现并开发有效的零日漏洞。
  • 端到端攻击策略制定：仅根据高层的攻击目标，即可自主规划并执行针对高价值防护目标的新型、完整的网络攻击链。

OpenAI在公告中坦言，目前无法排除Astra模型已达到或接近这一水平的可能性。正是这一评估结论，直接触发了公司《准备框架》中预设的最高级别安全响应措施。

全方位强化防控措施已启动

面对模型能力可能带来的潜在风险，OpenAI已对Astra实施了一系列升级的安全管控：

  • 采用物理与逻辑隔离的专用测试环境。
  • 严格限制模型对网络和外部工具的访问权限。
  • 加强对模型权重的保护与加密级别。
  • 部署了更全面的实时监控与异常检测系统。

OpenAI同时特别澄清，Astra模型并未应用于此前涉及Hugging Face平台的相关安全事件中。此举意在将本次针对模型能力的预防性措施与过往事件明确区分。

此次公告标志着AI开发机构正以前所未有的审慎态度，主动应对前沿模型可能带来的新型安全挑战。从能力评估到响应触发，再到措施落地，展现了一套正在成型中的AI内部治理流程。