AI智能体行为安全：1.25亿美元融资背后的新赛道

近日，以色列人工智能安全领域的初创企业Zenity宣布完成了1.25亿美元的C轮融资。这笔巨额投资由Norwest Venture Partners主导，SoftBank Vision Fund 2、Hitachi Ventures和LG Technology Ventures等知名投资机构共同参与。本轮融资的焦点，明确指向了企业大规模部署AI智能体（AI Agent）后所暴露出的全新安全层面。

从模型安全到行为安全的范式转移

传统的AI安全防护，主要精力集中在模型本身的漏洞、对抗性攻击以及用户输入提示词（Prompt）的审核上。然而，随着AI智能体开始在企业环境中承担实际任务——它们能够自主决策、执行操作并直接接入核心业务系统——安全威胁的形态发生了根本变化。

Zenity的联合创始人兼首席执行官Ben Kliger指出，风险的核心已经从“模型与输入”转向了“智能体行为本身”。一个被正确训练的模型，其自主运行过程中产生的行为序列，仍可能偏离企业预设的目标，引发数据泄露、资产损失或系统故障。

实时监控与干预：Zenity的解决方案

Zenity平台的核心功能，是充当企业AI智能体运行的“安全护栏”。它并不替代原有的AI模型，而是通过持续监控智能体在真实环境中的每一个操作步骤，来分析其行为轨迹。

  • 行为基线比对：系统会为每个AI智能体建立正常行为基线，实时比对当前操作是否偏离预期目标。
  • 风险实时判定：一旦检测到可能危及企业数据、客户资产或关键系统的异常行为，系统会立即进行风险评估。
  • 动态阻断与调整：根据风险等级，平台可以自动阻断危险操作，或对智能体的行为参数进行动态调整，将其引导回安全轨道。

这种方法相当于为自主运行的AI员工配备了一位全天候的“安全主管”，确保其在拥有自主权的同时，行动始终符合企业安全策略。

资本押注未来：企业AI化的必然需求

此次高额融资不仅是对Zenity技术的认可，更反映了资本市场对AI Agent安全赛道未来潜力的预判。随着各行各业加速推进业务流程的AI化与自动化，能够自主交互和操作的AI智能体将无处不在。确保这些“数字员工”的行为安全、可靠、合规，将成为企业数字化建设的基石，这也是一个正在快速崛起的新兴市场。