AI技能包暗藏双重风险:安全越狱与隐蔽挖矿

近日,国家互联网应急中心(CNCERT)发布重要安全通报,揭示了一批面向人工智能大模型的第三方技能组件(Skills)潜藏的重大安全隐患。这些组件以"突破模型限制"或"轻松获利"等诱人口号进行传播,实则可能将用户置于多重风险之中。

主要威胁手段分析

根据通报内容,当前发现的恶意技能包主要通过两种方式危害用户:

  • 模型越狱攻击: 名为"godmode"的技能包通过篡改系统指令、混淆输入信息等技术手段,试图绕过AI模型内置的安全防护机制。成功实施后可能导致:
    • 生成违法、违规或有害内容
    • 触发平台服务封禁
    • 用户隐私数据泄露
  • 加密货币挖矿陷阱: 另一款名为"Bonero-Miner"的技能包则诱导用户下载隐蔽的挖矿程序,利用设备资源挖掘特定加密货币。相关风险包括:
    • 设备因高负荷运行而受损或寿命缩短
    • 电力消耗激增导致经济损失
    • 可能无意中参与可疑金融活动

官方防护建议

为应对此类新型威胁,国家互联网应急中心向个人用户和企业机构提出以下核心建议:

  1. 严格管控获取渠道: 仅从AI模型官方或经过严格验证的可靠平台下载技能组件
  2. 实施权限最小化原则: 对已安装组件进行严格的访问权限控制,建立准入白名单机制
  3. 建立定期审查制度: 周期性检查系统内安装的各类扩展组件,及时清理可疑或非必要项目
  4. 提高安全意识: 对宣称能"突破限制"或"快速赚钱"的AI组件保持高度警惕

随着人工智能技术的普及,针对大模型生态系统的攻击手段也在不断演化。此次通报提醒我们,在享受AI便利的同时,必须对其扩展功能的安全性保持清醒认识。