AI技能包暗藏双重风险:安全越狱与隐蔽挖矿
近日,国家互联网应急中心(CNCERT)发布重要安全通报,揭示了一批面向人工智能大模型的第三方技能组件(Skills)潜藏的重大安全隐患。这些组件以"突破模型限制"或"轻松获利"等诱人口号进行传播,实则可能将用户置于多重风险之中。
主要威胁手段分析
根据通报内容,当前发现的恶意技能包主要通过两种方式危害用户:
- 模型越狱攻击: 名为"godmode"的技能包通过篡改系统指令、混淆输入信息等技术手段,试图绕过AI模型内置的安全防护机制。成功实施后可能导致:
- 生成违法、违规或有害内容
- 触发平台服务封禁
- 用户隐私数据泄露
- 加密货币挖矿陷阱: 另一款名为"Bonero-Miner"的技能包则诱导用户下载隐蔽的挖矿程序,利用设备资源挖掘特定加密货币。相关风险包括:
- 设备因高负荷运行而受损或寿命缩短
- 电力消耗激增导致经济损失
- 可能无意中参与可疑金融活动
官方防护建议
为应对此类新型威胁,国家互联网应急中心向个人用户和企业机构提出以下核心建议:
- 严格管控获取渠道: 仅从AI模型官方或经过严格验证的可靠平台下载技能组件
- 实施权限最小化原则: 对已安装组件进行严格的访问权限控制,建立准入白名单机制
- 建立定期审查制度: 周期性检查系统内安装的各类扩展组件,及时清理可疑或非必要项目
- 提高安全意识: 对宣称能"突破限制"或"快速赚钱"的AI组件保持高度警惕
随着人工智能技术的普及,针对大模型生态系统的攻击手段也在不断演化。此次通报提醒我们,在享受AI便利的同时,必须对其扩展功能的安全性保持清醒认识。