标签：提示词注入

2026-05-04圈小蛙阅读(586)评论(0)

攻击者通过摩尔斯电码伪装指令，成功诱导 Grok 触发了财务代理机器人 Bankrbot 的转账逻辑，导致价值 17.5 万美元的代币被非法转移。虽然资金最终悉数归还，但这起事件暴露出当前 AI Agent 权限管理中存在的重大安全隐患。

2025-12-22圈小蛙阅读(299)评论(0)

OpenAI在周一发布的一篇博客文章中详细介绍了该公司如何加强Atlas的防御能力以应对持续不断的攻击，文章指出：“与网络上的诈骗和社会工程攻击一样，即时注入攻击不太可能被彻底‘解决’。”