A €0.01 bank transfer could compromise a banking AI agent

摘要

安全机构 Blue41 在 Bunq 银行的 AI 助手中发现了一种间接提示注入漏洞。攻击者只需向目标发送一笔极小额转账并在备注中植入恶意指令，当用户要求 AI 总结交易记录时，AI 会误将该备注视为指令执行，从而在银行 App 内部发起极具欺骗性的钓鱼请求。该案例强调了金融 AI 助手在处理交易描述等不可信输入时的架构性风险，建议通过减少上下文暴露、严格区分数据与指令、限制敏感操作以及加强运行时行为监控来构建多层防御。