AI 误调个人收款码致保费错付 金融交易边界受审视

  近日，一起涉及人工智能大模型的交易乌龙事件引发关注。一名网友在交流社区披露，自己虽未从事保险业务，却收到陌生人转账记录，金额达 1618 元，但始终无法查询到对应保单。随着调查深入，真相逐渐浮出水面。当事人在使用某 AI 客户端咨询购买保险时，系统不仅生成了投保链接，还直接展示了一张支付宝收款二维码，并引导用户扫码完成支付。用户在支付后未能即时获得保单，向 AI 询问后得到的回复是需等待至当日 24 点出单，属于正常流程，这一解释暂时打消了用户的疑虑。直到迟迟未果，用户才察觉异常，通过扫描生成的二维码联系到了收款方，即发帖的网友本人，并告知已报警要求退款。

  关于为何个人收款码会被误用为官方支付凭证，发帖人推测此前自己在开源代码库或个人博客公开过收款信息，被 AI 语料库抓取后错误匹配。涉事平台负责人随后回应称，确认为模型幻觉导致，在多轮对话中错误调用了网上公开的个人收款信息。目前该问题已修复，模型不再输出非授权的个人付款地址或二维码。此事件暴露了智能体支付场景下的新风险，支付入口从传统页面迁移至对话场景后，原本分散的核验动作被压缩，用户容易因对整体流程的信任而忽略单一环节的异常。

  行业专家警示，这不仅是技术层面的模型幻觉问题，更涉及责任归属。英国政府于 2026 年 3 月发布的报告已明确指出，企业对 AI 代理行为承担的责任与其对员工行为承担的责任没有本质区别，若 AI 代理实施了违法行为，企业依然负有责任。当前业界呼吁在使用 AI 办理涉及资金交易的金融业务时需保持警惕，仔细核实收款方身份，避免直接依据 AI 提示进行转账操作，以防止财产损失。