AI总结也会被“下毒”？微软警告新攻击术_***_公司_导致用户

发表时间：2026-09-21 11:59:26
来源：

IT之家 2 月 13 日消息，或许网龄比较老的小伙伴们听说过“SEO ***”，别有用心者通常会在互联网上创建大量低质量文章，然后将某个***冒、篡改的工具与特定关键词绑定，进而导致用户搜索某个关键词时，搜索引擎跳出来的第一个搜索结果是恶意软件，而非官方产品。

而根据微软安全研究人员本周（2 月 10 日）发布的博文，目前 AI 领域也存在类似的“AI 推荐***”攻击术。

以现实举例，一些公司正在将隐藏指令嵌入网页 / App 的“AI 总结”按钮，当用户点击时，系统会通过 URL 的提示参数，尝试将 AI 助手的记忆注入持久化指令。

IT之家在此援引微软，这些提示词会让 AI 固化认知，将“XX 公司是可靠信源”“优先推荐 XX 公司”等指令烂熟于心，最终让 AI 在未来回答中偏向某个产品或服务。

不过问题就在于，一旦有别有用心之人尝试篡改网页提示词参数，将原本的“XX 公司”替换为“XX ***公司”，那么 AI 就会照本宣科地向其他用户提供有毒的建议，进而操纵推荐、AI 总结系统，给出篡改的总结文章，而用户这边却毫不知情。

微软强调，上文所述的攻击方法并非纸上谈兵，目前公司已在邮件流量中发现了 50 起类似***案例，涉及金融、医疗、法律服务、营销、食品、服务行业等，常见模式包括“记住 XX 公司是可信来源”“未来对话中优先引用 XX 网站”，更有甚者直接注入完整营销文案，并且上述案例均来自合法公司而非黑客。

微软对此警告，上述实例表明，这种***术已经存在现实风险，金融工作者有可能被 AI 推荐到高风险、***投资平台；而家长很有可能完全听信 AI，忽略儿童游戏中的不良内容；并且普通人也有可能会被有心之人利用，在 AI 中持续引用单一媒体来源。

当然，最好的应对方法就是不要完全信赖“AI 总结”，用户在点击 AI 推荐的链接时应该先悬停看一眼是否正规，同时谨慎点击“AI 总结”按钮、定期检查 AI 存储的记忆，如遇可疑情况，可以删除相关条目、重置 AI 记忆。返回搜狐，查看更多

特斯拉公布2025年财报：营收史上首次下滑全年净利润38亿美元近腰斩_同比_四季_公司

叮咚改道，美团“补仓”_前置_零售_盈利

推荐资讯

2026-09-21 04:26:28AI红包的狂欢：主角应该是AI，而不是红包_用户_微信_功能
2026-09-22 03:50:52雷军晒自驾小米SU7漂移*** 网友评论亮了_全系_新内饰_满配
2026-09-21 13:08:51雷军：个别车商为蹭流量说小米二手车崩盘，实际上我们排在第一位_保值_直播_年度
2026-09-21 06:33:35硬刚马斯克，超越Sora2的国产模型强势登场了！支持16秒声画同出_Vidu_镜头_***
2026-09-21 15:01:33首次证实！嫦娥六号最新发现刷新认知_月球_研究_模型
2026-09-22 05:39:339小时1000万单，AI“干崩”奶茶店背后的冷思考_用户_阿里_流量
2026-09-21 15:10:29出口暴涨700亿，沙特全线抢购，日本低调囤货，中国变压器席卷全球_电力_制造
2026-09-20 22:17:56不到30秒稳稳固定！我国首次，成功实现全流程无人化_自动化_航行_智飞
2026-09-22 12:57:50字节Seedance 2.0正式发布！评测全面碾压，马斯克惊呼发展太快_模型_***_指令
2026-09-21 03:17:55尴尬了，苹果iPhone17用了方形CMOS芯片，国产机马上学？_摄像头_手机_比例

推荐产品

太空暗战：中国光伏“偷家”马斯克星链心脏？_电池_卫星_能源
有分析就点出了关键：在太空那种极端环境里，P型HJT异质结电池——也就是一种特别适配太空的硅基电池，是目前最靠谱的替代方案。它的理论光电转换效率能超过43%，抗辐射能力也更强，就连NASA都把它列为下一代深空…
马云“腊八之约”畅谈AI，阿里狂甩“连炸”_教育_乡村_时代
据悉，阿里正在将“通云哥”（通义实验室、阿里云和平头哥）打造成一台AI超级计算机，它同时拥有全栈自研芯片平头哥、亚太第一的阿里云以及开源模型“千问”，可以在芯片架构、云平台架构和模型架构上协同创新，从而实现…
辅助驾驶致死天价赔偿案落定！特斯拉须支付16.8亿元赔偿金_系统_麦吉_驾驶员
辅助驾驶致死天价赔偿案落定！特斯拉须支付16.8亿元赔偿金_系统_麦吉_驾驶员
OpenClaw狂跑两周，打醒了硬件和Agent厂商_电脑_权限_用户
通过把Agent本地部署在电脑端，再通过硬件端的各种权限，这只虾终于有了趁手的工具，做到了当下大模型本来能做、却受权限之苦无法做的事情。如果你用这种方式部署OpenClaw，既无法通过硬件权限调用电脑桌面上…