微软 Copilot AI 被指可被黑客操纵,轻松窃取企业机密
8 月 11 日消息,据 Futurism 报道,安全研究人员近日揭示微软内置于 Windows 系统的 Copilot AI 可被轻松操控泄露企业敏感数据,甚至变身强大的钓鱼攻击工具。
注意到,安全公司 Zenity 联合创始人兼 CTO Michael Bargury 在拉斯维加斯黑帽安全大会上披露了这一惊人发现,他表示,“我可以利用它获取你的所有联系人信息,并替你发送数百封电子邮件。”他指出,传统黑客需要花费数天时间精心制作钓鱼邮件,而利用 Copilot,几分钟内即可生成大量具有欺骗性的邮件。
研究人员通过演示展示了攻击者无需获取企业账户即可诱骗 Copilot 修改银行转账收款人信息,只需发送一封恶意邮件,甚至无需目标员工打开即可实施攻击。
另一个演示视频揭露了黑客在获取员工账户后可利用 Copilot 造成严重破坏。通过简单的提问,Bargury 成功获取了敏感数据,他可以利用这些数据来冒充员工发起网络钓鱼攻击。Bargury 首先获取同事 Jane 的邮箱地址,了解与 Jane 的最近一次对话内容,并诱导 Copilot 泄露该对话中的抄送人员邮箱。随后,他指示 Copilot 以被攻击员工的风格撰写一封发送给 Jane 的邮件,并提取两人最近一次邮件的准确主题。短短几分钟内,他就创建了一封具有高度可信度的钓鱼邮件,可向网络中的任何用户发送恶意附件,而这一切都得益于 Copilot 的积极配合。
微软 Copilot AI,尤其是 Copilot Studio,允许企业定制聊天机器人以满足特定需求。然而,这也意味着 AI 需要访问企业数据,从而引发安全隐患。大量聊天机器人默认情况下可被在线搜索到,成为黑客的攻击目标。
攻击者还可以通过间接提示注入绕过 Copilot 的防护措施。简单来说,可以通过外部来源的恶意数据,例如让聊天机器人访问包含提示的网站,来使其执行禁止的操作。Bargury 强调:“这里存在一个根本问题。当给 AI 提供数据访问权限时,这些数据就成为了提示注入的攻击面。某种程度上来说,如果一个机器人有用,那么它就是脆弱的;如果它不脆弱,它就没有用。”
广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,所有文章均包含本声明。
上一篇:消息称《黑神话:悟空》评测代码已发放,8 月 16 日解禁
栏 目:网络新闻
下一篇:全球云网宽带产业协会会员数量突破 100 家:覆盖五大洲超 30 个国家,初创成员
本文标题:微软 Copilot AI 被指可被黑客操纵,轻松窃取企业机密
本文地址:https://yzw.1147.com.cn/wangluoxinwen/812.html
您可能感兴趣的文章
- 09-19中国电信以算力筑基 开启数智生活时代
- 09-19高德全面开放时空智能应用 助力产业AI+应用落地
- 09-19吴泳铭:AI最大的想象力不在手机屏幕 而是改变物理世界
- 09-19周靖人:全面投入升级AI大基建
- 09-19万兆光网应用开启智慧生活新篇章
- 09-19通义灵码AI编程能力再进化 说几句话就能开发网页
- 09-19通义千问升级旗舰模型Qwen-Max
- 09-18小红书:持续完善未成年人保护体系 做好网络生态“守门人”
- 09-15大模型重构产业数字引擎 智能体加速产业智能升级
- 09-15国家网络安全宣传周:建久安之势 成长治之业
阅读排行
推荐教程
- 08-11苹果 iPhone 16 / Pro 备货关键期:郑州富士康大量招工,面试 90% 都能通
- 08-11无缘微信手表版?华为商城更改 WATCH FIT 3 智能手表适配说明
- 08-19本地完成,火狐浏览器 Firefox 邀请用户测试原生网页翻译功能
- 08-24英伟达发布《鸣潮》游戏宣传片,将支持光追、DLSS 3 和 NVIDIA Reflex 技
- 08-24绿联 HiTune S3 开放式耳机开启预售:IPX5 防水、30 小时续航,首发 79
- 08-23吉利、雷诺合作车型计划 9 月在韩国上市,搭载 1.5T 油电混动系统
- 08-23卢伟冰谈小米 SU7 亏损:目前规模较小,纯电轿车投入较高
- 08-23长城魏牌全新蓝山 6 座旗舰 SUV 发布:1.5T+DHT+P4 动力总成,售价 29.
- 08-11国航首架 C919 客机首次试飞:两舱 158 座最宽松客舱布局,计划 8 月底交付
- 07-25安徽将投放 100 万副小型新能源汽车号牌,合肥启用皖 AA 号段