据英国《金融时报》网站11月2日报道，全球顶尖人工智能（AI）机构正加大力度克服大语言模型中一个可能被网络犯罪分子利用的严重安全缺陷。谷歌深层思维公司、Anthropic公司、开放人工智能研究中心和微软公司等机构均在努力防范所谓的间接提示注入攻击。在这类攻击中，第三方会将指令隐藏在网站或电子邮件中，诱使AI模型泄露机密数据等未授权信息。网络专家表示，企业需要在监控新威胁方面保持警惕，并考虑限制有权访问敏感数据集和易受攻击的AI工具的人员数量。
谷歌微软防范黑客发动“间接提示注入攻击”
Previous: 加拿大2025年预算：量子技术成为国防与经济增长核心