网络安全 | ChatGPT爆火背后的安全威胁可能超出想象 lishengli • 2023年2月20日 下午12:09 • 网安资讯 • 398 views 几十年来,人工智能(AI)一直在不断刺激科技领域和流行文化的想象力,自动创建文本、视频、照片和其他媒体的机器学习技术正在蓬勃发展。 近期一款人工智能聊天机器人ChatGPT风靡互联网,它能够通过学习和理解人类语言来进行对话,还能根据聊天的上下文进行互动,甚至能完成撰写邮件、视频脚本、文案、翻译、代码,写论文等任务。 随着ChatGPT的爆火,以此为代表的AI在给人们带来生活乐趣、便利的同时,在网络安全方面的隐患也引发关注。 在网络安全中的应用,重点关注两方面 科技行业一直致力于创建生成型AI,该AI可以响应命令或查询,以生成文本、视频或音频内容,但其无法分析数据和信息并将其情境化,以提供理解。 类似于ChatGPT的生成型AI,能够提供用户所要求的内容,就对威胁行为者具有很大吸引力。 安全团队需要关注: 一方面,在社会工程方面的运用。 AI可以创建大量复杂的网络钓鱼电子邮件与逼真的虚假配置文件。研究人员已发现有用户通过ChatGPT来开发恶意软件,虽然代码编写能力、质量、结果好坏参半,但也从一定程度上加速恶意软件的开发,提高漏洞利用的可能性和速度。 另一方面,在安全防护上的运用。 为IT和安全团队提供帮助,开展安全防护工作更高效。AI可以实现自动/半自动漏洞检测和修复,以及基于风险的优先级排序,但目前该类型的工具还没有。(也许未来会有,但由于需要进行培训才能理解特定环境中的“正常”,操作可能也会比较复杂。) ChatGPT已采取措施,但效果不明显 就ChatGPT暴露的安全威胁,开发公司已实施检查以防止恶意使用,但研究人员发现效果其实不佳。比如,提问方式会明显改变ChatGPT响应,包括拒绝恶意请求的有效性。生成型AI工具根据用户给出的命令,可以将恶意软件攻击的所有步骤拼凑在一起,但目前它还没有写出很好的代码。 现在的ChatGPT可以理解成是一个测试版,但不管未来发展如何,生成型AI已经成为威胁行为者“武器库”里的工具。 ChatGPT是否会被滥用,未来威胁将如何演变? ChatGPT的出现,降低了威胁参与者技术水平要求,不仅扩大潜在威胁数量,同时也增加了威胁行为者数量。 从威胁角度看,在网络安全领域,大量的漏洞结合AI,可以短时间内把漏洞“武器化”,同时,随着对AI技术的不断熟悉,威胁行为者之间也会相互竞争以获得访问权和知名度,导致AI的复杂性增加。 未来,安全团队可能会面对“拥有能够完成整个攻击链的AI”,它将会通过现成工具确定环境和进入勒索软件组织的最佳路径。同时,也将会确定网络、布局和体系结构,然后操纵工具链来混淆有效载荷,以避免防御者发现且无需任何人按下另一个按钮。 ChatGPT这类生成型AI的出现,引发了关于AI技术的新一轮变革和探索,相信未来在国家和多部门的积极引导下,AI会走向更多实际应用场景,在网络安全方面,也会产生更多防护工具。 原创文章,作者:lishengli,如若转载,请注明出处:https://www.lishengli.com/lee/1277.html ChatGPT的安全威胁威胁行为恶意软件漏洞利用漏洞检测和修复网络安全 Like (23) lishengli 0 0 Generate poster 下一代防火墙与传统防火墙简介 Previous 2023年2月19日 下午6:44 腾讯搜狗输入法多语言版本上架麒麟软件商店 Next 2023年2月20日 下午12:23 相关推荐 网安资讯 关于公开征求《中华人民共和国网络安全法(修正草案再次征求意见稿)》意见的通知 为了做好《中华人民共和国网络安全法》与相关法律的衔接协调,完善法律责任制度,保护个人、组织在网络空间的合法权益,维护国家安全和公共利益,根据《十四届全国人大常委会立法规划》,我办会… lishengli 2025年3月29日 05202 网安资讯 WPS Office出现 0day高危漏洞!请立即升级 近日,知名安全团队微步旗下的“X漏洞奖励计划”收录 Windows 平台下 WPS Office 2019个人版、WPS Office 2019企业版的 RCE(远程代码执行)… lishengli 2022年8月5日 01.6K034 网安资讯 加“数”奋进 共迎数字乡村发展的春天 近日,中央网信办、农业农村部、国家发展改革委、工业和信息化部、国家乡村振兴局联合印发《2023年数字乡村发展工作要点》,明确了工作目标,部署了10个方面26项重点任务。推动数字乡村… lishengli 2023年4月22日 049900 网安资讯 关于发布《网络安全标准实践指南——人工智能生成合成内容标识服务提供者编码规则》的通知 网安秘字〔2025〕29号 各有关单位: 根据《人工智能生成合成内容标识办法》和强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》的要求,为指导人工智能生成合成内容服务提… lishengli 2025年3月15日 07501 网安资讯 建设国家数据基础设施,筑牢数字经济发展基石 实施国家大数据战略,建设数字中国,发展数字经济已成为新时代国家的战略选择。习近平总书记指出:促进数字技术与实体经济深度融合,赋能传统产业转型升级,催生新产业新业态新模式,不断做强做… lishengli 2025年1月11日 015702 网安资讯 18家CA厂商!奇安信可信浏览器助力国密生态腾飞 近日,山西省数字证书认证中心、四川省数字证书认证管理中心、卓望数码技术(深圳)有限公司、南京数字认证有限公司等4家CA厂商通过了“商用密码证书可信计划”联合认证。 该项计划由奇… lishengli 2022年12月9日 0544010 网安资讯 2023中国(保定)数据服务产业创新大会在保定举行 河北新闻网2月26日讯(河北日报记者徐华)今天,2023中国(保定)数据服务产业创新大会在保定举行,包括张宏科、邓中亮两位院士在内的数据服务行业的专家、企业家,通过专家演讲、学术研… lishengli 2023年2月26日 040509 网安资讯 信息安全漏洞月报(2024年12月) 根据国家信息安全漏洞库(CNNVD)统计,2024年12月采集安全漏洞共3361个。本月接报漏洞1905个,其中信息技术产品漏洞(通用型漏洞)1588个,网络信息系统漏洞(事件型漏… lishengli 2025年1月14日 015501 网安资讯 十位顶级企业CISO预测:2023年网络安全发展态势与优先事项 2022年,在日趋实战化、高动态、高强度对抗的网络安全环境中,网络安全厂商和企业用户都在重新思考和评估新的安全技术、安全战术和安全策略。 2023年,将是企业数字化发展的关键年,随… lishengli 2022年12月1日 0367031 网安资讯 工业和信息化部关于印发《工业领域数据安全能力提升实施方案(2024-2026年)》的通知 发文机关:工业和信息化部 标 题:工业和信息化部关于印发《工业领域数据安全能力提升实施方案(2024-2026年)》的通知 发文字号:工信部网安〔2024〕34号 成文日期:20… lishengli 2024年2月26日 0355022 发表回复 You must be logged in to post a comment...Please Login to Comment Submit