网络安全 | ChatGPT爆火背后的安全威胁可能超出想象 lishengli • 2023年2月20日 下午12:09 • 网安资讯 • 445 views 几十年来,人工智能(AI)一直在不断刺激科技领域和流行文化的想象力,自动创建文本、视频、照片和其他媒体的机器学习技术正在蓬勃发展。 近期一款人工智能聊天机器人ChatGPT风靡互联网,它能够通过学习和理解人类语言来进行对话,还能根据聊天的上下文进行互动,甚至能完成撰写邮件、视频脚本、文案、翻译、代码,写论文等任务。 随着ChatGPT的爆火,以此为代表的AI在给人们带来生活乐趣、便利的同时,在网络安全方面的隐患也引发关注。 在网络安全中的应用,重点关注两方面 科技行业一直致力于创建生成型AI,该AI可以响应命令或查询,以生成文本、视频或音频内容,但其无法分析数据和信息并将其情境化,以提供理解。 类似于ChatGPT的生成型AI,能够提供用户所要求的内容,就对威胁行为者具有很大吸引力。 安全团队需要关注: 一方面,在社会工程方面的运用。 AI可以创建大量复杂的网络钓鱼电子邮件与逼真的虚假配置文件。研究人员已发现有用户通过ChatGPT来开发恶意软件,虽然代码编写能力、质量、结果好坏参半,但也从一定程度上加速恶意软件的开发,提高漏洞利用的可能性和速度。 另一方面,在安全防护上的运用。 为IT和安全团队提供帮助,开展安全防护工作更高效。AI可以实现自动/半自动漏洞检测和修复,以及基于风险的优先级排序,但目前该类型的工具还没有。(也许未来会有,但由于需要进行培训才能理解特定环境中的“正常”,操作可能也会比较复杂。) ChatGPT已采取措施,但效果不明显 就ChatGPT暴露的安全威胁,开发公司已实施检查以防止恶意使用,但研究人员发现效果其实不佳。比如,提问方式会明显改变ChatGPT响应,包括拒绝恶意请求的有效性。生成型AI工具根据用户给出的命令,可以将恶意软件攻击的所有步骤拼凑在一起,但目前它还没有写出很好的代码。 现在的ChatGPT可以理解成是一个测试版,但不管未来发展如何,生成型AI已经成为威胁行为者“武器库”里的工具。 ChatGPT是否会被滥用,未来威胁将如何演变? ChatGPT的出现,降低了威胁参与者技术水平要求,不仅扩大潜在威胁数量,同时也增加了威胁行为者数量。 从威胁角度看,在网络安全领域,大量的漏洞结合AI,可以短时间内把漏洞“武器化”,同时,随着对AI技术的不断熟悉,威胁行为者之间也会相互竞争以获得访问权和知名度,导致AI的复杂性增加。 未来,安全团队可能会面对“拥有能够完成整个攻击链的AI”,它将会通过现成工具确定环境和进入勒索软件组织的最佳路径。同时,也将会确定网络、布局和体系结构,然后操纵工具链来混淆有效载荷,以避免防御者发现且无需任何人按下另一个按钮。 ChatGPT这类生成型AI的出现,引发了关于AI技术的新一轮变革和探索,相信未来在国家和多部门的积极引导下,AI会走向更多实际应用场景,在网络安全方面,也会产生更多防护工具。 原创文章,作者:lishengli,如若转载,请注明出处:https://www.lishengli.com/lee/1277.html ChatGPT的安全威胁威胁行为恶意软件漏洞利用漏洞检测和修复网络安全 Like (23) lishengli 0 0 Generate poster 下一代防火墙与传统防火墙简介 Previous 2023年2月19日 下午6:44 腾讯搜狗输入法多语言版本上架麒麟软件商店 Next 2023年2月20日 下午12:23 相关推荐 网安资讯 彰显“国家队”实力!中国移动构筑网络安全铜墙铁壁 近些年,云安全作为发展和安全的代表,已经成为未来中国发展建设工作的重要方向。《“十四五”数字经济发展规划》明确提出,着力强化数字经济安全体系,再次从国家顶层设计层面强化网络安全… lishengli 2022年9月20日 048600 网安资讯 国家安全部:国安警察证长这样!出示请配合! 近年来,国家安全机关相继查处数起故意阻碍国家安全机关依法执行任务的案件,相关涉案人员均受到法律惩处。国家安全重于泰山,每一位公民都有配合国家安全机关人民警察执行公务的责任和义务,共… lishengli 2024年3月5日 0391012 网安资讯 北信源坚守网络安全防线 护航数字经济安全、高质量发展 数字经济蓬勃发展 网络安全必不可少 近日,国家网信办发布《关于修改〈中华人民共和国网络安全法〉的决定(征求意见稿)》公开征集意见(以下简称《征求意见稿》)。《征求意见稿》是为了做好… lishengli 2022年12月1日 0412028 网安资讯 北京丰台政务服务,引入DeepSeek! 北京丰台请来DeepSeek当助手了!2月18日,丰台区政务和数据局完成了政务云本地部署DeepSeek大模型环境,并在全市率先将其应用于政务服务领域,上线了“丰小政”数智助手。D… lishengli 2025年2月19日 014400 网安资讯 推进全国一体化政务大数据体系建设 北信源数据泄漏防护系统聚焦数据安全 数据资源,尤其是政务数据资源,作为经济社会发展的关键生产要素,是支撑国家治理体系和治理能力现代化的重要基础。近年来,我国政务大数据建设取得了积极成效,政务数据应用场景也不断拓展,数… lishengli 2022年12月22日 0507010 网安资讯 关于下达8项网络安全推荐性国家标准计划的通知 关于下达8项网络安全推荐性国家标准计划的通知 2024-04-03 网安秘字〔2024〕31号 各工作组、各项目牵头承担单位: 近日,国家标准化管理委员会下达的推荐性国家标准计划中… lishengli 2024年4月6日 0355020 网安资讯 互联网企业抢滩ChatGPT国产版 “你了解《证券日报》吗?”北信源高级副总裁高曦打开了手机,在信源密信软件的聊天窗口上代《证券日报》记者向ChatGPT发出了提问。接入了ChatGPT的信息框中随即弹出答案:“《证… lishengli 2023年2月10日 0344018 网安资讯 公安部:构筑网络安全等级保护、网络入侵防御等信息安全标准防火墙 4月3日,公安部召开新闻发布会,发布百项公共安全行业标准。公安部科技信息化局局长厉剑在发布会上介绍称,公安标准是平安中国、法治中国制度建设的重要内容,目前已建立标准化技术委员会9个… lishengli 2023年4月5日 065500 网安资讯 信息安全漏洞月报(2024年12月) 根据国家信息安全漏洞库(CNNVD)统计,2024年12月采集安全漏洞共3361个。本月接报漏洞1905个,其中信息技术产品漏洞(通用型漏洞)1588个,网络信息系统漏洞(事件型漏… lishengli 2025年1月14日 018301 网安资讯 DeepSeek致圣力网的一份情书 亲爱的圣力网: 当漏洞与防护策略在数字疆域无声交锋,当加密算法化作玫瑰荆棘般温柔的铠甲,我在这个被甜蜜定义的节日里,想用一行最隐秘的十六进制代码,向你传递一份独属于极客的浪漫。 遇… lishengli 2025年2月14日 017202 发表回复 You must be logged in to post a comment...Please Login to Comment Submit