未来生命研究所发起的 “暂停GPT-4及以上AI系统至少6个月研发”公开信发布近一年后,又一则关于AI安全与治理相关行业共识达成。
3月18日,包括图灵奖得主约书亚·本吉奥、杰弗里·辛顿、姚期智等在内的数十位的中外专家日前在北京联合签署了由智源研究院发起的《北京AI安全国际共识》,涉及人工智能“风险红线”和“路线”两大块,其中“风险红线包含自主复制、改进”,“权力寻求”、“协助不良行为者”和“欺骗”四个部分。
据了解,关于“人工智能的自主复制和改进”,共识强调了人在这个过程中的作用,要求任何人工智能系统都不应在人类没有明确批准和协助的情况下复制或改进自身,包括制作自身的精确副本以及创造具有相似或更高能力的新人工智能系统。
原创文章,作者:lishengli,如若转载,请注明出处:http://www.lishengli.com/lee/2641.html
相关推荐
-
大湾区“AI春晚”即将开幕,百度Create大会等你来玩!
4月16日上午9:00,以“创造未来”为主题的2024百度Create AI开发者大会将在深圳国际会展中心(宝安)开幕。本次大会作为粤港澳大湾区最强AI大会,将聚焦炙手可热的AI话…
-
深度解读:公安部编制GA/T 1998-2022《汽车车载电子数据提取技术规范》
近期,某地发生一起新能源汽车失控事故,因现场事故成因复杂,经相关机构对车内EDR数据进行分析鉴定,以获得关键线索用于事件分析。此类通过电子数据手段进行鉴定的方式,在未来会越来越多。…
-
供应链产品安全检测评估正式启动
近年来,针对关键信息基础设施供应链攻击频发,攻击者利用供应链安全风险隐患实行针对性攻击,对关键信息基础设施的供应链生态造成不良影响。为深入贯彻《网络安全法》,进一步落实《关键信息基…
-
突发!知网被启动网络安全审查!网络安全审查办公室:知网掌握大量个人信息、重要数据、敏感信息
据中国网信网6月24日消息,网络安全审查办公室对知网启动网络安全审查。 网络安全审查办公室有关负责人表示,为防范国家数据安全风险,维护国家安全,保障公共利益,依据《国家安全…
-
蠕虫病毒再度来袭!北信源安全U盘为您构建数据安全移动堡垒!
近日,微软发布警告称,一种新型高风险蠕虫病毒正感染数以百计的 Windows 企业网络,并不断扩散。此病毒被称为“树莓知更鸟”(Raspberry Robin),背后的攻击者成…
-
数字中国建设顶层规划:数字安全屏障被列为“两大能力”之一
近日,中共中央、国务院印发了《数字中国建设整体布局规划》(以下简称《规划》),并发出通知,要求各地区各部门结合实际认真贯彻落实。《规划》指出,要强化数字中国关键能力,其中包括筑…
-
30 余款杀毒软件被Adobe Acrobat Reader阻止
6 月 26 日消息,根据 Minerva 实验室发布的一份安全报告称,Adobe 公司正在阻止大量杀毒软件扫描由其 Adobe Acrobat Reader 应用程序加载的 …
-
工业互联网中的LaaS、PaaS、SaaS到底是什么?
工业如何在快速变革的数字时代,感知、响应巨量复杂的信息,从而更好的应对市场需求与不确定性,实现动态策略优化与智能全局决策。工业互联网正是解决这一问题的总体策略,而工业互联网必不可少…
-
网络安全市场规模将超2500亿元 产业爆发拐点已至
4月28日,北京健康宝在使用高峰期遭受来自境外的网络攻击,此次事件引发社会各界对网络安全的高度关注。伴随云计算、物联网、5G等新兴技术的兴起,网络信息安全边界不断弱化,各类网络…
-
一张原图暴露的隐私,超出你想象
随着隐私保护意识的提升,大家对于电话地址、身份证信息这种看得见的隐私已经格外在意。对于聊天照片、原图这类看不见的隐私,却还没有引起足够的重视。上午,#一张照片能暴露多少隐私#的…