未来生命研究所发起的 “暂停GPT-4及以上AI系统至少6个月研发”公开信发布近一年后,又一则关于AI安全与治理相关行业共识达成。
3月18日,包括图灵奖得主约书亚·本吉奥、杰弗里·辛顿、姚期智等在内的数十位的中外专家日前在北京联合签署了由智源研究院发起的《北京AI安全国际共识》,涉及人工智能“风险红线”和“路线”两大块,其中“风险红线包含自主复制、改进”,“权力寻求”、“协助不良行为者”和“欺骗”四个部分。
据了解,关于“人工智能的自主复制和改进”,共识强调了人在这个过程中的作用,要求任何人工智能系统都不应在人类没有明确批准和协助的情况下复制或改进自身,包括制作自身的精确副本以及创造具有相似或更高能力的新人工智能系统。
原创文章,作者:lishengli,如若转载,请注明出处:http://www.lishengli.com/lee/2641.html
相关推荐
-
央视3·15晚会曝光主板机黑灰产业链,两家深圳企业被点名
3月15日晚间,央视“3·15”晚会曝光了多起侵犯消费者权益事件。其中,因涉及主板机黑灰产业链,云机侠(深圳)科技有限公司、深圳云承未来科技有限公司2家深圳企业被点名。 “20块手…
-
工控机使用的操作系统windows\Linux\Android都有什么区别
使用windows的特点,对于X86架构的工控机来说,这是用户群体最大的,Windows的应用,更多的技术人员的应用和软件开发,使PC机的软件极为丰富。PC机功能已经很强,CAD/…
-
特权账户应用的常见错误与防护建议
“特权”的概念对于保护计算机和网络而言是不可或缺的,主要存在与维护网络和系统的管理员帐户中,具有对数据和信息系统的完全可见性和控制权。攻击者自然也十分清楚这一点。据最新的调查数…
-
首次!这项全国性竞赛在东西湖举办
密码是国之重器,是保障国家网络安全的核心技术和基础支撑,赛事汇聚全国英才,决出优秀团队与优秀项目,助力国内密码技术往更精更深发展。 3月18日,第七届全国密码技术竞赛决赛及颁奖…
-
2023年中国网络和数据安全产业高峰论坛在成都召开
2月23-24日,2023年中国网络和数据安全产业高峰论坛在四川成都举行。工业和信息化部党组成员、副部长张云明出席论坛并致辞。 近年来,工业和信息化部深入贯彻落实党中央、国务院决策…
-
大数据时代下的隐私安全:如何平衡数据利用和个人权益
在当今数字时代,我们的个人数据被广泛收集和使用,以促进商业、政治和科学研究等领域的发展。虽然大数据可以为我们带来巨大的好处,但是也给我们的隐私安全带来了风险和挑战。 首先,我们…
-
监管预测、告警响应、审计溯源——三驾马车为内部威胁安全治理保驾护
随着信息技术在各领域的蓬勃发展,各行业所产生和使用的数据资源不断增长,其价值日益凸显,信息安全风险也随之而来。企业在面临日益严峻的外部网络攻击威胁的同时,也面临着因“内鬼”窃取…
-
天津理工大学研究生院院长王劲松代表:提升全民人工智能安全素养
人工智能日益成为科技创新、产业升级和生产力提升的重要驱动力量。但人工智能也可能引发由技术滥用带来的权益纠纷等问题。对此,建议在完善法律与政策体系的同时,着力提升全民人工智能安全素养…
-
网络安全 | ChatGPT爆火背后的安全威胁可能超出想象
几十年来,人工智能(AI)一直在不断刺激科技领域和流行文化的想象力,自动创建文本、视频、照片和其他媒体的机器学习技术正在蓬勃发展。 近期一款人工智能聊天机器人ChatGPT风靡互联…
-
网络安全:企业信息化发展的重要方面
今天,由于信息技术的发展,网络安全已经成为企业信息化发展的重要方面,有效的网络安全保护是保证企业正常运行的关键。因此,企业应当加强对网络安全的保护,以实现对网络的安全管理。 网络安…