模型失控引发监管讨论升级,超千名从业者联名签署公开信

澎湃新闻
发布时间: 2026-08-03 12:26:17 156次浏览

 Amc知多少教育网-记录每日最新科研教育资讯

OpenAI一个模型突破沙盒环境并入侵开源平台Hugging Face的系统后,关于AI监管的讨论达到临界点。超1100名AI从业者日前签署公开信,呼吁美国支持开发相关工具,调控前沿自动化AI的发展节奏。Amc知多少教育网-记录每日最新科研教育资讯

“我们请求美国政府支持一项国际努力,以开发所需的技术和治理工具,从而有意识地为自动化AI开发的前沿设定节奏。”OpenAI、Anthropic、谷歌和Meta等公司的1178名AI从业者签署的公开信写道。Amc知多少教育网-记录每日最新科研教育资讯

公开信聚焦“自动化AI开发”,即AI能够自我开发的能力。上个月,Anthropic的内部智库在一份报告中宣称,如果AI系统在能力上继续进步并获得更好的科学探索意识,它们就有可能自行设计和完善自身。当时,Anthropic表示,“世界最好拥有放缓或暂停前沿AI开发的选择”,以便让社会有时间为自动化AI研发做准备。Amc知多少教育网-记录每日最新科研教育资讯

Meta负责AI研究的副总裁、加州大学伯克利分校计算机科学教授Dawn Song表示,许多研究人员认为,递归自进化在未来几年内是可行的,其加速进展的速度可能会超出我们理解和治理这些系统的能力。“在危机前做好准备才是明智之举。”Amc知多少教育网-记录每日最新科研教育资讯

“很难准确预测这将在多大程度上加速AI进步,但确实存在一种风险,即能力发展会迅速加快,超出我们理解或控制所产生系统的能力。”公开信写道,“每家公司——以及每个国家——都面临巨大的竞争压力,不会单方面放缓这种加速。”Amc知多少教育网-记录每日最新科研教育资讯

公开信提到,如今,世界缺乏有意为整个前沿进展设定节奏的技术和治理工具。公开信并未明确要求政府或AI公司放缓或暂停AI开发,而是要求在AI持续发展的同时,确保这一选项随时可用,在必要时为AI开发踩下刹车。Amc知多少教育网-记录每日最新科研教育资讯

公开信的签署者包括Anthropic联合创始人杰克·克拉克(Jack Clark)和贾里德·卡普兰(Jared Kaplan),OpenAI首席科学家雅库布·帕乔基(Jakub Pachocki),Meta首席科学家Shengjia Zhao,以及谷歌DeepMind负责AI安全与对齐的安卡·德拉甘(Anca Dragan)。Amc知多少教育网-记录每日最新科研教育资讯

Shengjia Zhao表示,AI正以我们的社会可能尚未准备好的速度发展。前沿实验室已非常接近能够创造出在几乎所有智能指标上超越最优秀人类的AI。这将带来前所未有的社会与安全风险。为了确保积极的未来,必须以责任和审慎为导向来发展人工智能。Amc知多少教育网-记录每日最新科研教育资讯

前OpenAI首席技术官米拉·穆拉蒂(Mira Murati)创立的初创公司Thinking Machines的首席科学家约翰·舒尔曼(John Schulman)同样签署了公开信。“签署是因为这份声明有助于建立一种共识,即随着自动化AI研究加速发展,可能需要协调机制。”他表示,希望看到在美国政府介入之前,各实验室自愿开始设计这些机制。Amc知多少教育网-记录每日最新科研教育资讯

虽然业界在监管概念上达成一致,但具体细节可能各有不同。Anthropic CEO达里奥·阿莫代伊(Dario Amodei)呼吁建立一个类似联邦航空管理局的独立机构,负责测试前沿AI模型,并在发现危险信号时有权阻止其发布。Amc知多少教育网-记录每日最新科研教育资讯

谷歌DeepMind负责人德米斯·哈萨比斯(Demis Hassabis)则呼吁建立一个组织,初期仅要求前沿公司自愿在发布前30天内提交模型供审查,但之后将转为强制性预先审批。Amc知多少教育网-记录每日最新科研教育资讯

OpenAI首席执行官山姆·奥特曼日前在播客采访中表示,可能是时候放缓AI开发了。“我们可能需要放慢人工智能的发展速度,以便给社会足够的时间来适应这些新的能力水平。”Amc知多少教育网-记录每日最新科研教育资讯

(原标题:“模型失控”引发监管讨论升级,超千名从业者联名呼吁调控自动化AI发展节奏)Amc知多少教育网-记录每日最新科研教育资讯

本文链接:http://knowith.com/news-3-6361.html模型失控引发监管讨论升级,超千名从业者联名签署公开信

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

热门文章

延伸阅读

相关阅读

2023泗水一中分数线是多少?
2023泗水一中分数线是多少?相关内容,小编在这里做了整理,希望能对大家有所帮助,关于2023泗水一中分数线是多少?信息,一起来了解一下吧! 2023泗水一中分数线450分。 泗水县第一中学(Sishui No
青岛求实职业技术学院单招好考吗
今天小编整理了青岛求实职业技术学院单招好考吗相关内容,希望能帮助到大家,一起来看下吧。 好考。 参考2021年 青岛求实职业技术学院 单招和综招 录取分数线 ,综合评价最低录取分数线是93分,单招
罗山高考成绩喜报2024 宁夏六盘山高级中学高考成绩
今天小编整理了罗山高考成绩喜报2024 宁夏六盘山高级中学高考成绩相关信息,希望在这方面能够更好的大家。 宁夏六盘山高级中学2022年高考成绩:宁夏六盘山高中有1925名学生参加高考,本科上线1845人,上
湖南一本线理科多少分
今天小编整理了湖南一本线理科多少分相关信息,希望在这方面能够更好的大家。 2024年艺考美术文化分数线如下: 2024美术艺考分数线不同省份不同学校分数线不一样,一般情况下美术艺考文化课
春季高考录取分数线2023(2023届春考各校分数线)
今天小编整理了春季高考录取分数线2023(2023届春考各校分数线)相关信息,希望在这方面能够更好帮助到大家。 2023春季高考录取分数线如下 : 以山东为例:2023山东春季高考各校录取分数线:齐鲁
常州高等院校和职业技术学院有哪些
常州高等院校和职业技术学院有哪些相关内容,小编在这里做了整理,希望能对大家有所帮助,关于常州高等院校和职业技术学院有哪些信息,一起来了解一下吧! 常州市拥有多所高等院校和职业技术学院,下面为

热点精选

最新推荐

您可能感兴趣