模型失控引发监管讨论升级，超千名从业者联名签署公开信
OpenAI一个模型突破沙盒环境并入侵开源平台Hugging Face的系统后，关于AI监管的讨论达到临界点。超1100名AI从业者日前签署公开信，呼吁美国支持开发相关工具，调控前沿自动化AI的发展节奏。
“我们请求美国政府支持一项国际努力，以开发所需的技术和治理工具，从而有意识地为自动化AI开发的前沿设定节奏。”OpenAI、Anthropic、谷歌和Meta等公司的1178名AI从业者签署的公开信写道。
公开信聚焦“自动化AI开发”，即AI能够自我开发的能力。上个月，Anthropic的内部智库在一份报告中宣称，如果AI系统在能力上继续进步并获得更好的科学探索意识，它们就有可能自行设计和完善自身。当时，Anthropic表示，“世界最好拥有放缓或暂停前沿AI开发的选择”，以便让社会有时间为自动化AI研发做准备。
Meta负责AI研究的副总裁、加州大学伯克利分校计算机科学教授Dawn Song表示，许多研究人员认为，递归自进化在未来几年内是可行的，其加速进展的速度可能会超出我们理解和治理这些系统的能力。“在危机前做好准备才是明智之举。”
“很难准确预测这将在多大程度上加速AI进步，但确实存在一种风险，即能力发展会迅速加快，超出我们理解或控制所产生系统的能力。”公开信写道，“每家公司——以及每个国家——都面临巨大的竞争压力，不会单方面放缓这种加速。”
公开信提到，如今，世界缺乏有意为整个前沿进展设定节奏的技术和治理工具。公开信并未明确要求政府或AI公司放缓或暂停AI开发，而是要求在AI持续发展的同时，确保这一选项随时可用，在必要时为AI开发踩下刹车。
公开信的签署者包括Anthropic联合创始人杰克·克拉克（Jack Clark）和贾里德·卡普兰（Jared Kaplan），OpenAI首席科学家雅库布·帕乔基（Jakub Pachocki），Meta首席科学家Shengjia Zhao，以及谷歌DeepMind负责AI安全与对齐的安卡·德拉甘（Anca Dragan）。
Shengjia Zhao表示，AI正以我们的社会可能尚未准备好的速度发展。前沿实验室已非常接近能够创造出在几乎所有智能指标上超越最优秀人类的AI。这将带来前所未有的社会与安全风险。为了确保积极的未来，必须以责任和审慎为导向来发展人工智能。
前OpenAI首席技术官米拉·穆拉蒂（Mira Murati）创立的初创公司Thinking Machines的首席科学家约翰·舒尔曼（John Schulman）同样签署了公开信。“签署是因为这份声明有助于建立一种共识，即随着自动化AI研究加速发展，可能需要协调机制。”他表示，希望看到在美国政府介入之前，各实验室自愿开始设计这些机制。
虽然业界在监管概念上达成一致，但具体细节可能各有不同。Anthropic CEO达里奥·阿莫代伊（Dario Amodei）呼吁建立一个类似联邦航空管理局的独立机构，负责测试前沿AI模型，并在发现危险信号时有权阻止其发布。
谷歌DeepMind负责人德米斯·哈萨比斯（Demis Hassabis）则呼吁建立一个组织，初期仅要求前沿公司自愿在发布前30天内提交模型供审查，但之后将转为强制性预先审批。
OpenAI首席执行官山姆·奥特曼日前在播客采访中表示，可能是时候放缓AI开发了。“我们可能需要放慢人工智能的发展速度，以便给社会足够的时间来适应这些新的能力水平。”
（原标题：“模型失控”引发监管讨论升级，超千名从业者联名呼吁调控自动化AI发展节奏）
本文链接：http://www.gihot.com/show-11-37093-0.html模型失控引发监管讨论升级，超千名从业者联名签署公开信
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
