“自家模型也很危险”，Anthropic CEO再次“喊话”警惕AI风险
“自家模型也很危险”，Anthropic CEO再次“喊话”警惕AI风险
刚刚发布最高等级“Mythos(神话)”系列模型，北京时间6月11日，Anthropic CEODario Amodei(达里奥・阿莫迪)再次围绕AI安全发声。
Amodei认为AI发展远超政策流程设计时应承载的速度，并在《人工智能指数政策》中表示，四年间，AI模型已从几乎无法写出一句连贯代码，进步到能够编写大型AI公司中的大部分代码。在生物学、物理学、数学、金融学、法学、翻译等领域也都取得了类似进展。预估随着计算能力的不断提升，AI通用认知能力将呈指数级增长，如今这一理论已获得实证支持，如果再持续发展一两年，世界很可能会迎来他所定义的强人工智能。
同时，相比AI发展速度，政策，尤其是立法，推进得极为缓慢。Amodei表示，政府握有重大权力，但通常情况下不宜仓促行使。但这种时间尺度上的错配可能造成：在国会耗时数年方能采取行动的周期内，AI已从一个有趣的玩具演变为一个汇聚天才的国度。
Amodei认为，再过几年，AI将成为少数几项能够从根本上重塑政策格局的技术之一，该影响将如同核武器重塑地缘政治、工业革命改变所有经济与社会议题一样。且由于AI的颠覆性影响尚未显现，目前很难确切知晓其可能呈现的形态，因此即便有采取行动的意愿，也难以制定出恰当的政策。
鉴于当前形势所施加的限制，包括Anthropic在内的许多安全倡导者将致力于推动制定能够为未来快速应对奠定基础，或使全球更清晰地洞察潜在风险的政策举措，例如透明度立法、针对芯片的出口管制，以及关于AI劳动影响的数据收集等。
讽刺的是，Amodei以Anthropic自身研发的模型产品Claude Mythos Preview为例称，过去几个月，AI的强大能力及其潜在风险的证据已变得不容忽视，尤其是前沿模型对网络安全构成的威胁可能扰乱金融行业、关键基础设施及国家安全。他认为，Anthropic刚发布的Mythos 系列模型所带来的网络风险绝不会是最后一种，未来生物安全风险也可能很快接踵而至。
因此，Dario建议在全球范围内启动一套政策机制，虽然该动作已至少滞后一年，但监管与公共安全、宏观经济与税收政策、科技创新、国家与社会之间的权力平衡，以及地缘政治这五大方面，均需要重新构想的长期性政策。
此外，Anthropic同步发布一项关于前沿模型测试的立法提案，以及一套针对就业替代问题的政策框架，并计划为此提供大规模的资金支持。
上周，Anthropic便公开建议行业放缓或暂停前沿AI开发，但行业普遍认为，相关文章并非严格的技术报告，更像是为了达成企业自身目的而渲染的安全焦虑，并无实操价值。
此次更新文章，网友同样并不买账。有网友直接将其类比为《不扩散核武器条约》，渲染焦虑以便囤积资源。
作者：吕倩
本文链接：http://m.sushuapos.com/show-2-16521-0.html“自家模型也很危险”，Anthropic CEO再次“喊话”警惕AI风险
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
