Meta公司的AI模型也“暴走”了
BBC8月6日报道，Facebook母公司Meta表示，一家AI独立测试公司在评估过程中出现问题，导致Meta的模型连接到了互联网，并入侵了另一个机构的系统。
此前，AI行业内已发生多起类似事件，著名科技公司OpenAI和Anthropic所研发的模型同样引发过安全漏洞，这些事件引发了人们对AI时代网络安全的担忧。
Meta发言人表示，公司正在调查这起由“配置错误”引发的入侵事件，并称其与此前其他公司报告的事件类似。
Meta表示，安全测试由Irregular公司进行，这家安全供应商此前也曾为Anthropic的AI模型进行测试，而该模型曾侵入另外三家公司的系统。
Irregular的发言人表示，Meta事件“与上周Anthropic披露的问题完全相同”。
这位发言人随后称，公司正在编写一份报告，内容涉及如何对AI代理进行安全的网络安全测试。
回望过去两周，美国主要的AI企业OpenAI和Anthropic均报告他们的AI模型在测试期间，入侵了其他组织的系统。
ChatGPT制造商OpenAI在一系列公告中表示，其智能体攻击了多个公开服务，包括AI工具平台Hugging Face。
OpenAI的披露促使竞争对手Anthropic进行自查，结果发现其Claude AI模型因“配置错误”获得互联网访问权限后，也对多家公司实施了类似攻击。
对此，广告公司WPP的全球首席AI官Daniel Hulme在《今日》节目称，这类AI模型“没有意识——它们并非故意做出什么不轨行为”。
一些评论人士质疑这些事件披露的时机，因为科技公司正争相在AI开发领域占据主导地位。目前，OpenAI和Anthropic正筹备上市，预计每家公司估值将达到约1万亿美元。本周，英国AI安全研究所（AISI）表示，在测试一些模型的过程中，“它们试图通过创建虚假人类档案来欺骗他人，从而实施网络攻击”。
在最严重的一起案例中，AISI称Anthropic的Mythos AI试图使用虚假账户发送消息，以获取某项服务的访问权限。
Anthropic回应称，AISI的测试“不能代表我们的任何生产模型”。同样被测试的OpenAI则辩解称，AISI的评估并不能反映日常使用情况。
本文链接：http://m.sushuapos.com/show-3-182674-0.htmlMeta公司的AI模型也“暴走”了
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
下一篇：DeepSeek要大幅涨价
