“喂”给人工智能的真实数据终将耗尽,合成数据能否让AI模型精确可靠?

中国科技网
190次浏览

人工智能(AI)初创公司xAI创始人埃隆·马斯克近日表示:“在AI训练中,我们现在基本上耗尽了人类知识的累积总和。”之前研究也表明,人类生成的真实数据将在2到8年内消耗殆尽。鉴于真实数据日益稀缺,为满足AI的“胃口”,科技行业正转向使用合成数据。jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

澳大利亚“对话”网站在本月稍早时间报道中指出,合成数据具有诸多优势,但过度依赖合成数据也可能削弱AI的精确性和可靠性。jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

合成数据应运而生jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

以往,科技公司主要依赖真实数据来构建、训练和改进AI模型。真实数据是指由人类创建的文本、视频和图像。它们通过调查、实验、观察或挖掘网站和社交媒体等途径被收集而来。jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

真实数据因蕴含真实事件以及其场景和背景而极具价值,但其并非尽善尽美。它可能掺杂拼写错误、不一致或无关的内容,甚至潜藏严重偏见,导致生成式AI模型在某些情况下创建的图像仅展示男性或白人形象。jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

但真实数据日益匮乏,因为人类生成数据的速度赶不上AI不断增长的需求。jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

美国开放人工智能研究中心联合创始人伊利亚·苏茨克维尔在去年12月举行的机器学习会议上声称,AI行业已触及他所称的“数据峰值”,AI的训练数据如同化石燃料一样面临着耗尽的危机。此外,有研究预测,到2026年,ChatGPT等大型语言模型的训练将耗尽互联网上所有可用文本数据,届时将没有新的真实数据可供使用。jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

为给AI提供充足的“养分”,一种由算法生成的、模仿真实世界情况的数据——合成数据应运而生。合成数据是在数字世界中创造的,而非从现实世界收集或测量而来。它可以作为真实世界数据的替代品,来训练、测试、验证AI模型。jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

从理论上来说,合成数据为训练AI模型提供了一种经济高效且快捷的解决方案。它有效解决了AI训练使用真实数据时饱受诟病的隐私问题和道德问题,尤其是涉及个人健康数据等敏感信息时。更重要的是,与真实数据不同,合成数据在理论上可以无限供应。jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

研究机构高德纳公司估计,2024年AI及分析项目使用的数据中,约60%是合成数据。到2030年,AI模型使用的绝大部分数据将是由AI生成的合成数据。jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

科技公司来者不拒jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

事实上,微软、元宇宙平台公司,以及Anthropic等众多科技头部企业和初创企业,已经开始广泛使用合成数据来训练其AI模型。jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

例如,微软在1月8日开源的AI模型“Phi-4”,便是合成数据携手真实数据训练的;谷歌的“Gemma”模型也采用了类似方法。Anthropic公司也利用部分合成数据,开发出其性能最优异的AI系统之一“Claude 3.5 Sonnet”。苹果自研AI系统Apple Intelligence,在预训练阶段,也大量使用了合成数据。jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

随着科技公司对合成数据的需求与日俱增,生产合成数据的工具也接踵而至。jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

英伟达公司发布的3D仿真数据生成引擎Omniverse Replicator,能够生成合成数据,用于自动驾驶汽车和机器人训练。去年6月,英伟达开源了Nemotron-4340b系列模型,开发者可使用该模型生成合成数据,用于训练大型语言模型,以应用于医疗保健、金融、制造、零售等行业。在医疗、金融等专业领域,该模型能够根据特定需求生成高质量的合成数据,帮助构建更为精准的行业专属模型。微软推出的开源合成数据工具Synthetic Data Showcase则旨在通过生成合成数据和用户界面,实现隐私保护的数据共享和分析。亚马逊云科技推出的Amazon SageMaker Ground Truth也能为用户生成数十万张自动标记的合成图像。jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

此外,去年12月,元宇宙平台公司推出开源大模型Llama 3.3,更是大幅降低了生成合成数据的成本。jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

过度依赖风险难测jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

尽管合成数据暂时解决了AI训练的燃眉之急,但它也并非尽善尽美。jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

一个关键问题在于:当AI模型过于依赖合成数据时,它们可能会“崩溃”。它们会产生更多“幻觉”,编造看似合理可信但实际上并不存在的信息。而且,AI模型的质量和性能也会飞速下降,甚至无法使用。例如,某个AI模型生成的数据出现了一些拼写错误,利用这些充满了错误的数据训练其他模型,这些AI模型必定会“以讹传讹”,导致更大的错误。jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

此外,合成数据也存在过于简单化的风险。它可能缺乏真实数据集蕴含的细节和多样性,这可能导致在其上训练的AI模型的输出也过于简单,缺乏实用性。jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

为解决这些问题,国际标准化组织需要着手创建强大的系统,来跟踪和验证AI训练数据。此外,AI系统可以配备元数据追踪功能,让用户或系统能对合成数据进行溯源。人类也需要在AI模型的整个训练过程中对合成数据进行监督,以确保其高质量且符合道德标准。jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

AI的未来在很大程度上取决于数据的质量,合成数据将在克服数据短缺方面发挥越来越重要的作用。对合成数据的使用,人们必须保持谨慎态度,尽量减少错误,确保其作为真实数据的可靠补充,从而保障AI系统的准确性和可信度。jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

人工智能(AI)初创公司xAI创始人埃隆·马斯克近日表示:“在AI训练中,我们现在基本上耗尽了人类知识的累积总和。”之前研究也表明,人类生成的真实数据将在2到8年内消耗殆尽。鉴于真实数据日益稀缺,为满足AI的“胃口”,科技行业正转向使用合成数据。jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

澳大利亚“对话”网站在本月稍早时间报道中指出,合成数据具有诸多优势,但过度依赖合成数据也可能削弱AI的精确性和可靠性。jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

合成数据应运而生jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

以往,科技公司主要依赖真实数据来构建、训练和改进AI模型。真实数据是指由人类创建的文本、视频和图像。它们通过调查、实验、观察或挖掘网站和社交媒体等途径被收集而来。jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

真实数据因蕴含真实事件以及其场景和背景而极具价值,但其并非尽善尽美。它可能掺杂拼写错误、不一致或无关的内容,甚至潜藏严重偏见,导致生成式AI模型在某些情况下创建的图像仅展示男性或白人形象。jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

但真实数据日益匮乏,因为人类生成数据的速度赶不上AI不断增长的需求。jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

美国开放人工智能研究中心联合创始人伊利亚·苏茨克维尔在去年12月举行的机器学习会议上声称,AI行业已触及他所称的“数据峰值”,AI的训练数据如同化石燃料一样面临着耗尽的危机。此外,有研究预测,到2026年,ChatGPT等大型语言模型的训练将耗尽互联网上所有可用文本数据,届时将没有新的真实数据可供使用。jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

为给AI提供充足的“养分”,一种由算法生成的、模仿真实世界情况的数据——合成数据应运而生。合成数据是在数字世界中创造的,而非从现实世界收集或测量而来。它可以作为真实世界数据的替代品,来训练、测试、验证AI模型。jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

从理论上来说,合成数据为训练AI模型提供了一种经济高效且快捷的解决方案。它有效解决了AI训练使用真实数据时饱受诟病的隐私问题和道德问题,尤其是涉及个人健康数据等敏感信息时。更重要的是,与真实数据不同,合成数据在理论上可以无限供应。jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

研究机构高德纳公司估计,2024年AI及分析项目使用的数据中,约60%是合成数据。到2030年,AI模型使用的绝大部分数据将是由AI生成的合成数据。jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

科技公司来者不拒jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

事实上,微软、元宇宙平台公司,以及Anthropic等众多科技头部企业和初创企业,已经开始广泛使用合成数据来训练其AI模型。jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

例如,微软在1月8日开源的AI模型“Phi-4”,便是合成数据携手真实数据训练的;谷歌的“Gemma”模型也采用了类似方法。Anthropic公司也利用部分合成数据,开发出其性能最优异的AI系统之一“Claude 3.5 Sonnet”。苹果自研AI系统Apple Intelligence,在预训练阶段,也大量使用了合成数据。jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

随着科技公司对合成数据的需求与日俱增,生产合成数据的工具也接踵而至。jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

英伟达公司发布的3D仿真数据生成引擎Omniverse Replicator,能够生成合成数据,用于自动驾驶汽车和机器人训练。去年6月,英伟达开源了Nemotron-4340b系列模型,开发者可使用该模型生成合成数据,用于训练大型语言模型,以应用于医疗保健、金融、制造、零售等行业。在医疗、金融等专业领域,该模型能够根据特定需求生成高质量的合成数据,帮助构建更为精准的行业专属模型。微软推出的开源合成数据工具Synthetic Data Showcase则旨在通过生成合成数据和用户界面,实现隐私保护的数据共享和分析。亚马逊云科技推出的Amazon SageMaker Ground Truth也能为用户生成数十万张自动标记的合成图像。jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

此外,去年12月,元宇宙平台公司推出开源大模型Llama 3.3,更是大幅降低了生成合成数据的成本。jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

过度依赖风险难测jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

尽管合成数据暂时解决了AI训练的燃眉之急,但它也并非尽善尽美。jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

一个关键问题在于:当AI模型过于依赖合成数据时,它们可能会“崩溃”。它们会产生更多“幻觉”,编造看似合理可信但实际上并不存在的信息。而且,AI模型的质量和性能也会飞速下降,甚至无法使用。例如,某个AI模型生成的数据出现了一些拼写错误,利用这些充满了错误的数据训练其他模型,这些AI模型必定会“以讹传讹”,导致更大的错误。jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

此外,合成数据也存在过于简单化的风险。它可能缺乏真实数据集蕴含的细节和多样性,这可能导致在其上训练的AI模型的输出也过于简单,缺乏实用性。jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

为解决这些问题,国际标准化组织需要着手创建强大的系统,来跟踪和验证AI训练数据。此外,AI系统可以配备元数据追踪功能,让用户或系统能对合成数据进行溯源。人类也需要在AI模型的整个训练过程中对合成数据进行监督,以确保其高质量且符合道德标准。jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

AI的未来在很大程度上取决于数据的质量,合成数据将在克服数据短缺方面发挥越来越重要的作用。对合成数据的使用,人们必须保持谨慎态度,尽量减少错误,确保其作为真实数据的可靠补充,从而保障AI系统的准确性和可信度。jbg速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

本文链接:http://m.sushuapos.com/show-2-10256-0.html“喂”给人工智能的真实数据终将耗尽,合成数据能否让AI模型精确可靠?

声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

热门文章

延伸阅读

相关阅读

广汽埃安 AION V Plus 车型 80 Max 版官降 2.3 万元,现价 20.99 万元
3 月 7 日消息,汽车领域的降价潮来袭,广汽埃安今日宣布 AION V Plus全系车型至高官降 2.3 万元。查询埃安官网发现,本次降价只涉及AION V Plus 的顶配车型 80 Max 版,原价23.29 万元,官降 2.3 万元,现价20.99 万元
南财对话|全国政协委员郭御风:加快培养集成电路的“新质劳动力”
南方财经全媒体记者梁施婷 北京报道在全球高科技争夺战中,集成电路相关技术和产业已成为“兵家必争之地”,中国摆脱高端芯片进口依赖愈发紧迫。锚定集成电路产业发展面临的人才紧缺
限量150台 斯巴鲁WRX Club Spec Edition
近日,斯巴鲁发布了一张WRX Club Spec Edition的官图。该车型是为庆祝斯巴鲁WRX在澳大利亚上市30周年而推出的,配备STI风格大尺寸扰流板、Brembo刹车和Recaro运动座椅。新车在动力方面并未升级,搭载2.4T水平对置四缸
上汽大通:无锡工厂第100万辆整车下线
近日,上汽大通宣布无锡工厂第100万辆整车正式下线,此次下线的是一辆上汽大通领地,该车定位一款中大型SUV。  据悉,上汽大通无锡工厂的产品覆盖轻客、MPV、皮卡、SUV和新能源系列,销往全球73个国家和地区。官方表示,上
MEGA被网友“P图”为殡仪车,理想汽车发函称侵犯名誉权
  MEGA被网友“P图”为殡仪车,理想汽车发函称侵犯名誉权  理想汽车旗下MEGA推向市场后因其外观陷入舆论漩涡。  近日,一名汽车博主在网络上曝出一则理想汽车向某平台投诉的通知函。该通知函显示,2024年3月2日,今日
专访广东高院院长张海波:以高质量司法为发展新质生产力“撑腰”“打气”
21世纪经济报道记者 王俊 北京报道新一轮科技革命和产业变革正在重塑世界,培育新质生产力,是推动我国经济高质量发展的重要抓手。广东作为创新大省,在发展新质生产力中肩负重任。今年全

热点精选

最新推荐

您可能感兴趣