“System one”模型引爆AI圈:不生成文本,专为机器做快速决策

澎湃新闻
2次浏览

 4H6速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

日前,一款由美国TypeSafe AI公司发布的首款“System one”模型Jev,震动AI圈。不同于以ChatGPT为代表的大语言模型,这款由前OpenAI研究员研发的模型不生成对话、文章或代码,而是面向软件自动化场景,直接返回可以被程序调用的结构化判断及相应概率。4H6速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

“System One”的名称来自心理学家丹尼尔·卡尼曼在《思考,快与慢》中提出的“系统一”概念,指快速、直觉式的判断。以ChatGPT为代表的大语言模型被纳入“系统二”,Jev则是专门做快速决策的“系统一”模型。4H6速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

Jev根据TypeSafe AI的定义,开发者可以向Jev输入一段非结构化信息或程序状态,并预先设定问题与候选答案。模型目前支持Choice、Score和Noul三种问题类型,分别用于从给定选项中作出选择、按照设定标准评分,以及判断某个陈述成立的概率。4H6速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

其中,Choice和Score会返回概率分布及置信度;Noul则直接返回一个介于0和1之间的数值。多个问题可以在一次调用中针对同一份状态并行、独立地处理。开发者不必再要求大模型逐个生成自然语言或JSON文本,然后对结果进行解析和校验。4H6速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

例如,客服系统可以输入一段用户投诉,让Jev判断问题应该转交账单、技术支持还是销售部门,同时评估问题的紧急程度;智能体系统也可以输入当前任务与可用工具,由Jev判断下一步应该调用哪个工具。4H6速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

TypeSafe AI宣称,在适合这类快速判断的“System One”任务中,Jev能够达到与部分现有大模型相近的判断水平,同时速度和效率提高两个数量级。虽然 Jev不具备字符串生成功能,但它对结构化输出进行了优化,并且不会产生幻觉。4H6速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

TypeSafe AI三位联合创始人,右为迪奥戈·阿尔梅达

4H6速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

TypeSafe AI由前OpenAI研究员迪奥戈·阿尔梅达(Diogo Almeida)等人创办,在OpenAI期间,他参与构建了聊天机器人,并发明了基于人类反馈的强化学习(RLHF),这项模型训练技术或许是当今人工智能时代最重要的奠基者。但尽管RLHF功能强大,他却感到失望。4H6速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

阿尔梅达离开OpenAI后,于2024年参与创办TypeSafe AI。他认为,人需要模型给出自然、完整的语言回答,而计算机更需要类型确定、可以直接执行的结果。4H6速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

“Jev”这一名称来自19世纪经济学家威廉·斯坦利·杰文斯提出的“杰文斯悖论”:资源使用效率提高、成本下降后,总需求可能不降反升。TypeSafe AI希望借此表达,当机器智能的单位成本大幅下降后,软件和机器人可能产生更多此前因成本和速度限制而无法实现的决策需求。4H6速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

从速度来看,现有的大语言模型,端到端的响应时间为3到329秒。对于人机交互来说速度足够快,但集成到代码中成为一大瓶颈。TypeSafe 的端到端响应时间为 70 毫秒至 500 毫秒,在特定“System One”决策任务中,Jev可达到同类大模型相近的判断水平,同时速度提高40倍至200倍。4H6速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

价格对比来看,现有的大语言模型输入token消耗0.20 美元至 10 美元/MTok,TypeSafe输入代币仅消耗0.042 美元/MTok(每十亿代币 42 美元),即每10亿Token 42美元。由于模型不进行自回归文本生成,公司不收取输出Token费用。4H6速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

不过,上述性能数据主要来自TypeSafe AI自己的评测。该公司网站所称最高193.6倍的速度提升和444.6倍的成本下降,来自其团队设计的四项工作流测试,参考答案也并非人工标注的客观标准,而是由其他大模型的结果生成。TypeSafe AI同时承认,这些数据处于实际收益的较高一端,内部设计测试也可能带来偏差。4H6速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

阿尔梅达向媒体表示,“我们拥有了绝佳的技术,但它却无用武之地。我花了很长时间才得出结论:问题在于我们一直在对人类语言进行优化……四年来,我们在人类语言方面做得非常出色,但这对于自动化来说毫无用处,因为计算机说的是另一种语言。”4H6速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

Jev发布后迅速受到软件开发者关注。由于访问需求集中涌入,TypeSafe AI的API一度无法继续为用户提供服务。4H6速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

Jev也开始引起具身智能和自主系统开发者的关注,有具身智能从业者告诉澎湃科技,具身行业终于有一款可以自主决策的低成本模型,未来值得尝试。4H6速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

具身智能的“大脑”不仅需要理解环境和规划任务,还要在候选动作、工具调用及安全约束之间持续作出选择。传统大模型需要先生成文字或推理过程,再由程序解析其中的动作指令;Jev则可以把整理后的环境状态直接映射为类型明确、附带概率和置信度的决策结果。4H6速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

(原标题:前OpenAI研究员推出首款“System One”模型引爆AI圈:不生成文本,专为机器做快速决策)4H6速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

本文链接:http://www.gihot.com/show-11-37541-0.html“System one”模型引爆AI圈:不生成文本,专为机器做快速决策

声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

热门文章

延伸阅读

相关阅读

美拟对中国制造联网汽车开展国家安全风险审查,商务部回应
  中新经纬3月4日电 商务部网站4日消息,商务部新闻发言人就美国政府拟对中国制造联网汽车开展国家安全风险审查答记者问。  有记者问:2月29日,美国政府发布公告,将对中国制造联网汽车开展国家安全风险审查。请问中方
北汽集团:将在韩国高阳建造电动汽车工厂
近日,从海外媒体获悉,韩国高阳市政府已与中国汽车公司北京汽车签署谅解备忘录,将在高阳自由经济区所在地建设大型电动汽车生产设施。该工厂年产能目标为20万台,计划将90%的电动汽车出口到韩国以外市场。  据悉,北京
农业农村部等七部门研究农资打假新举措,严打重处农资“忽悠团”
当前正值春耕备耕关键时期,党中央、国务院高度重视农资质量问题,要求严格整治不合格产品,严厉打击制售假冒伪劣行为,净化农资市场,维护农民权益。近日,农业农村部、最高人民法院、最高人民
理想汽车:风光背后,寒流袭来
理想汽车这段时间风光无限。2 月 26 日,理想汽车发布了 2023 年财报,全年实现营收 1238.5 亿元,净利润达到 118.1 亿,这是理想汽车自交付以来首次实现全年盈利,也成为国内首家年营收超千亿元的造车新势力。3 月 1
何小鹏称新能源市场已进入淘汰赛:公司必须无短板才能成功!
3月10日消息,据媒体报道,小鹏汽车董事长兼总裁何小鹏,在全国两会期间发表了其对电动汽车行业未来变化的一些看法。何小鹏表示,中国新能源市场已经开始进入到淘汰赛,公司在技术、产品和用户认可度不断
全国人大会议收到代表议案298件
根据大会主席团决定的代表提出议案的截止时间,到3月8日12时,十四届全国人大二次会议秘书处共收到代表提出的议案298件。此外,目前大会秘书处收到代表提出的建议、批评和意见7000余件。

热点精选

最新推荐

您可能感兴趣