迈向通用人工智能之路：以价值驱动，为机器“立心”
21世纪经济报道 记者钟雨欣 北京报道
自ChatGPT问世以来，国内外科技企业、科研机构纷纷竞速大模型赛道，掀起“千模大战”。在“大力出奇迹”的路径下，大模型需要海量数据“喂养”及大规模算力投入。值得思考的问题是，崇尚“暴力美学”的AI训练方式，能够实现建设通用人工智能的目标吗？以及，该以什么样的标准来定义通用人工智能？
1月28日-29日，北京通用人工智能研究院举办“迈向通用人工智能前沿科技成果展”，并发布了全球首个由价值与因果驱动的通用人工智能（AGI）系统原型“通通”、通用人工智能科研平台“通境” (TongVerse) 等多项成果。
此外，北京通用人工智能研究院院长朱松纯在接受21世纪经济报道记者采访时指出，基于数据驱动的大模型缺“心”，即缺乏明确的价值体系，只能依据统计关联来做“填空题”，机械地对问题进行反馈；而通用人工智能系统（通用人工智能体）应满足三个基本条件，即实现无限任务、自主生成任务以及由价值驱动。
“小数据、大任务”范式：价值体系是关键
朱松纯认为，架构、任务和数据是决定人工智能系统的三个关键要素，不同的选择导致不同的系统和路径。
当前，有以ChatGPT等大模型为首的“大数据，小任务”和“小数据，大任务”两条科研范式。前者属于“鹦鹉范式”，AI系统需要大量重复数据来训练，可以说人话，但不理解话意，不能对应现实的因果逻辑；后者则属于“乌鸦范式”，强调自主的智能，如感知、认知，推理、学习、执行，不依赖大数据，无标注数据、无监督学习，此外还具有低能耗的特点。
通用人工智能体应满足三个基本特征，即要能在复杂动态环境（物理与社会）中实现：1. 完成无限任务。即任务泛化，不局限在预先设定的任务里。2. 自主定义任务。即不依赖人类，自主产生任务或指令流程。3. 由价值驱动。即内在价值体系与人类价值伦理对齐。这需要解决八大关键技术问题，即认知架构、自我意识、社交智能、价值驱动、价值函数、具身智能、可解释性、人机互信。
“目前，ChatGPT等大模型尚不满足上述任何一个要素。”朱松纯表示。
“比如，向ChatGPT等大模型询问鱼香肉丝怎么做，它可以给出菜谱，但它并不明白为什么肉要这样切丝、为什么火要调大小等等，即因果链条；此外，有的人喜欢甜口，有的人喜欢酸口，由此的菜谱也有所不同，这是价值链条。”朱松纯补充道，“这些都是当前大模型所缺乏的。”
如何使AI实现价值对齐？朱松纯表示，第一步是明确AI需要对齐的价值条目，即对人类社会的价值观进行抽取建模，然后再考虑“如何对齐”的问题，需要在社会文明的模拟系统中实践。
“这不同于数据标注那样从行为空间上对AI进行限制，而是在价值空间上训练AI，教会AI基本的道德良知。”朱松纯说。
发布多项前沿成果：未来有望与教育、康养等产业结合
在成果展上，最引人关注的产品是通用智能人——小女孩“通通”。据介绍，作为首个由价值与因果驱动的AGI系统原型，“通通”的打造根植于中国传统哲学思想，以原创的认知架构理论为顶层设计，由自研国产学习和推理框架（通用人工智能操作系统TongOS2.0和编程语言TongPL2.0）为底层支撑。
图｜通用智能人-小女孩“通通”（Little Girl）
“通通”拥有类人价值观，能自主生成任务，具备物理和社会常识，可保障复杂任务高效执行，推理和决策过程透明、可解释。通过“自主学（自主环境探索）”“他人教（与人类多模态交互）”等方式，可实现技能、知识和价值持续成长。
现场工作人员向记者介绍，“通通”共拥有饱腹、干净、听话、安全等八项可调节的维度。互动者可以随机改变“通通”的“好奇”“整齐”“干净”等价值倾向，“通通”能够自主完成对环境的探索、收拾房间、擦拭污渍等任务。
比如，当互动者把墙上的相框移位，“通通”会根据自己“爱整齐”的价值观，主动摆正相框位置；对于摆在高处的相框，不需要人类的提示，“通通”会自行在房间内找到凳子，进而踩在凳子上完成相框的摆放；当互动者将牛奶撒在桌子上，“通通”会主动识别互动者的意图，根据“爱干净”的价值观主动寻找毛巾擦拭桌子。
工作人员介绍，目前“通通”像人类儿童一样，在不断地学习和成长，未来，“通通”将有望与教育、康养、智能制造及战略新兴产业结合，为人类社会提供更多帮助。
在期待通用智能体在人类社会大显身手的同时，如何判断人工智能系统是否具备通用人工智能的性能，如何应对智能体可能带来的安全风险并进行管控与治理等，也成为各方关注的焦点。
本次成果展发布的通用人工智能评级标准与测试平台（TongTest）全面考虑了通用人工智能的关键特征，拥有完备的测试任务体系，包括近100个专项任务和50+个通用任务。据介绍，专项任务用于衡量待测模型在能力和价值维度空间上的所处等级，通用任务用于衡量待测模型在人类真实生活场景和各行业场景中的综合评级。利用价值维度空间助力通用人工智能技术更加安全可控，为监管通用人工智能发展提供有力支撑。
另一成果通用人工智能科研平台“通境”(TongVerse)则聚焦具身智能，可提供一万多个贴近工业生产和居家生活环境的仿真场景，同时支持动态开放环境下的机器人动力学仿真。相关科研人员表示，除了应用在科研、赛事等多场景中为人形机器人训练等提供支持，未来，该平台还将面向智能制造、特种行业等需求，提供多场景、多任务的机器人应用解决方案。
本文链接：http://m.sushuapos.com/show-2-2456-0.html迈向通用人工智能之路：以价值驱动，为机器“立心”
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
