机器有了“心”AI能“读懂”人类价值观

13日，记者从北京大学人工智能研究所获悉，该所教授朱松纯领导的联合团队取得重大研究成果，构建了机器实时理解人类价值的计算框架，使机器人和人类用户通过实时通信完成一系列复杂的人机合作任务这项研究可谓是机器的心脏，让AI赋予机器人读取人类价值观的能力相关论文发表在最新一期国际期刊《科学机器人学》上，题目是实时双向人机价值对齐

根据消息显示，当今广泛应用的AI系统是一种被动智能，只能机械地按照人类赋予的任务行动，缺乏像人类一样的认知和推理能力，情感和价值观在没有心的情况下，AI很难理解人类的真实意图和价值需求，自然也很难获得人类的信任，融入社会

在发现之前研究范式的局限性后，朱松纯带领研究团队改变了轨道，让AI系统按照人的方式自主定义任务，从人自身的价值需求出发学习人，从而为机器建立心脏，让AI学习人的价值函数，拥有实时对齐当前人类价值目标的能力，探索出小数据，大任务的范式。

研究团队提出了基于实时双向价值对齐模型的可解释AI系统，该系统允许机器通过与人类的实时交互和相应的反馈来推断人类用户的价值目标，并通过解释向用户传达其决策过程，以理解机器人做出判断的价值基础研究结果表明，这种学习模型可以提高复杂协作任务中人机合作的效率，进而增强人机之间的信任关系，实现真正的自主智能，在通用AI的道路上走得更远