我国科学家研究揭示多模态大模型概念表征机制


中国科学院自动化研究所与中国科学院脑科学与智能技术卓越创新中心的联合团队在《自然·机器智能》(Nature Machine Intelligence)发表相关研究,首次证实多模态大语言模型能够自发形成与人类高度相似的物体概念表征系统,为人工智能认知科学提供了新路径,也为构建类人认知结构的人工智能系统提供了理论框架。

研究采用认知心理学经典的“三选一异类识别任务”(triplet odd-one-out),要求大模型与人类从物体概念三元组(来自1854种日常概念的任意组合)中选出最不相似的选项。通过分析470万次行为判断数据,团队首次构建了AI大模型的“概念地图”。

实验范式示意图。a,物体概念集及带有语言描述的图像示例。b-d,分别针对 LLM、MLLM 和人类的行为实验范式和概念嵌入空间。

研究人员从海量大模型行为数据中提取出66个“心智维度”,并为这些维度赋予了语义标签。研究发现,这些维度是高度可解释的,且与大脑类别选择区域(如处理面孔的FFA、处理场景的PPA、处理躯体的EBA)的神经活动模式显著相关。

研究还对比了多个模型在行为选择模式上与人类的一致性(Human consistency)。结果显示,多模态大模型(如 Gemini_Pro_Vision、Qwen2_VL)在一致性方面表现更优。

此外,研究还揭示了人类在做决策时更倾向于结合视觉特征和语义信息进行判断,而大模型则倾向于依赖语义标签和抽象概念。本研究表明大语言模型并非“随机鹦鹉”,其内部存在着类似人类对现实世界概念的理解。

  • 全文链接https://www.nature.com/articles/s42256-025-01049-z
  • 代码:https://github.com/ChangdeDu/LLMs_core_dimensions 
  • 数据集:https://osf.io/qn5uv/

相關推薦

2025-03-30

在人工智能快速发展的今天,我们使用的AI助手如何「思考」一直是个谜。近日,AI公司Anthropic发布了两篇重磅论文,首次深入揭示了大语言模型Claude的内部思维过程,这一突破性研究被形象地称为「AI显微镜」技术。 打造「AI

2025-06-07

继“悟道”系列大模型之后,智源研究院推出“悟界”系列大模型。其中包括原生多模态世界模型Emu3、脑科学多模态通用基础模型见微Brainμ、跨本体具身大小脑协作框架RoboOS 2.0与具身大脑RoboBrain 2.0以及全原子微观生命模型OpenC

2024-08-16

众长的开源模式已成为全球计算技术和产业创新的主导。我国是全球开源生态的重要参与者和贡献者,但仍处于边缘位置,面临底层技术掌控不足,主要开源社区平台被国外垄断的困境,必须加强开源体系建设,加快打造中国特

2025-04-10

Jina AI 正式发布jina-reranker-m0,一款多模态、多语言重排器(reranker),核心能力在于 对包含丰富视觉元素的文档进行重排和精排,同时兼容跨语言场景。 根据介绍,当用户输入一个查询(query)以及一堆包含文本、图表

2025-04-02

模型还将用于解答‘太阳磁场起源’等‘未解难题’,为我国太阳研究作出贡献。” 此前,中国科学院(简称“中科院”)国家天文台“星语”大模型、中科院青藏高原研究所的全球首个水能粮大模型“洛书”以及中科院南海

2023-10-11

果、长效优势显著的AI基础软件商业化策略,充分展现了我国科技创新企业的实力和潜力。基础软件是人工智能的底座,人工智能的基础软件的发展决定了人工智能发展的深度、高度、广度,拥有商业化的广阔市场。在大算力时

2023-03-02

为现象级应用,人工智能进入普及应用的新时期。 智源研究院2020年搭建大模型攻关团队,2021年6月推出当时规模最大、性能领先多模态大模型“悟道2.0”。为了推动大模型方向的协同创新,在“科技创新2030”新一代人工智能重

2023-06-17

,共吸引来自AI产业界超过500家伙伴、行业客户、高校、研究机构等代表参会,共同探讨AI技术创新与行业融合大背景下的AI框架生态模式与场景应用,围绕大模型与科学智能领域AI框架技术的广泛合作与深度交流。 数智时代,AI

2023-06-22

提的是,6 月 19 日,由清华大学计算机系教授、人工智能研究院副院长朱军带领的新团队完成了近亿级天使轮融资,由蚂蚁集团领投。这是自去年 11 月 ChatGPT 发布至今,蚂蚁集团投资的第一个 AIGC 项目。 目前业内比较知名的多

2024-10-04

com/xorbitsai/inference。无论你是研究者,开发者,或是数据科学家,都可以通过 Xorbits Inference 与最前沿的 AI 模型,发掘更多可能。   Xinference 的功能和亮点有: * 🌟 模型推理,轻而易举:大语言模型,语音识别模型,多模

2025-06-19

com/xorbitsai/inference。无论你是研究者,开发者,或是数据科学家,都可以通过 Xorbits Inference 与最前沿的 AI 模型,发掘更多可能。 Xinference 的功能和亮点有: 🌟 模型推理,轻而易举:大语言模型,语音识别模型,多模态模

2023-07-05

学人工智能研究院常务副院长孙茂松受聘为研究中心首席科学家。 王希勤指出,基础模型对通用人工智能的发展至关重要,学校面向世界科技前沿成立研究中心旨在推动相关领域有组织科研和学科发展。希望研究中心能加强

2025-05-28

文组织与欧莱雅基金会当地时间26日公布2025年世界杰出女科学家奖的5位获奖者。中国科学家王小云是获奖者之一。 “世界杰出女科学家奖”由联合国教科文组织和法国欧莱雅集团在1998年联合设立,每年授予分别从非洲与阿

2023-08-16

播电视总台、人民网、国家气象中心、中国科学技术信息研究所、上海报业集团、上海文广集团等语料数据联盟成员,共同开源发布“书生·万卷” 1.0多模态预训练语料。 “书生·万卷” 1.0目前包含文本数据集、图文数据集、