三种语言,大脑中同一张语义地图
一位中文读者、一位英文听众和一位法文听众可以理解同一个故事,尽管他们的语言几乎没有共同的词汇,造句方式也各不相同。在某个地方,大脑一定保存着这个故事的意义。中国科学院深圳先进技术研究院和香港两所大学的Yi Guo、Shuqiang Wang及其同事,在脑部扫描中寻找这片共同的基础。
活动不同,距离相同
他们的核心思路是比较几何结构,而不是活动本身。两个人或两种语言,对同一个句子可能产生不同的大脑活动模式。但我们仍然可以问:大脑把哪些段落视为彼此相近,又把哪些视为相距甚远?如果这些关系在不同语言之间都成立,那么即使细节不同,大脑也共享着一张共同的语义地图。
227个大脑,三种语言
团队重新分析了四组公开的功能磁共振成像记录,共227名参与者:
- 用英文(49人)、中文(35人)或法文(28人)收听***《小王子》***的成年人——三组各不相同的人;
- 六名用两种语言阅读故事的中英双语者;
- 十二名收听普通话新闻的人,这些数据用于预训练系统;
- 97名以法语为母语者收听*《爱丽丝漫游奇境》*的片段,作为独立测试;其中79人还用英语听了同样的片段。
他们构建了一个大脑解码器SemDecoder。一个多语言语言模型提出可能的下一个词;由大脑信号决定保留哪些。它在三种语言中都恢复出了有意义的内容,并在每一项指标和每一个数据集上都胜过此前的一个参考解码器。论文中的一个例子:句子*“对我来说,它就像沙漠里的一眼清泉”从大脑中解码出来变成了“再也不了,它就像沙漠里的一场纯净的雨。”*在法语中,一句关于“一本讲原始森林的书”里一幅图画的话,被解码成了“一本讲黑森林的书”。在三种语言中,最重要的脑区都位于两侧的颞叶。
共享的地图
接着,作者比较了几何结构。比较两个大脑,首先得把它们放进同一个坐标框架里:这就是对齐,一种计算出来的旋转,它寻找两组活动模式之间最贴合的对应关系,而不预设大脑中相同的位置会亮起来。对齐之后,故事事件的排布在中文、英文和法文之间基本重合。随后,作者按意义的三种属性给每个段落打分——它有多具体而非抽象,它在多大程度上讲的是人和人际关系,以及它带有多少情绪强度——并寻找脑图上让每项分数升高的方向:在三种语言中,这三个方向都指向同一边。在一种语言里相距甚远的段落,在另一种语言里也往往相距甚远。这种吻合对单个听众成立,并且贯穿整个故事。
但它在整个大脑中并不均匀。跨语言的吻合在靠近感觉和运动的区域最弱,在高级联合区最强——这些区域并不直接从耳朵或眼睛接收信号,而是把这些信号组合起来。梯度的低端一点也不奇怪:一句中文和一句法文没有任何共同的声音,听觉区在任何意义之前就听出了这种差别,所以一致只能出现在更靠后的环节。这一梯度与大脑已知的主要组织轴高度一致,这条轴从感觉和运动区域延伸到整合程度最高的区域(在400个脑区上的相关系数为0.80)。作者认为,这些高级区域保存的是意义之间的关系,它们较少依赖于任何一种具体语言的形式。
读懂一种从未学过的语言
实际的检验是泛化能力。用一种语言训练的解码器,在它从未见过的另一种语言上表现优于随机水平,三种语言之间的全部六个方向都是如此,在双语者身上也是如此。一个用中文听众训练的解码器,比未经训练的网络更能分辨出法语使用者正在听十二个段落中的哪一个——无论他们听的是法语还是英语。它越是依赖高级区域,泛化得就越好。
最后,当目标语言只有少量脑数据时,先用其他语言进行预训练,在所测试的每一种数据量下都提高了解码效果。作者指出了一个公平性问题:并非每种语言都有同样多的脑记录,借助研究充分的语言或许能帮助其他语言——不过他们没有直接验证这一点。他们的研究涵盖三种语言;这张共享地图能否延伸到人类语言的全部多样性,以及它如何随一个人自身使用多种语言的经历而变化,仍有待探索。
