Q1：三位作者的学科背景都是心理学，你们从心理学的角度如何看待当今人工智能的发展与挑战？

    答：心理学是关注人的学科，它不仅是关注人本身，而且关注人怎么与机器“打交道”。其实，任何的技术发展都与人相关，因此作为心理学科的一个分支，在中国有工程心理学，在美国叫做人因科学（human factors），在欧洲叫做工效学(ergonomics)。这个学科的核心科学问题是研究在开发复杂系统中，如何保证技术与人的心理、生理规律相匹配，以便于人的理解和操作，使得整个人-机系统的效能达到最佳状态。

    人工智能（AI）从上世纪50年代发展到现在，历经三次浪潮。前两次集中在基本理论与技术手段的探索，基本遵循的是“以技术为中心”的取向。我们正在经历的人工智能第三次浪潮，不只体现在技术的长足进步，它还有一个明显的趋势，就是人们开始重视AI技术的应用落地场景，开发对人类有用的人工智能。这意味着人工智能不再是象牙塔中的“玩具”，而是越来越多地步入我们的生活，成为人类的伙伴。

    在第三次浪潮中，我们欣喜地看到人工智能领域开始逐步从“以技术为中心”转向“以人为中心”，人工智能的开发不仅是一个技术方案，更是跨学科合作的系统工程。“以人为中心AI”理念的提出，在我们看来是人工智能发展过程中一项重大的进步。此外，针对人工智能当前面临的挑战与瓶颈，例如安全性、可靠性、可信度，以及如何符合人类价值观等方面，从心理学的角度有很多值得探索的科学问题。

    Q2：人工智能研究一直以来是计算机科学方面的研究占据主导，心理学科的介入会不会给人有“蹭热点”之嫌？

    答：你说的有一定的道理，但存在一定的误解。人工智能的诞生本身就有心理学家的贡献。同时，心理学特别是工程心理学，通过关注技术和人的特点相结合，会催生出新型的技术，即人机交互技术。这一系列技术已在许多复杂技术体系中成为核心技术。心理学不仅是一个基础研究领域，它也是一个应用很广的学科，习近平总书记提出的科技创新“四个面向”，心理科学都有涉及。比如，葛列众教授团队连续十多年参与我国载人航天工程的研究，研发出相关的人机交互技术已应用于载人航天，服务于国家重大需求。

    事实上，科技的进步，不光是技术本身的进步，它一定是Idea（理念）、Science（科学）和Tech（技术）共同推进下完成的。技术的兴衰，也与它相关的各个领域的发展与局限息息相关。从发展历史来看，人工智能本身的发展就是跨学科协同合作的结果。比如，神经网络等模型就是建立在认知神经科学、心理学等研究的基础上。心理学、人因科学等领域在近年来取得了很大的进步，让我们觉得进一步融入人工智能研究的条件已经成熟。我们在这篇论文中提出对“人-人工智能交互”开展跨学科研究，是我们在研究过程中意识到这是一个重要的问题，而且相关工作已在开展，已有一定的研究基础，现在是时候提出明确的研究框架了。

    论文发表在人工智能领域的《智能系统学报》，原因是我们意识到这不只是心理学一个学科的问题，而是一个交叉学科的问题，希望能够得到更多学科的关注。作为中国人工智能学会的会刊，《智能系统学报》将我们的文章安排在该期的首篇发表，这本身也说明了中国人工智能界希望跨学科协同合作的开放精神。

    Q3：国际学术界在这方面有什么动向？

    答：美国斯坦福大学李飞飞等教授在2018年提出了“以人为中心AI”的概念，提倡在开发人工智能技术的同时也要关注人工智能的伦理化问题。许为研究员在2019年进一步扩展了“以人为中心AI”的概念，提出了一个“以人为中心AI”的理念框架。该篇文章发表在美国计算机学会（ACM）人机交互期刊上。近几年，围绕“以人为中心AI”的理念，学术界有许多研究和提议，目前许为研究员的文章仅仅在ACM线上图书馆的下载量目前就已经达到7940次。

    目前，计算机、心理学、数据科学、人机交互、人因科学、神经科学等领域的科学家正在一起协作，共同致力于开发“对人类有益”的智能系统。自2018年美国斯坦福大学成立全球首个“以人为中心AI”的跨学科研究机构以来，目前全球已有20多所著名高校和研究机构成立了围绕“以人为中心AI”主题的跨学科研究机构。近两年，许多国际会议开始将“以人为中心AI”作为会议重要主题之一。比如，今年7月份的国际人-计算机交互年会（HCI International 2021）专门设立了“以人为中心AI”的会议程序，许为研究员受邀报告了他的研究。我们相信“以人为中心AI”的理念会影响人工智能的发展走向。

Q4：你们认为心理学科具体切入的角度是什么？

    答：区别于传统的机器，人工智能时代的机器的一个重要特点是具有自主性。AI系统在一定程度上可以拥有类似于人的认知、学习、自适应、独立执行操作等能力，自主完成任务，有些甚至是以往自动化技术所不能完成的任务。

    这意味着，智能时代正在产生一种全新的人机关系。人与AI系统的交互本质上是人与自主智能体的交互。随着AI技术的发展，人与人工智能有可能演变成为团队队友的关系，形成一种“人机组队”（human-machine teaming）式的合作。这是机遇也是挑战，我们要在AI系统开发中利用这种协同合作关系，保证人类能够有效利用和控制AI系统，避免人工智能伤害人类。所以，心理科学和人因科学是从人-人工智能交互的角度去介入人工智能技术的发展。

   Q5：这种新型的“人-机”关系新在哪里？

    答：在经典的“人-机”交互系统中，机器通常是作为一种辅助工具，它依赖于事先设计好的规则和算法运行。只有人才可以主动地启动这种有限的合作。但是AI系统的自主化特征让人和人工智能之间一定程度上像人与人的交往。这种交互可以是双向主动的、分享的、互补的、目标驱动的、自适应的。比如，机器可以识别人的意图，从而达成“心有灵犀”的交互效果。

    对于智能时代新型“人-机”关系的研究超出了目前人机交互研究和应用的范围。我们需要新的研究框架和方法论。比如，针对智能自动驾驶车的人机共驾模式，我们可以将人类驾驶员与车载智能系统智能体之间的交互视为一个协同认知系统中两个认知体之间的协同合作，探索基于这种新范式的车载人机合作交互模式和合作式认知人机界面的设计思路。

    Q6：许多人认为，担心人工智能出错、调皮捣蛋甚至伤害人类有点为时过早，人工智能还远没有达到产生自主意识的阶段，一切都还在可控范围之内，你们怎么看？

    答：我们坚信人工智能技术是造福于人类而不是产生不可控的影响。不恰当的AI开发已经导致了许多伤害人类的事故，仅仅在学术界认可的“AI事故数据库”里就已经记录了1000多起事故，比如：自动驾驶汽车撞死行人、交易算法错误导致市场“闪崩”、面部识别系统导致无辜者被捕等。所以，考虑这些问题并不是为时过早。如何保证人工智能符合人类的价值观，是包括心理学在内众多学科的共同研究目标。“以人为中心AI”的理念就是在这样的目标下诞生的。

     Q7：根据你们构建的研究框架，心理学科将如何介入人工智能的发展？是否有些研究案例。

    答：基于“以人为中心AI”的理念，我们提出了“人与人工智能交互”的新研究领域和框架，目的是为各学科提供一个协同合作的平台；强调人们使用智能系统的过程就是与人工智能的交互（不是与传统的非智能系统的交互），提醒人们注重人工智能技术的新特征，采用有效的跨学科方法来解决这些独特问题；进一步推动“以人为中心AI”理念在人工智能研发中的落实。

    针对这个新的研究领域和框架，我们认为，心理学科主要能起到三个方面的推动作用：第一，提倡和推广“以人为中心AI”的理念。助力解决当前人工智能技术发展面临的一些难题，比如人机混合智能、人类可控AI、可持续发展AI、情感、伦理、可信度等问题，促使人工智能技术的进一步健康发展，避免走“以技术为中心”的路径，避免伤害人类。第二，提供心理学等行为科学的方法论和研究成果。比如，将心理学解释理论应用在可解释AI研究和设计中；利用行为科学方法来优化机器学习建模、数据培训、算法测试，避免算法偏差、不公平和极端的机器行为；开发有效的人类认知信息加工模型、知识表征和图谱来支持人工智能认知计算和算法的开发；在高等级认知层面上为脑机智能的叠加（如学习、记忆）建立更有效的认知信息加工模型，支持人机融合、脑机融合等研究。第三，研发新型的智能人机交互技术，开发出更多更好的人工智能应用产品。

    比如，葛列众教授团队正在做的针对人类用户的操作意图识别研究，可用于促进人机界面的效能；高在峰教授团队也正在开展针对智能自动驾驶车的人机互信研究。这些研究已在实际应用中产生了初步应用，并有初步成果。我们相信，在“人-人工智能交互”的框架下，会诞生很多新技术给我们的生活工作带来翻天覆地的变化。

    Q8：在你们构建的框架下，不同学科的科学家应该如何交叉协作？

    答：“人与人工智能交互”研究领域的核心目标是：从技术上开发高效强大的、可持续发展的、人类可控的人工智能，人工智能是增强人类能力，而不是取代人类；在伦理道德上开发伦理化和有责任的人工智能；从人因科学上，开发有用和可用的人工智能，通过智能人机交互等技术，保证人类拥有对系统的最终决控权。

    为确保达到以上这些目标，这里主要有两方面的研究内容：第一是人因设计，伦理设计以及社会学方面的基础研究，比如智能人机交互设计，智能机器行为，机器学习方法优化，可解释的人工智能；第二，人和AI结合的技术，比如人机混合增强智能，人类智能增强，智能人机交互技术等。比如，在人机系统中要实现智能体识别操作人员意图的能力，需要结合具体的应用，以人因学科和心理学科的理论框架模型为指导，以系统科学、认知科学和神经科学的实验方法得到系统各层面的多维维度的数据，并以计算机学科的智能算法建立模式识别模型。

    除了研究内容上的交叉以外，建立交叉平台可以使得不同学科背景的科学家能够针对同一个问题进行讨论、研究、合作，更有效地解决问题。也就是基于这种理念，浙江大学建立了浙大心理科学研究中心，推进基于心理学的多学科交叉研究。在这个过程中，得到了学校各级领导和发展规划处、人才办、研究生院、科研院等职能部门大力支持。

    Q10：你们的研究最终是以什么形式输出？

    答：我们认为最终的形式输出至少会有三种：第一种，基于心理学科和人因学科对“人与人工智能交互”的理论研究，提出“以人为中心AI”设计原则、设计思路、设计指南和标准。第二种，可以通过多学科交叉研究，研发新型的人工智能应用，比如前面所提到的我们已经初步完成和正在研究的实例。第三种，开发基于人类认知信息加工的一系列模型，为人工智能技术的人类生理计算、情感计算、道德计算、社会计算、可解释AI、人-AI合作建模、知识图谱、脑机融合等提供学科支持。

    我们认为，不同领域的学科都有自身的长处和特点。如果心理学家参与人工智能技术的研发，我们会更多地考虑把人的思维特点融合进去，以人为中心去进行人工智能研究，希望智能系统能和人类共生共融。我们相信，完善的人工智能技术，必然是多学科交叉研究合作的结果。

访谈 |  周炜

图片 | 浙江大学心理科学研究中心

来源 | 浙江大学学术委员会