人对智能机器行为的道德判断研究

Artificial intelligent/robots are stepping into people’s daily lives. When interact with human under complex environments, robots must face behavior choices that involve moral component inevitably, and will be judged by human. Considering the fact that robots have some unique characters and human treat them different from human been in many aspects such as attitude, cognition and trust, people may apply different moral norms towards robots and have different cognitive mechanism in moral judgment to robots. Thus，the current moral judgment models are no longer suit for intelligent times and need further development. Adopting psychological methodologies, the present study compares moral judgment of human and robot behavior under varies situations to reveal the base moral judge pattern of robots, test the dual-process model of moral judgment to explore the underlying mechanisms, of the role of emotion in moral judgment of robots, and influential factors of robots moral judgment. This psychological empirical evidence will deepen the content of moral decision making theory and lead to the development of intelligent robot moral behavioral system.

目前，人工智能、机器人正逐步进入人们的日常生活。在人机交互的各种复杂情境下，智能机器必然会涉及到道德相关行为的选择，人类亦必然会对其行为进行道德判断。鉴于人类对于智能机器的认知、态度及智能机器本身特点，在对其行为进行道德判断时，人们极可能采用不同于对人类行为道德判断的道德准则及加工机制。因此，现有道德判断研究必无法适用于智能时代，迫切需要理论拓展。本项目从人对智能机器行为道德判断的视角出发，拟采用认知心理学的实验范式和技术，在多种情境模式下通过对智能机器和人的行为道德判断的对比，全面揭示人类对智能机器行为道德判断的基本规律；运用道德判断的双加工模型，探讨人对智能机器道德判断的内部机制，揭示情绪在其中的重要作用；探究影响人对智能机器行为道德判断的一系列影响因素。为设计符合人类社会道德标准的智能机器道德行为体系，及有关部门制定经济、行政、交通等政策法规提供科学依据。

道德塑造了人类行为，没有道德，社会将不复存在，对道德的判断十分重要。道德作为人类生存和发展不可或缺的要素，其内涵和外延随着时代的变迁会产生“变形”。随着人工智能的发展，智能机器必然会涉及到道德相关行为的选择，人类亦必然会对其行为进行道德判断。因此，探究人对智能机器行为的道德判断显得至关重要。本项目针对人类对智能机器行为道德判断的基本规律、内部机制、关键影响因素进行研究。项目完成四个方面的研究内容：1）各道德情境下人对智能机器行为道德判断研究；2）机制研究：情绪对智能机器行为道德判断影响；3）道德主体、道德评价者、情形三要素特征对智能机器行为道德判断的影响研究；4）人工智能道德行为设计规范初步构建研究。主要结果表明，1）人们对人和智能机器行为的道德判断存在差异。在非个人道德困境下，人们对智能机器和人类不同道德取向行为（功利主义\道义论）的道德评价没有差异，而在个人道德个人困境下，相比人类人们对智能机器功利主义道德评价更高。而在非涉及生命的道德困境中，人们对智能机器道义论的道德评价更高。2）情绪在人对智能机器行为道德判断中起着重要作用：人们在智能机器人道德困境中的情绪、唤醒水平显著低于人类道德困境。3）智能机器拟人化、可爱性，道德评价者价值取向、共情能力、个体主义-集体主义倾向，对机器人负性态度，道德情境对智能机器道德行为的道德判断以及对智能机器的接受意愿起重要作用。项目在丰富道德判断领域研究，补充和扩展相应道德判断理论模型、人工智能道德判断研究范式以及为相关政府部门制定相应法律法规、相关企业设计相应的智能机器道德体系等均具有一定的贡献。项目资助发表论文4篇，其中：国际期刊论文2篇（SSCI/SCI），国际会议论文1篇，中文C刊1篇，培养硕士3名。