近日，我院秦昕教授交叉学科团队在国际顶级学术刊物

Science Robotics是

该评论重点对比和评述了2018年发表于

如今，社交机器人被广泛应用在教育、养老、心理咨询治疗和服务等不同场景中。权威人士预计，机器人的应用趋势在未来还将持续上升。在针对机器人的诸多研究中，一个最基本的问题是：机器人是否以及在何种程度上能引起从众（即个体改变自身行为以符合其他人行为的倾向）。对这一问题的回答具有重要的实践和伦理意义：如果机器人能够引发个体从众，那么，政策制定者则需要审慎地制定和实施相关政策，从而在机器人可能带来不当影响的场景中对弱势群体（例如，年长者、儿童、消费者等）加以保护。基于此，Vollmer等（2018）和Qin等（2022）的研究对上述问题进行了深入探讨。

首先，基于Asch的经典从众实验，Vollmer等（2018）将原实验中的假被试（即同盟[confederates]）替换为机器人（即在人-机混合群体中机器人为多数派），并分别让儿童与成年人参与者与一组机器人同伴一起完成线段长度判断任务（见下图A和C）。在这个任务中，实验员给参与者提供一条目标线段以及三条其他线段，并让机器人同伴和参与者依次在这三条线段中选出与目标线段长度相等的那条（参与者最后给出答案）。参与者共需做出18轮线段长度判断，在其中的12轮里（即关键测试[critical trials]），机器人组均提供明显错误的答案。随后，根据参与者的回答来判断其是否受到前面报告者的影响。结果表明，在有机器人提供明显错误的答案的情况下，儿童产生了从众行为，而成年人则不会从众。这些结果表明，在机器人应用过程中，政策制定者需要保护儿童免于机器人的潜在滥用，而对成年人则无需有此担忧。

Qin等（2022）的新近研究则表明，上述研究发现是不完整的。虽然Vollmer等（2018）考察了一名参与者与一组机器人共事（即机器人为多数派）的情境，然而，作为一种新兴技术，机器人目前在人-机交互中更多的是扮演一种辅助的角色，因此，在我们目前的工作和生活中，更加普遍的情况是，在人-机交互情境中机器人往往是少数派。基于此，Qin等（2022）在维持Vollmer等（2018）的实验条件不变的基础上，将实验情境设置成一个在人-机混合群体中机器人为少数派的情境，并探讨了该情境下的从众效应。即Qin等（2022）沿用了与Asch完全相同的范式，并在实验中囊括了一名机器人同伴，两名人类同伴，以及一名参与者（见下图B和D）。

与Vollmer等（2018）的发现相反，Qin等（2022）发现，在机器人作为少数派的情境中，当机器人提供明显错误的答案时，成年参与者的回答准确率比控制组（即独自作答）的参与者低12%。也就是说，在机器人作为少数派的群体中，机器人也能引发成年人的从众行为。另外，在有机器人同伴的条件下的成年参与者的回答准确率与在全部人类同伴条件下的参与者近似，说明一名机器人引起的从众效应与一名人类同伴相当。此外，Qin等（2022）进一步对比了当群体中存在异议者（dissenters）时的影响，并发现当存在人类或机器人异议者时，群体中的从众效应均能得到有效减弱，但后者减少从众的效果稍小于前者。对于两篇不同结果的研究，Qin等（2022）解释道：“相比于机器人为少数派的情境，当一个人与一群机器人互动时，个体可能对机器人的敏感性更高，这会一定程度上减少从众的压力。”综合这两项研究发现，该评论认为，机器人是否能够诱发个体的从众行为，在很大程度上取决于机器人在群体中是多数派还是少数派，而后者在可预见的未来更为普遍。

(A) Vollmer等（2018）中实验参与者和机器人同盟的座位安排；(B) Qin等（2022）中实验参与者和机器人-人类同盟的座位安排；(C) Vollmer等（2018）实验照片；(D) Qin等（2022）实验照片。

该评论认为，Vollmer等(2018)和Qin等(2022)的研究具有重大的理论、实践和伦理意义。在理论上，上述研究强调了人-机混合群体中人类与机器人之间的相对比例在机器人能否引发人类从众行为方面的重要性。尽管机器人越来越普遍，但在未来几年中，它们可能仍然是人类与机器人合作中的少数派，从而可能产生从众效应，甚至会影响成年人。

在针对人-机交互中机器人的伦理规范方面，Qin等（2022）的研究也具有重要的实践和政策指导意义。目前，有许多关于机器人伦理重要性的讨论正在进行。现有研究大部分聚焦于对生产不伤害人类的道德的机器人，或设计能够在人类生命可能面临风险的道德困境中做出最佳道德决策的机器人（例如，涉及交通事故困境的自动驾驶汽车）等问题的讨论。Qin等(2022)的研究则集中在一个更基础的问题上，即从众的伦理，并揭示了机器人确实拥有迫使人类遵从明显错误建议的能力。在可预见的未来，广泛的使用机器人已是大势所趋，这项研究通过探讨机器人以及其对人类行为产生的社会影响提出了两点建议。第一，政府和组织可以通过机器人来推动积极的行为。例如，在公共场所中或者在教育等环境中，政府和组织可以通过设置机器人来模拟积极的行为，以促进人们的观察模仿。第二，人们应该意识到该效应也会给社会带来潜在的消极影响。在现今社会，很多企业都会选择通过机器人来推广产品或促进消费决策等。人们应该意识到自己可能会受到机器人的影响产生从众行为。诸如猪湾事件和挑战者号航天飞机灾难等历史事件都已表明，草率的从众和缺乏异议者可能给群体甚至社会带来灾难，群体环境中的独立思想和意见分歧是一个正常运转的社会的基石，也是人们应该捍卫的东西。该评论希望，Qin等(2022)关于社会机器人确实可能会引发个体从众行为的发现，能够激励机器人学者和应用伦理学家进一步设计出使人类与机器人在社会互动中更加安全且合乎道德的互动准则和方式。

近年来，管理学院学科建设、科学研究等各项事业快速发展，综合实力稳步提升，为“双一流”建设打下了坚实的基础。上述研究和评论受益于学院科研大平台，是学院“十四五”期间，进一步聚焦学科方向，服务国家战略需求，坚持“四个面向”，大力鼓励开展数字驱动的交叉学科研究的又一个重要研究成果。

作者简介

秦 昕

秦昕，中山大学管理学院教授，博士生导师，博士与学术硕士项目（工商管理专业）学术主任。在北京大学光华管理学院获得管理学博士学位，亦是哈佛大学商学院中美富布赖特（Fulbright）联合培养博士生。

研究兴趣包括领导、伦理、交叉学科研究等，正着力开展系列前沿交叉学科研究。已在

曾获第八届高等学校科学研究优秀成果奖（人文社会科学）青年成果奖、广东省第八届、第九届哲学社会科学优秀成果奖一等奖（3项）、广东省卓越人力资源研究成果奖一等奖（3项）、中山大学何氏杰出科研贡献奖、何氏杰出教学贡献奖、北京市优秀博士毕业生、北京大学第十六届研究生“学术十杰”、国家奖学金、富布赖特奖学金、中国管理研究国际学会（IACMR）李宁博士论文奖一等奖、Emerald优秀论文展第一名等荣誉。服务经济社会发展，担任第一届广州市优化营商环境咨询专家等。

陈 晨

陈晨，中山大学管理学院副教授。在中山大学管理学院获得管理学博士学位。研究兴趣包括（非）伦理行为、领导力、人工智能在组织中的应用等。已在

李琬璐

李琬璐，中山大学管理学院科研博士后。在香港教育大学获得博士学位。研究兴趣包括主动性行为、隐私、人工智能在组织中的应用等。已在

来源：科研与研究生教育办公室

撰稿：蒋莉、陈晨、李琬璐

编审：蒋莉、秦昕、郑国坚

责任编辑：罗萍

初审：陈融融

审核：周晶

审核发布：谢曼华、王帆

欢迎投稿

bspr@mail.sysu.edu.cn