机器人伦理：一个亟待研究的新领域

　　2004年1月，第一届机器人伦理学国际研讨会在意大利圣雷莫召开，正式提出了“机器人伦理学”这个术语。机器人伦理学研究涉及许多领域，包括机器人学、计算机科学、人工智能、哲学、伦理学、神学、生物学、生理学、认知科学、神经学、法学、社会学、心理学以及工业设计等。2005年，“欧洲机器人研究网络”专门资助研究人员进行机器人伦理学研究，希望能为机器人伦理研究设计路线图。此后，机器人伦理研究得到越来越多西方学者的关注。

　　目前，机器人已经在教育、医疗、军事、家庭生活等多个领域广泛应用。随着技术的发展与进步，几乎可以肯定的是，将来机器人的应用会更加广泛。机器人与人类关系的未来发展，很可能和个人电脑与人类关系的发展历程类似。若干年后，或许人们离开机器人会感觉难以适从。但是，与电脑不同的是，机器人不仅仅是一台机器，它在许多地方与人类类似，甚至非常接近人类。因而，由此引发的伦理问题也更加尖锐。在机器人应用日益广泛的现代社会，人们是否应该给机器人的应用设定一个限度？比如，儿童看护机器人目前在韩国、日本和一些欧洲国家得到重视。日本和韩国已经开发出实用的儿童护理机器人，具备了电视游戏、语音识别、面部识别以及会话等多种功能。它们装有视觉和听觉监视器，可以移动，自主处理一些问题，在孩子离开规定范围还会报警。精确的量化研究表明，与机器人相处几个月后，幼儿会像对待小伙伴那样对待机器人，而不是将其看作玩具。

　　显然，儿童看护机器人可以作为幼儿的亲密玩伴，特别是对缺少小伙伴的幼儿，它们的效果比一般的玩具要好得多。类似的研究也表明，机器人可以和小学生相互学习、相互影响，甚至在某些方面形成一致。而且，人们也开始注意从孩子的角度来研发机器人，使之更受孩子的喜欢。

　　毫无疑问，儿童看护机器人可以减轻家长的负担，使他们能有更多的自由时间。但是，机器人是否可以取代，或者说在多大程度上可以代替成人的照顾？如果把孩子完全交给机器人，会发生什么样的情况？虽然机器人技术的发展会使儿童护理机器人功能越来越全面，但家长的照顾与机器人的看护还是有着根本性的区别。如果孩子与机器人一起长大，他们可能会认为与机器人在一起的世界是真实的，与人类在一起的世界反而让他们更难接受。对于幼儿的健康成长来说，家人的关爱是无法替代的，机器人只能起到辅助作用。

　　又如，现代军用机器人在现代科技武装下拥有了越来越强大的威力。军用机器人拥有较高的作战效率、全天候作战能力、绝对服从命令、较低的作战费用以及可以降低人员伤亡等优点，使得世界各军事大国都在不遗余力地开发军用机器人，其自主程度也在不断提高。

　　但是，军用机器人与人类向善的本性是冲突的。军事历史学家马歇尔的研究表明，二战期间，大约只有15%—20%的美国步兵能够或愿意向敌人开火。也就是说，当发现敌人时，80%左右的步兵不愿意开火或只是朝着敌人头顶的天空开枪。马歇尔把产生这种现象的原因归结为各种恐惧，其中之一是人们普遍持有的一种根深蒂固的观念，那就是杀人根本就是错误的。在马歇尔看来，大多数士兵厌恶战争是一种普遍现象。虽然马歇尔的研究方法受到一些学者的批判，其数据也被认为可能并不精确，但其基本观点——许多士兵并不愿意杀戮，这个发现在对其他战争的分析中也得到了印证。

　　与人类相比，军用机器人（特别是自主军用机器人）在战场上的应用会导致巨大的破坏。它们没有恐惧感，很可能对人类没有同情心，自然就不会对目标手下留情。一旦启动，它们强大的破坏力会使其成为真正的冷血“杀人机器”。而且，军用机器人不知疲倦，可以长途奔袭，超越视距通讯，它们的战斗时间似乎只受所携带的油量或电池电量限制。

　　从理论上讲，这样的军用机器人的确令人恐惧。因此，研究人员试图使军用机器人像人类那样遵守某些公认的道德规范，使之成为“人工道德行为体”。但是，军用机器人究竟应该遵守哪些道德规范？这些规范在机器人当中如何实现？令人遗憾的是，在目前的技术条件下，军用机器人还难以识别战斗人员与非战斗人员。如果把现在的军用机器人放到城市里的话，它们很可能会去破坏公交车和小轿车。即使具有伦理敏感性的军用机器人是可以研制成功的，但是，再完善的设计也可能会出错，如果机器人犯错之后，应该由谁来负责？诸如此类的问题仍然困扰着哲学家与科学家。

　　另外，随着机器人与人类的相似度越来越高，另一些问题也突显出来。比如，机器人是否应该拥有权利？人类是否可以随意毁掉机器人？人与机器人的区别究竟应该是什么？早在20世纪80年代，美国规划师—未来学家麦克纳利和亚图拉就撰文认为，机器人将来会拥有权利。对机器人权利的思考是我们考查权利问题的新维度，可能需要我们重新认识权利概念及其意义。

　　毋庸讳言，作为一种重要的技术发明，机器人将会对现代社会产生重要影响，也必然会产生一些亟待解决的伦理问题。对这些伦理问题的解答，其重要性可能并不亚于技术性问题的发展进步。包括科学家、伦理学家在内的各个领域的学者应该通力协作，共同解决需要面对的各种难题。必须强调的是，在机器人伦理研究方面，科学家担负着重要的道义责任。目前，已有一些科学家参与到机器人伦理问题的研究，期待更多科学家能认识到自己的社会责任，积极主动地参与相关研究。

　　（作者单位：上海交通大学科学史与科学文化研究院）

（摩罗编辑）