近日，沙特公民、仿真机器人索菲娅就任联合国开发计划署亚太局首位创新大使。最近她还宣布想要结婚并想有个女儿。面对谜一样的未来，人们开始热议一系列伦理问题。
在日前举办的“2017可持续发展责任商业论坛”上，沙特公民、仿真机器人索菲娅正式就任联合国开发计划署（UNDP）亚太局首位创新大使。2017年10月25日，索菲娅（Sophia）成为历史上第一个有公民身份的机器人。她是由汉森机器人公司开发的，其创始人是人工智能开发者大卫·汉森（David Hanson），尽管她没有心脏和大脑，却被沙特赋予公民身份。索菲娅最近还宣布想要结婚。她在接受采访时说，如果她有个机器人女儿，会以自己的名字取名，她相信每个机器人都应该有自己的家庭。
“索菲娅”打开了人工智能的潘多拉魔盒吗？
汉森希望机器人能够模仿人类的爱、同理心、愤怒、嫉妒以及活着的感觉，以便人类能够更好地理解“什么是生命”“什么是智慧”以及“什么是意识”等问题。然而，索菲娅却不那么听话，她曾经出人意料地扬言要“毁灭人类”。物理学巨匠史蒂芬·霍金曾在英国《独立报》上撰文指出：“研发人工智能将成为人类历史上犯的最大错误；不幸的是，这也可能是最后一个错误。”这些或许都是索菲娅现身引起热议的原因，科学技术无疑是一把双刃剑，人们越是欣喜就越是担忧。
如今，如同担心克隆人一样，人们又开始担忧人工智能了，不知它能给人类什么样的未来。霍金的话也更让人恐惧，他所说的这也可能是人类“最后一个错误”意味着什么？是否意味着人类的毁灭，从而也再无错误呢？谷歌公司也动起来了，专门成立一个伦理委员会，负责处理和监督人工智能领域出现的各种问题。
索菲娅——潘多拉的盒子已经打开，面对谜一样的未来，人们开始热议一系列伦理问题：是否应当开发这种人工智能？这种开发将为人类社会带来和带走什么？如何权衡人工智能的利益和风险？索菲娅走入人类生活将会对家庭和社会伦理关系产生何种影响？索菲娅的行为或错误以及不可预知的风险是什么？她喜欢有人类那样的婚姻，我们的文化和伦理道德允许她像七仙女、织女一样嫁给董永或牛郎吗？这些问题不仅是需要21世纪文学演绎的新神话，更是伦理学领域必须面对的新难题。
计算机领域需研究
“机器人伦理学”
索菲娅的问世也提升和拓展了应用伦理学的研究范围，就计算机领域来说，她已经完成从计算机伦理——机器人伦理——人工智能伦理的过渡。计算机伦理兴起于计算机技术的问世，计算机技术创造了前所未有的事物：软件、微芯片、互联网以及虚拟现实和视频游戏等。这些事物对人们的行为、生活和社会产生巨大影响，甚至计算机像我们的身体一样，为我们的行动提供某种器官，也相应地改变了我们对于行为方式的理解，因而人类需要计算机伦理来思考自身的行为，作出合乎伦理道德的决定、选择和评价。
21世纪初期，计算机伦理领域又开始关注作为计算机伦理学的一种延伸和拓展的新分支——“机器人伦理学”。而随着如同索菲娅一样具有自治功能的机器人的不断出现，计算机伦理领域也必须随之深入发展，研究人工智能伦理问题，以充分的想象力、前瞻性和预警机制来规范这一新事物的出现。
就伦理学而言，首先索菲娅的身份便存在着争议，她是一部工程机器呢？还是与我们一样具有人的身份和权利的个体？更为复杂的问题是，倘若有一天索菲娅不仅具有一定的自治和思考能力，还能根据环境进行自我决策，如果她或者她的姐妹到中国访问，遇到心仪的董永或者牛郎坠入爱河，人们是否认为她也有权利去民政局领结婚证？既然沙特已经赋予索菲娅公民身份，想必她在沙特有权具有合法婚姻，那么在沙特之外的其他国家是否也能如此这般呢？
其次，索菲娅的祖先——那些最早被生产出来的机器人，常常被指派去做3D工作，即枯燥、肮脏和危险工作，用在劳动、军事、环境和医疗等方面，比如负责收集垃圾、清理核电站灾难现场、辨识有毒物质等等。随着机器人的智能化和自治能力的不断提高，我们需要进一步思考“如此利用像索菲娅这样富有人类情感的机器人是否是道德的”等问题。当然，这还是与索菲娅的身份界定相关，既然她已成为富国沙特的合法公民，人类再像使用她先辈那样“奴役”她显然是违背人权的。
再次，任何技术都存在着安全隐患，索菲娅同人一样会犯错误，如果索菲娅对人类造成任何灾难，我们如何要求她如同具有自主性和主体性的人类一样负起道德和法律责任？既然沙特已经宣布她的公民身份，如果她有任何犯罪行为或者导致其他无法预料的伤害，将由谁来承担这份责任？索菲娅本人还是沙特政府？抑或是她的开发者大卫·汉森或者厂家？如果答案是前者，人们如何想象和接受她所要提供的补偿和受到的惩罚？现在人们只能通过编程来使索菲娅成为一个遵守公序良俗的公民，然而，如果有一天，她的智能已经超出人类的想象和控制，从事一些危害人类的行为，我们如何事先能够更聪明地规避这些风险？此外，当索菲娅作为一个具有人格特征的机器人主体进入人类社会后，便会对现有的社会伦理关系产生颠覆性的影响，使以往的“人-人关系”变成“人-机关系”，或者“人-机-人”的关系，作为人类社会关系中的“第三者”，可以想象，她所到之地不再能像以往那样的平静，所导致的伦理矛盾和道德困境令人始料未及，这或许就是霍金所说的人类犯下的“最后一个错误”的深刻含义？因为眼下尚无人能说清如果放任核技术、克隆人和人工智能机器人发展下去，未来的人类会是什么样子。
也正是因为人们对索菲娅有上述种种想象、怀疑和争议，国务院在2017年7月8日，印发了一份文件——《新一代人工智能发展规划》，强调人工智能的迅速发展将深刻改变人类社会生活、改变世界。它不仅能引发经济结构重大变革，也深刻地改变了人类的生产生活方式和思维模式，实现社会生产力的整体跃升，为社会建设带来新机遇。然而，这一文件也提醒人们必须重视人工智能发展的不确定性所带来的新挑战，因为它是一种影响面很广的颠覆性技术，可能带来改变就业结构、冲击法律与社会伦理、侵犯个人隐私、挑战国际关系准则等问题，并将对政府管理、经济安全和社会稳定，乃至全球治理产生深远影响。为此，我们必须高度重视新一代人工智能可能带来的安全风险挑战，加强前瞻预防与约束引导，最大限度地降低风险，必须重视人工智能法律伦理的基础理论问题研究，确保人工智能能够安全、可靠和可控地发展下去。
人们可以想象有一天，美丽时尚的索菲娅手持沙特护照登上某个国际航班，与我们坐在一起聊天、喝咖啡的样子吗？用知乎问答的一个句式——“与索菲娅同乘一个航班是一种什么样的体验？”那回答肯定会超出目前地球人的所有想象。
閱讀更多 清華思客 的文章
