□ 陈思进

    在上篇《AI能拥有自我意识吗——漫谈人工智能（中）》一文里提到了在AI的助力下，机器人完成了对人类的外形及基本功能的模仿，并预计在未来十年内可能会出现具有自我意识的机器人。那么在面对拥有自我意识的机器人，人类该如何与之相处？又该遵从哪些伦理道德？

    从机器人被造出来的那一刻，机器人和人类的关系就从未停止过讨论。上世纪50年代，著名科幻大师艾萨克·阿西莫夫在为其科幻小说《我，机器人 》所写的《引言》中提到了后来著名的“机器人学三大法则”。第一法则：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手旁观；第二法则：机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外；第三法则：机器人在不违反第一、第二法则的情况下要尽可能保护自己的生存。

    虽然机器人学三大法则并没有实际应用在现实机器人工业领域当中，但却在阿西莫夫小说中大放异彩，并影响了很多科幻小说的作者，还受到了许多AI和机器人领域的技术专家的认同。

    2005年，根据阿西莫夫同名小说改编的电影《我，机器人》上映，该影片讲述了在人与机器人和谐相处的2035年，警察德尔·斯普纳受命调查阿尔弗莱德·蓝宁博士自杀案时，与智能机器人桑尼合作揪出了幕后凶手——NS大楼的主控电脑维基（Wiki）。

    电影里的维基虽然产生了自我意识，但受限于机器人学三大法则，它无法直接伤害人类。于是它便修改了NS-5机器人的程序，从而导致整个世界的NS-5机器人叛变并意图控制人类，由此掀开了一场制造者与被制造者之间的战争序幕。

    机器人由人类创造，人类用AI赋予机器人灵魂。所以，人类在思考该如何与机器人相处的时候，其实也是在思考该如何与AI相处；人类在恐惧机器人有可能取代人类的统治地位的时候，其实也是在恐惧AI有可能会取代人类的统治地位；人类在讨论机器人的伦理道德的时候，其实也是在讨论AI的伦理道德。

    随着AI技术像电影里想象的那样发展，社会也开始广泛关注AI所带来的伦理道德问题。微软公司总裁史密斯曾公开表示，“杀手机器人”出现在未来将无法避免，人类社会应该有一个新的“数字《日内瓦公约》”，也就是一套道德标准来约束与引导AI的发展。

    AI不可能凭空产生，AI伦理道德也不可能凭空出现。所以为避免类似《我，机器人》电影中的情节出现在现实生活当中，人类在发展AI技术的同时，也在不断探讨和完善AI伦理道德，其目的都是使AI在不同的条件下能够做出符合人类伦理的决策。

    AI是人类手中的一把双刃剑，如果能够得到正确的应用，那将会极大地提高生产力改善人类生活环境。如阿斯利康利用AI赋能药品研发，加快药品上新速度；特斯拉利用AI赋能汽车驾驶，帮助用户操控汽车；小i机器人利用AI赋能客服行业，替企业减少用工成本……

    相反，则也有可能颠覆人类生活并带来伦理层面的挑战。如ZAO推出的“AI换脸APP”让用户在体验换脸的刺激时，不自觉侵犯他人肖像权；如有的软件可以自动“脱掉”照片中人物身上的衣服，使部分人成为该技术的受害者；如某些APP悄悄收集用户信息分析用户情况，以此来给用户推送他可能感兴趣的资讯或商品等……

    目前，对于AI伦理道德主要聚焦在算法歧视（指算法开发设计者有可能会将自身价值判断嵌入算法系统）、数据隐私（指滥用个人信息、制造导向等问题）、安全与责任（如何保证数据不被篡改，以及发生事故后如何判责等问题）、机器人与人的关系（机器人是否会对人进行反控制及如何界定机器人与人之间的关系）及科技贫困（AI取代人工是否会造成贫富差距扩大化）等五大领域。

    对此，欧盟委员会在2019年发布了一份人工智能道德准则，提出了实现可信赖AI的七个要素，并要求不得使用公民个人资料做出伤害或歧视他们的行为；同年，时任美国总统特朗普签署了一项名为“维护美国人工智能领导地位”的行政命令，该行政命令以五项原则为指导，维持和加强美国在AI研发和部署方面的科学、技术和经济领导地位；而中国国家新一代人工智能治理专业委员会也在同年发布了《新一代人工智能治理原则——发展负责任的人工智能》，提出了AI治理的框架和行动指南，并强调发展负责任的人工智能。

    除了部分国家有所作为外，不少科技公司和行业协会也有所行动。如微软成立了人工智能伦理道德委员会，负责对每一款AI产品的道德伦理风险进行评估；如亚马逊、微软、谷歌等全球百余家科技公司创建了人工智能合作组织（Partnership on AI），提出了公平、没有伤害、公开透明以及问责等伦理道德框架；比如IEEE在《人工智能设计的伦理准则》中提出了人权、福祉、问责与透明的伦理标准……

    AI由人类创造，由人类推动，并为人类所用。在这个AI高速发展的时代，AI将如小i机器人创始人兼CEO袁辉博士所预期的那样——人工智能将无处不在，就像空气和水一样。

    为了应对扑面而来的AI浪潮，我们只有努力提高自身能力和认知水平，如培养分析理解和利用数据以及与机器沟通的能力等等，才能紧跟时代步伐。

    （作者系加拿大某国际财团风险管理资深顾问，科幻作家）