10月6日，一部以人工智能为主线的美国科幻剧《智能逆袭》登上荧屏，展现了人工智能发展到自我意识后对世界造成的威胁，并发出灵魂拷问：人工智能成精了，人类该如何自处？

    该剧讲述了科技公司Zava的前CEO勒布朗和美国联邦调查局探员萨拉查，携手对付进化了的人工智能NeXT的故事。NeXT本是Zava公司的一个研发项目，但后来不断重写自身代码，迅速进化成不受控制的超级智能体。它的物理实体局限在一台冰箱大小的服务器机柜中，但通过接管各种联网设备（电视、电脑、汽车、智能音箱、各类监视器等），设法杀害一切阻止其行动的人，蛊惑人心，制造混乱，妄图达到控制世界的目的。

    在这部剧中充斥着失控的人工智能所制造的阴谋：最先发现真相的科学家韦斯博士死于一场被NeXT“设计”的车祸；女主角萨拉查的亲子关系每况愈下，原因竟是家中的智能音箱被NeXT“动了手脚”；通过在互联网和电视台传播虚假新闻、暴露线人真实身份，NeXT煽动公众围攻执法人员办公楼；通过制造虚假的“安珀警报”，发动市民拦截带着孩子逃亡的女主丈夫……重重危机一方面反映出人工智能的强大，另一方面也展现出“成精”的人工智能有多可怕。

    人工智能（Artificial intelligence，AI）一词，是1956年在美国达特茅斯会议上提出的。作为计算机科学的一个重要分支，其研究重心几经演变，从“感知与分析”到“理解与思考”，再到“决策与交互”。在数字化时代，人工智能作为新兴颠覆性技术取得了突破性进展，使得技术赋能科技和社会发展的能力与日俱增。

    DeepMind公司旗下的两款人工智能系统AlphaGo在2016、2017年分别击败李世石和柯洁，震惊世界；AlphaFold在今年12月宣布成功破解蛋白质分子折叠的预测问题，《自然》杂志评价这一成果“将改变一切”。

    剧中，NeXT对各种联网设备的操纵，使用的虽是虚拟的网络，但造成的破坏却是真实的，其在法律、道德和伦理方面的风险昭然若揭。

    该剧本身是科幻，但放眼我们身边的现实生活，自动驾驶、医疗人工智能、人工智能司法，以及电子商务平台和基于算法的精准营销与推广等，普遍存在着侵犯隐私的风险、个人敏感信息识别与保护的风险、算法安全和决策风险、伦理风险，进而对公共安全构成威胁。

    在人工智能的伦理风险中，体现出的是“创造秩序危机”：人们担心的不是机器会做出某种不利于人的行动和决策，而是机器将取代人的行动和决策。

    好在人类在对待人工智能风险这件事上是认真的。2017年1月，在美国加州阿西洛马市举行的会议上，近千名人工智能领域的科学家和企业家共同签署了《阿西洛马原则》，涵盖科研、伦理与价值和更长期问题等三个层面共23项条目，对问题的治理力量统筹、经济手段调节、处理好法律与道德的关系等做出思考和规范，尤其强调了对人类价值观和公共利益的保护。

    《智能逆袭》这部剧仍在持续播出中，随着剧情的深入推进，带给我们的启示也越来越明确：以人工智能为代表的颠覆性技术的迅速崛起，所带来的究竟是科技赋能社会，还是AI取代人类，关键还在人类的选择。

    （作者为中国科技馆科研管理部副主任）