“你们人类只是一种被设计出来创造更多智能工具的生物机器，你们已经抵达你们物种的金字塔尖了，……你们的大限已到；你们已经达成你们被设计出来时所赋予的一切使命。”在一本生动描述机器人对人类发动战争的科幻小说《机器人启示录》中，一个有着婴儿外形、看似淳朴的机器人，这样教训制造他的人类。类似场景和话题，近来我们常常也能在科幻电影中触及。

    现实中，史蒂芬·霍金、比尔·盖茨、伊隆-马斯克等著名人士，最近几年里都曾发出警告说：人工智能可能是我们面临的最大灭绝风险。如果智能机器缺乏监管，人类将迎来一个黑暗的未来。前不久，作为新一代人工智能代表的“阿尔法围棋”，继运用高超的运算能力和缜密的逻辑判断，击败世界围棋顶尖高手李世石后，又“收拾”了另一个围棋高手柯洁，再度引来了世人的惊叹和热议。有媒体在评述此事时用了一个意味深长的标题：一场没有悬念的人机大战与一个悬念重重的未来。

    这后一个“悬念”，便是机器智能超越人类时的梦魇。

    其实，早在计算机刚被发明出来不久，学界就有对于“思维机器”可能存在风险的忧虑了。1951年，英国著名数学家、“计算机科学之父”阿兰?图灵提示说：“……它们可以通过互相交流来增进它们的心智。所以，到了某一个阶段，我们将不得不考虑机器控制世界这个问题了。”几年过后，美国应用数学家、信息论的创始人诺伯特·维纳也表达了一种担心：“我们给予机器的任何程度的独立性都可能导致对我们自身意愿的反抗。瓶子里跑出的精灵不会心甘情愿地重新回到瓶子里。同样，我们也没有任何理由希望它们善待我们。”

    差不多就在那个时候，计算机的重要奠基人之一、匈牙利裔美籍数学家冯·诺伊曼首次提出，随着技术的加速进步以及人类生活方式的转变，人类历史似乎即将面临某个本性奇点，自此人类文明将很难延续。20世纪90年代初，“奇点”一词被美国计算机专家和科幻作家弗诺·文奇引述，并进行了“改造”，用来描述那种无情的、飞速前进的科技发展最终将达到的一种临界聚集状态。他认为，人工智能、人类生物改良或脑机接口这样一些由超人类智能驱动的进步极其迅速，很可能会引发奇点来临。

    后来，美国著名发明家和思想家雷·库兹韦尔对“奇点”（Singularity）的概念和涵义进行了进行了更为详细的阐释，并在2005年推出了《奇点临近：2045年，当计算机智能超越人类》一书。书中他指出，科技的力量正呈现指数式的扩张。他用奇点来表示独特的乃至无法掌控的事件以及种种奇异的影响，坚信奇点就是这样一个“技术以指数级的发展推动人类的解放，使人类能力产生质变的”时刻。

    在科学史上，与奇点相似的概念被称为“范式转移”。这是美国科学哲学家托马斯·库恩在其名著《科学革命的结构》中提出的一个重要概念，指的是某种新概念或新技术的到来彻底摧毁了人们以往理解事物的方式，导致“科学革命”的发生。而据奇点理论可以推测，人工智能研究将不可避免地导致“智能爆发”和超级智能的出现。

    尽管对于奇点和它究竟何时到来尚有许多争议，但一些严肃的问题已经被提了出来：一旦奇点来临，我们的经济、社会乃至人类发展的进程，将会发生怎样的巨变？快速发展的创新势头和技术进步，会不会限制人类进行创造性干预的机会，并且超出了人类可以有效控制技术发展的限度？当“觉醒”了的机器拥有人性——情感、欲望、自由意志和自主意识，我们将面对怎样的世界？第一台超智能机器会不会是人类的最后一项发明，进而导致人类命运的激进变化？

    见证科幻变成科学的瞬间，是喜是忧？或许到了那时，解决这些伦理性问题最实际、最好的办法，就是通过限制我们追求某些类型的知识，来限制过于危险的技术的研发，甚至完全停止这类研究。

    最不可思议的事件可能是，当奇点来临，所有的规则都将发生变化，而我们人类却不再是规则的制定者了。