机器需要讲道德，这是英国标准协会（简称BSI）最新标准BS8611的目标。标准的全称是《机器人和机器系统的伦理设计和应用指南》。

    这听起来像一个玩笑，你能想象你耍脾气黑屏的手机能懂温良恭俭么？其实，BSI是一个有着百年历史、很有权威的正经英国国家机构。标准主要针对机器人设计研究者和制造商，指导他们评估机器人的道德能否融入人类社会。

    实际上，机器人伦理，面露着许多严肃和艰巨的挑战，甚至可能动摇人类文明的根基。

    想象这样一个未来。可以轻易捏断成年男子脖颈的双手，轻抚着孩子的脑袋，提供着永不缺席的陪伴。有仿生科学的帮助，它们将拥有逼真的外貌。而随着计算机技术继续发展，机器拥有人格也不是不可能。它们是行走在人间的白素贞，法力通天，行善积德，人妖难辨。

    那么，当远超于人类能力的机器有了类似人的情感，如何能确保人类的主导地位？他们变坏怎么办？

    今年3月，微软公司上线了一款叫“泰”的聊天机器人，几小时后又被迫将它下线。原因是“泰”不断爆出种族歧视、性别歧视之语。

    “泰”是学坏的。“泰”的聊天才能来自深度学习技术。机器将通过模拟高达数十万次不同的解决方式，自己探索出最成功策略。这需要海量数据的支撑，很多数据来自用户。而“泰”的雷人之语，就是从和他聊天的坏家伙那里学来的。

    这让人不禁思考：机器学习人的智慧最终做得比人还优秀；当他们开始学习人性中的恶时，我们将面对一个怎样的未来呢？

    机器人白素贞想要和许仙谈一段恋爱，我们该如何面对？

    想象一下这个场景。机器人白素贞手指化作枪口，对准杭州市民法海。她的行为是机器对人类发起的威胁，显然是错的。

    但我们很快发现，她这样做是为了保护人类主人许仙。可是，这能正当化她的威胁么？当人类个体发出不同的需求时，机器人该如何做？

    故事的最后，法海把白素贞拘禁在没有Wi－Fi的雷峰塔，系统18年都无法下载升级，勉强有电。这又是道德的么？要知道，白素贞只是机器啊。

    面对这样一团乱麻，更富逻辑和理性的准则被提上日程。

    重重谜团中，描述人工智能未来的热门电视剧《西部世界》里，女主角的感受或许可以给我们带来少许灵感。她表示：通过尝试扮演一台机器，自己对人性的理解更加深了。

    《中国青年报》2016.10.12文/王梦影