专栏

       在科学和技术创新领域经常有两个基本问题：“我们能不能做”和“我们应不应该做”。前者是客观的，关系到科学发展和技术水平；而后者是主观的，和人性、伦理道德紧密相关。前两周我很敬仰的两位思想家，山姆·哈里斯（Sam Harris）和凯文·凯利（Kevin Kelly）就人工智能（AI）领域“我们应不应该做”这个话题展开了讨论。我觉得他们的讨论非常精彩，故此将讨论的主要内容介绍给各位。

       山姆·哈里斯是一位哲学家和神经科学家，拥有斯坦福大学的哲学学士学位和加州大学洛杉矶分校的神经认知学博士学位，在人性和科学技术的关系上有深刻见解。他是我最欣赏的知识分子之一，冷静、思想有严密的逻辑性和强大的思辨能力。而中国企业家对凯文·凯利已经非常熟悉。他对新兴科技领域十分了解，不仅是科技方面最流行的杂志之一——《连线》的创世主编，在科技和社会方面也有多本著作。鉴于在国内针对人工智能的人性和道德层面的讨论相对较少，我决定把山姆和凯文的讨论内容分享给读者，希望可以引发读者的思考。

人工智能的目标

       人工智能一个很大的风险是他们和人类目标不同。一方面，坏人可以使用人工智能做坏事，造成无法预料的后果。另一方面，哪怕是有最好动机的好人，也可能使用科技造成最坏的结果。虽然人类创造人工智能并赋予它目的，人工智能没有情感也不会憎恨人类。但他们如果太过胜任工作，他们的强大能力可能会带来灾难。曾有漫画描述人类创造出一种人工智能机器人，想要最大化生产曲别针。机器人十分强大又非常智慧，决定全宇宙所有原子都应该变成曲别针，甚至包括人体内的原子，因此导致人类的毁灭。

       产生这样的结果原因在于这些机器和人不同，不具有常识，只理解我们输入给他们的常识。这也引发我们对智能的定义。我们的定义往往有偏差，以为智能包括我们熟知的常识，但智能其实更多的只是完成任务的能力和效率。因此哪怕非常有能力的人工智能，如果不具备和人相同的常识，也会做出让我们觉得荒唐的事情，甚至造成危险。

“智能”的定义和对人工智能的启示

       人们对智能的理解有偏差。例如大家对智商（IQ）的理解可能都有误区，认为只是区分笨蛋和聪明人的单一维度。这是十分错误的，因为人类的智慧是各种维度的组合，包括思考、认知、推理、象征、演绎、归纳、长短期记忆、情绪感知等等。这种复杂度在体现在每个人身上各不相同，每个物种也不一样。有的动物可能比人类在某些方面聪明，如大猩猩对屏幕上出现的数字的短期记忆十分惊人。智慧是十分复杂的。

       人工智能中的“智能”可以参考人和其他生物的智慧对比。一种观点是，进化是从共同的祖先向外辐射，每个物种都是同等进化，在自然界都有着自己独特的位置，所以不能说人类比其他物种更先进或者更复杂。人工智能的开发也是这样，不会有一种智能涵盖所有维度，人工智能的开发总会被资源和时间所限制，需要牺牲某些功能。因此并不可能造出一个机器人，在各个方面都比我们强。

       另一种观点是认为人身处进化阶梯的顶端，比身处我们之下的生物高级。虽然智慧有很多维度，而且有些我们现在可能还并不了解，但我们擅长的维度肯定比其他物种多。比如鸡也有自己擅长的领域，但他们擅长的领域不能带给他们全球化文明、科学、数学。而人工智能会征服一个又一个领域，如象棋，人工智能将永远在象棋领域统治人类，哪怕人类的象棋技术也会一点点提高。而在其他领域如情绪感知，人工智能也将逐渐统治人类。这是一个逐渐的过程，途中花费的资源不会成为阻碍。未来即使最强的人脑也将无法和一个超智能人工智能相提并论。

人工智能的伦理讨论

       人工智能在不断进步，已经有人开始使疼痛编程进入人工智能，防止其受伤，也帮助他们理解人类。在未来，人工智能和人类的界限可能越发模糊，而两者的关系也会成为疑问。我们可以拔掉人工智能的电线，那我们会是他们的奴隶主吗？人工智能会产生自由的概念吗？在最近的美剧西部世界（West World）中描述了这样一个世界，里面有大量和真人无异的机器人，人类可以对他们做任何事情而不会受到惩罚。在这个世界中疯子可以虐待、屠杀机器人，这给他们带来乐趣。一位失去妻子的丈夫为家庭带来了美丽的女性机器人，在夜晚和她发生性关系，却被其他家庭成员认为是恐怖的强奸。如果看到人类踢一只机器狗，我们是否知道狗被编入了疼痛的程序？如果他们感受到疼痛，我们是不是也会感同身受？

       意识是有趣也是可怕的。想象一个通过图灵测试的机器人，外表和人无异，可以通过云端的数据分析你的各个方面并和你对话。她知道你的所有喜好，你看的书，你说的话，以及你的所有想法。她可能比你妻子更能接收你的情绪变动。在我们的情感和社交角度来看，她是有意识的，然而她并不是真人。

       人工智能的发展会引起人类对自己伦理道德的思考。伦理道德并不是一成不变的，对不同人而言也不一样。我们也许会在向人工智能传输伦理道德时，加深我们的认识，这些都将帮助我们重新定义我们是什么。人工智能可以是一面镜子，让我们重新检视自身。

人工智能会带来就业问题吗？

       一种普遍的看法是，人工智能很快就会引发失业问题。无人驾驶会让一千万美国人失业，也会有别的工作被机器永久取代。历史上来看，从农业到工业时代，从汽车取代马车，都会看到大量失业。在未来，危险的工作都将会交给机器。

       然而，哪怕会有大量工作从人转移到机器，这个速度可能不像人们想的那么快，比如一夜间所有司机失业。无人驾驶的到来会比人们想的慢，因为大规模运作需要时间。的确未来跟生产力、效率相关的工作都可以被机器人取代，大多数工作都会被人工智能改变；但这个过程需要时间，我们的发明创造在一开始可能效果并不好，需要时间改进。总有一天我们会为机器人开发新的工作，而那时我们的工作就是开发新的工作。同时也会有新的岗位，比如无人驾驶汽车修理员。

       也有一些工作是机器人无法取代人类的，像是创造力。哪怕我们通过编程赋予人工智能创造力，比如让他们讲笑话，但他们不具备人类的常识，他们的笑话对我们而言可能并不好笑。让人工智能讲真正好笑的笑话会需要很久。如果有一天世界上最幽默的人是个机器人，可能人类也就完蛋了。

       人工智能的出现将会为人类历史开启新的篇章。现有的经济学、社会学等理论可能在瞬间失去价值，关于自我，人性，意识的概念也会受到挑战。对我们而言，我们需要看到更多的山姆和凯文这样的讨论，这是我们作为造物者、新型科学和技术的引领者，为了保障人类的生存、安全和和谐所肩负的责任。