自柯洁负于AlphaGo之后,中国人乃至全世界的人类都陷入了一种矛盾的心理。一方面,我们为科技的重大突破欢呼;另一方面,我们又为人工智能超越人类、控制人类的可能性担忧。实际上,人工智能的设想被提出后就一直受到质疑和忧惧,科幻作家创作智能计算机主宰世界的小说,科幻导演拍摄的相关电影以警示人们人工智能潜在的威胁,国外甚至发生过某科学怪才邮寄炸药恐吓研究学者的事件。
相比之下,库克对“人类像计算机一样思考”这一可能更为强烈的担忧就显得与众不同了。在库克成为苹果公司总裁前,苹果就已经将简易的人工智能软件加入了手机,这个名叫Siri的“小可爱”已经成为不少年轻人聊天、找乐子的好对象。经过一代代改良,Siri也能更好的通过使用者的语调和关键词给与答复。Siri之所以讨年轻人喜爱,也许是因为它不同于“凡人”的“清奇脑回路”,而这就是库克不担心人工智能完全拟人的原因,也是人类与计算机最大的差别所在:人工智能没有“心”,而人类有。
“心”可以理解为价值观、同情心,这种意识的产物是人类将自己区别与其他物种、自诩为高等动物的资本。人们通过判断他人的价值观是否与自己想同来选择是否与之交往,通过相似的人生际遇产生同情感继而施以援手。柴静说,爱情是一个灵魂对另一个灵魂的态度,我想,这适用于人类的所有感情。纵然人工智能发展到能够精准辨析一句话中含有的所有情感的地步,计算机也无法与人“感同身受”,因为它们无法产生自己的感情与价值观。
我并不像库克那样认为人类会“失去价值观和同情心”,它们作为人类特有之物,一直存在于人类身上,只会变得符合主流或是相反。《三体》中逃往宇宙深处的人类为了获取更多燃料以抵达下一颗宜居行星延续文明,选择进攻另一艘飞船中的同类。他们的价值观置于以“生存”至上的宇宙中无可厚非,但在崇尚仁爱的地球人眼中无疑是错误至极、反人类的。地球人斥责他们罔顾人伦,但这并非是他们“失去”价值观与同情心而导致的,而是他们的这两点发生了改变,变得不被认同。极端主义者和恐怖分子亦是如此,甚至他们中的一些正是因为同情某类人、想要拯救他们而选择了大逆不道的实施方法。
我们会将这些价值观扭曲的人称为冷血的无心者,是因为普通人的情感已经不能被他们理解,更不可能感化他们,使他们忏悔改过。如此看来,这些无心之人连能通过关键词体会人类情感的人工智能都不如。
我们担忧着被金属身躯的无心之非人主宰,然而若是继续忽视心理建设和引导,我们更可能先被有血有肉却无心的非人伤害了。