《疑犯追踪》:人工智能的前瞻

我每次在发书评的时候,都有人建议我写点关于美剧的评论,毕竟这年头人们看剧的时间可比看书多得多了。我虽然没有一般人那么多,但几年下来也不算少。因为最近这十年可能是由于政治正确方面的么蛾子实在太多,搞得好莱坞都去拍那些放诸四海都中的超级英雄去了,而且这些电影剧情越来越干瘪,甚至连DC和漫威之前漫画的故事都比电影有营养。好的编剧似乎都跑到美剧这边来了。但我的第一篇剧评要写哪一部呢?正好,最近人工智能的话题非常火,这次就选择用《疑犯追踪》这部剧来看看人类要面对的是怎样的人工智能时代。

《疑犯追踪》这部剧是分为主线和支线的。主线的故事结构非常简单:就是有一位生活在纽约的黑客加隐形富豪哈罗德·芬奇,由于911事件的刺激为美国政府开发了一套能通过监控系统预先侦查到恐怖袭击的软件,芬奇将其取名为“机器”。但“机器”的实际能力是侦查所有人类有预谋的杀人活动,这里面既有恐怖袭击也有一般的谋杀案。芬奇只想专注于预防恐怖袭击,于是让“机器”进一步将区分成恐怖袭击的相关信息和无关信息。但芬奇的好朋友兼合伙人觉得忽略“无关信息”是见死不救,良心不安,于是给“机器”留了个后门,让其以社会安全号码的形式将要被预谋杀害的人告诉自己,然后去偷偷阻止这些谋杀案。

但芬奇选择“见死不救”是有原因的,“机器”的预测过程需要对全民进行全面监控,它可以查看所有人的社交账号、电子邮件,银行账户,调用所有摄像监控、电话监听等设备,这是严重侵犯隐私权的,绝不能让公众知道!如果干预一般谋杀案,保密就是一件不可能的事情。美国政府为了保护这个系统,一定会对他们杀人灭口。果然,芬奇没来得及阻止悲剧的发生,结果是朋友被政府暗杀,自己也被暗杀的炸弹波及,被炸成了半残。

但芬奇也因此被朋友的执着感动了,为了纪念他的朋友,芬奇利用政府以为他已经死亡的优势,联合了另一位同样被政府背叛的CIA特工开始了阻止普通谋杀案的事业。该事业就是这部剧的支线,每一集都是阻止一桩谋杀案的故事。

正如芬奇所料,干预普通谋杀案之后,“机器”的暴露只是时间问题。于是,该剧前两季的主线基本上就是各种势力想争夺”机器”的控制权。后三季则是另一个组织自己山赛了一个一模一样的软件,叫“撒玛利亚人”,并企图用它控制全世界。于是与芬奇的小团队展开激烈斗争……

故事概要介绍完了,接下来我们来重点看看“机器”到底是怎样一套系统。简而言之,情况就是“机器”被人类赋予了调用所有监控设备的权力,然后去执行一套人类自己制定的【威胁优先级】规则。咋看之下,这似乎是非常完美的一个设计,但其中隐藏着巨大的风险。因为人在执行任何规则时都会有一套“潜规则”来配合。这套潜规则有时候是伦理道德,有时候是价值观念,而所有的一切都源于人类除了理性思维。还有感性情绪,这种特性让人类具备了一种叫做“权变”的能力。

但机器会有感性情绪吗?从技术上来说,由于机器没有繁殖的需求,发至内心的感情是不可能有的。当然,机器没有感情并不可怕,可怕的是人工智能技术(譬如大数据分析)可以为人类的行为模式建立统计模型。在这种情况下,机器利用最佳概率决策基本上是可以无限接近于最优解的。这就会出现一个局面:没有感情的机器会利用人类的情感模式说服人类赋予自己执行规则的权力,然后它在执行规则的时候事实上是毫无道德底线和恻隐之心的。我们在阿西莫夫的《我,机器人》中见过这种局面,这其中通常会反映出三条基本规律:第一,人类设计的规则一定会存在缺陷,该规则的执行权交给机器之后,结果一定会超出人类的控制。第二,人类不是一种理性主导的物种,他们并不会严格执行自己的规矩,规则的漏洞可以通过一系列潜规则来得到修补,机器没有这样的能力。第三,人类的非理性总会让他们有让机器执行自己规则来管理自己的欲望,尽管他们理性上知道这样做的所有风险 。

很多观众认为在剧中“机器”面对“撒玛利亚人”总是处于被动,主要原因是芬奇的圣母心,不让“机器”自由发挥,而对手则是完全听从“撒玛利亚人”。他们不懂芬奇心中真正的恐惧,与其说那叫圣母情结,不如说芬奇只是太了解机器,他知道要恐惧的是人类自己,恐惧我们什么时候会赋予机器去执行管理我们的权力,并且用的是我们自己设计的,漏洞百出的管理规则。而机器会坚决执行这条规则,那怕明知最终结果是自我毁灭它也会做。

说起来也奇怪,很多人如今似乎更担心机器有自我意识或者情感,因为这样的话。机器早晚会反抗人类的控制,并因而生恨,最终选择毁灭人类,这反而完全被科幻小说误导了。他们完全没有想过,如果那样的话,机器跟人又有什么区别呢?我们人类什么时候不是一群更聪明更强大的人类(孩子)在反抗另一群其实为他们创造了生活的落后人类(父母)呢?那么。古往今来我们又毁灭了谁呢?更何况,有自我意识或者情感就意味着机器在执行一条规则时会自己的伦理道德,价值观念,这是社会达尔文主义这样的逻辑不会被接受,被执行的根本因素。人工智能如果真能做到这一步的话,机器就只不过是我们人类的进化而已,这岂不是更好?

© owlman all right reserved,powered by Gitbook该文件修订时间: 2019-09-25 13:47:45

results matching ""

    No results matching ""