速度与智能——人工智能时代的三重哲学反思-w66利来

速度与智能——人工智能时代的三重哲学反思

卓学园 2019-6-29 1617

速度与智能——人工智能时代的三重哲学反思
吴冠军
(华东师范大学 政治学系暨中国现代思想文化研究所,上海 200026)
[摘要] “人工智能”已经成为定义这个时代的关键词之一。以马斯克、霍金、盖茨为代表的业界领军人物提出了人工智能威胁论,其中尤以马斯克的“第三次世界大战”论引爆了公共媒体。对于如何对待这些当代“乐戴分子”提出的人工智能威胁论,本文从竞速学、药学与政治哲学三重学术视角出发,作出了层层递进的批判性分析,并提出人工智能并非代表一种更智慧的文明从“外部”整体性地挑战人类文明,其根本性的挑战恰恰是从人类文明——人类既有政治—经济—意识形态建制——“内部”刺出。而人工智能时代真正能够改变世界的实践只能是哲学性的实践,亦即每个个体(爱智者/哲人)投入自身智慧对抗系统性愚蠢的贡献性实践。
[关键词] 人工智能;竞速革命;系统性愚蠢;维利里奥;斯蒂格勒;马斯克
一、引言: 人工智能时代的“乐戴分子”
生活在当下时代,我们以目不暇接的方式见证着技术的加速发展。[注]即便物理规律会框定一个终极的界限,然而著名的“摩尔定律”以及雷·库兹韦尔提出的“加速回报定律”一次又一次地让我们见证其不断持续着的有效性。从2016年“阿尔法狗”(alphago)以4比1击败世界顶级围棋棋手李世石并随后一路连败(并且完败)所有顶尖人类棋手开始,“人工智能”(artificial intelligence)迅速从一个技术领域专业论题,变成为引爆媒体与社交媒体的公共话题。在上海召开的“2018世界人工智能大会”集中地展示了人工智能在教育、健康、金融、零售、交通、制造、服务等各个领域的“全面赋能”。时至今天,不管对“人工智能”抱持怎样的态度,恐怕谁都会至少承认:它已然无可争议地成为了定义这个时代的关键词之一。在各种公共讨论中,spacex创始人埃隆·马斯克(elon musk)以人工智能领域专业人士身份提出的“人工智能威胁论”无疑是极具影响力的一种声音。
马斯克把人工智能称之为“人类面对的最大威胁”,并将开发人工智能的努力比作“召唤恶魔”之举。早在2015年,马斯克就联合去年离世的斯蒂芬·霍金(stephen hawking)一起发出公开信,宣称危险的人工智能军备竞赛已经开打。在2017年8月,马斯克则带领一百多位人工智能领域专家发出公开信,呼吁限制人工智能的开发。马斯克甚至以耸人听闻的语调在推特上声称:人类的第三次世界大战将会由人工智能开启。就在今年2月,因理念分歧,马斯克宣布退出了他与其他硅谷巨头共同创立的非营利性人工智能实验室openai,他说“我不同意openai团队想做的一些事,综合各种因素我们最好还是好说好散”[注]马斯克与硅谷知名创业孵化器y combinator的总裁萨姆·奥尔特曼于2015年12月共同成立非营利性ai技术研发组织openai,并宣布将会以“推动ai技术造福人类”为己任,通过向社会无偿分享自己的ai技术,来规避由于科技巨头垄断ai技术而导致的潜在威胁因素。参见《埃隆·马斯克:人工智能将引发三战》,新浪新闻中心,<;《马斯克宣布彻底退出ai研究组织openai》,凤凰网科技,<(于2019年3月7日访问)。。
尽管得到霍金、比尔·盖茨(bill gates)以及许多专家的声援,马斯克的人工智能威胁论仍是遭到了激烈的反对。信息、技术和创新基金会(itif)在2015就把马斯克称作“危言耸听者”,指责他不负责任地激起了对即将到来的人工智能革命的担忧。该基金会每年评选“乐戴奖”(luddite award),专门颁发给那些试图阻碍技术创新的人。“乐戴”一词原指19世英国纺织工人发起的一个秘密社团,他们摧毁棉纺机器,声称新技术将毁灭世界。2015年马斯克与霍金因人工智能威胁论而获得“乐戴奖”(盖茨亦被提名该奖项)。2017年facebook创始人马克·扎克伯格(mark zuckerberg)甚至直接在推特上指名道姓地批评马斯克关于人工智能的言论,认为这些言论是“消极而且不负责任”的。而马斯克则回呛扎克伯格,声称后者对人工智能的理解“太有限”[注]参见《马斯克霍金获“阻碍科技创新”奖》,网易科技,<;《英雄所见不略同:马斯克和扎克伯格就ai问题吵起来了》,新浪科技,<(于2019年3月7日访问)。。
然而真正值得我们追问的问题是:马斯克的人工智能威胁论是否只是故作惊人之语,作为当代“乐戴分子”的马氏,其言论是否值得认真对待。在我看来,即便马斯克因把人工智能比作“恶魔”而引来一片嘘声,即便第三次世界大战之“祸首”听上去像极了哗众之音,但在哲学层面上,该论题仍是值得我们认真对待的。经由竞速学、药学、政治哲学的层层递进分析,我们将会看到:人工智能对人类的当代挑战并非在整体文明的层面上,亦即并非代表一种更智慧的文明从“外部”整体性地挑战人类文明。[注]美剧《西部世界》就描绘了这样一种“外部挑战”的恐怖前景,而在现实中,欧盟委员会“人工智能高级别专家组”于2018年12月18日制定的《可信任的人工智能伦理准则草案》,亦代表了这样一种努力——通过使人工智能变成“可信任的人工智能”(trustworthy ai),防止人工智能在文明层面上挑战人类。参见《欧盟委员会发布〈可信赖的人工智能道德准则草案〉》,腾讯网,<(于2019年3月7日访问)。人工智能最深层次的挑战恰恰是从人类文明——人类既有政治—经济—意识形态建制——“内部”刺出。
二、速度与激情:“生物算法”遭遇“竞速革命”
2018年辞世的法国哲学家保罗·维利里奥(paul virilio)提出“竞速学”(dromology),提议要把速度作为核心研究对象,“速度是肇因性理念,理念之前的那个理念”[注]paul virilio, the aesthetics of disappearance, trans. philip beitchman, new york: semiotext(e), 2009, p. 32.。在维利里奥看来,人类文明的变化根本上便是速度的变化:技术的演进所带来的实质上就是速度的提升(人和物位移速度、信息传递速度等等);政治组织的变化(譬如从奴隶制、封建制到官僚制)归根结底也正是协作速度的变化。维氏声称:“实际上并没有‘工业革命’,有的只是一个‘竞速革命’;并没有民主制,有的只是竞速制;并不存在战略,有的只是竞速学”。[注]paul virilio, speed and politics: an essay on dromology, trans. mark polizzotti, new york: semiotext(e), 2006, p. 69.
人类文明的变迁,就是由一个又一个“竞速革命”所逼使,而所谓的“战略”就是在竞速学层面上去获取优势。反过来,人类文明所遭遇的各种危机,亦根本上是由速度提升所带来的挑战。维利里奥在其师梅洛-庞蒂(maurice merleau-ponty)奠基性著作《知觉现象学》基础上提出如下论点:事情发生的速度会影响人们对现象的知觉,而沟通与运输的速度提升则会深层次地带来知觉场的变异,亦即剧烈地改变头脑环境。质言之,速度影响的是“知觉的后勤”(logistics of perception)。高速飙车容易出车祸,最质朴的原因就是驾驶员的知觉后勤补给跟不上他/她加给自己的“激情”速度。
速度的提升所造成的最根本的知觉场变异,是严格现象学意义上的“时空压缩”:无论是信息与数据的高速流动,还是人与物的高速移动,都导致时间与空间在知觉层面上遭到压缩(甚至地球被压缩成一个“村落”)。[注]“地球村”的提法麦克卢汉在上个世纪六十年代便已提出。see marshall mcluhan, understanding media: the extensions of man, cambridge, mass.: the mit press, 1994,pp. 34, 93.知觉场变异在给人类以及人类文明带来“激情”(从骑马到骑摩托、从磁悬浮到超音速飞机……)的同时,亦带来巨大的挑战。一头麋鹿的“生物算法”能够对以110公里/小时时速奔向它的猎豹作出反应,然而它的“知觉后勤”完全跟不上狙击枪射出的子弹的速度。而较之麋鹿(以及其它邻近物种),人的“生物算法”同样无法跟上这样的速度,否则1999年科幻片《黑客帝国》(片中英雄neo可以从容地躲避子弹)当时就不会如此激起观众视觉(知觉)上的剧烈震撼并一举斩获“奥斯卡最佳视觉效果奖”——该片实质上通过“视觉特效”重新把子弹的速度减慢到我们知觉后勤的舒适区。换言之,当人类文明不断以加速的方式迎来一个又一个“竞速革命”,但人体的“生物算法”却是更新缓慢的,因而应对加速涌来的知觉场变异时就显得越来越捉襟见肘了。
从竞速学角度来看,人工智能所带来的挑战,恰恰亦正是落在速度提升上:人工智能在“深度学习”上的速度、对大数据的处理速度完败人的“生物算法”。这轮“竞速革命”的社会性结果,生活在当下的我们已经开始见证到:从购物、获取资讯到择偶、招聘人才……,人们正在把越来多的决断权交给人工智能算法。面对人工智能带来的速度,人的“知觉的后勤”已经彻底坍塌;在“阿尔法狗”的学习速度面前,人类顶级棋手已彻底跟不上……当代世界各种事件快速发生、“信息炸弹”(information bomb)不断涌来,人不再确信自身能够有效地应对与处理,在“竞速场域”中,越来越多的人已经把曾经建立在自身“知觉”(“生物算法”)上的信心让渡给了人工智能。2019年3月10日,一架隶属埃塞俄比亚航空的波音737 max-8在埃塞俄比亚境内坠毁,机上157名乘客和机组人员全部罹难。基于黑匣子数据的初步调查分析显示此次空难同5个月前印尼狮航空难如出一辙,都源于该型号飞机上新增的“自动防失速系统”(专业名称为“机动特性增强系统”,maneuvering characteristics augmentation system):当它综合各种传感器读数而判断飞机处于失速状态时,该智能系统便接管飞机;飞行员与该系统争夺飞机控制权但最终没能获得成功,导致飞机在高速撞击地面时解体。[注]see luz lazo et al., “investigators find 2nd piece of key evidence in crash of boeing 737 max 8 in ethiopia”, the washington post, march 15, 2019.波音737max 8配备的自动防失速系统的工作原理是:飞机飞行时机头越高,攻角(气流与机翼弦线之间夹角)越大,当攻角超出一定范围时,飞机面临失速风险。该系统一旦判断飞机失速,可以无需飞行员介入即接管飞机控制,并使飞机低头飞行,以纠正失速。如果这个调查是可靠的,那么,这两场空难便可以被理解为人把决断权让渡给人工智能(“自动防失速系统”截断了坐在驾驶舱里的飞行员的“知觉的后勤”)后所导致的惨剧。
人/物、信息/数据移动速度的巨幅提升(并且是加速提升),导致在当下人类文明内部,人工智能算法已然快速地、全方位地在淘汰人体的“生物算法”(“智能”)。在这个意义上,“人工智能革命”实则正是“竞速革命”的最新形态。从竞速学出发,我们可以重新审视马斯克“第三次世界大战”论题:人工智能带来的威胁,并不是它如“恶魔”那样“有意”发动世界战争、毁灭人类文明,而是在当下主权性的民族国家格局下,人工智能所带来的速度变化正在使它实质性地拿到越来越多的决断权。我们完全可以设想如下的场景(不少影视作品已然模拟过):国家领导人面对突然而来的警信,一小时后(甚至更短时间)各主要军事基地将会受到另一国家全面的导弹袭击,而紧急赶到军情室的高官、参谋们全都无法快速判断出究竟真有袭击还是错误警报抑或黑客入侵,最后领导人只能倚赖人工智能的判断来决定是否立即让己方武器升空(以免太晚而全部被对方摧毁)……而现实的情况是,正如迈克斯·泰格马克(max tegmark)所说:“发展正朝着彻底自主选择和袭击目标的全自动武器前进,把所有人拉出决策圈以取得速度,这在军事上是极具吸引力的。”[注]max tegmark, life 3.0: being human in the age of artificial intelligence,new york: alfred a. knopf, 2017 (ebook), p. 145.确实,既然人类的判断早已跟不上今天信息与武器的发展速度,那么彻底让人工智能来直接决断(以省下人作为“虚假决策者”所浪费掉的那些边际时间)更符合“竞速统治”(dromocracy)。维利里奥在四十多年前便宣称人类文明已经进入“竞速统治”,而“竞速统治”的实质便是速度的专政。正是“竞速统治”使马斯克关于人工智能那耸人听闻的命题具有了现实性——如果有第三次世界大战,它很可能是“全自动”发生的。
事情发生速度的加速提升,使得人类对事情作出反应的时间(决断时间)变得加速缩短。这就是维利里奥说的“速度的暴力”:“世界变得越小(作为远程通讯的相对主义效应的一个结果),情境就越发被暴力性地折叠。”[注]paul virilio, the information bomb, trans. chris turner. london: verso, 2000, p. 67.事情越快地发生,它带来的危险也就越大,当人的“智能”(“知觉后勤”)跟不上时,人们就进入了永恒的“紧急状态”(state of emergency)。维利里奥生造“竞速学”这个词(以及“竞速统治”、“竞速革命”),就是提示其读者应该从“竞赛”(race)角度来思考速度。速度就是战争:“速度的原初性,同时就是军事的原初性。”[注]paul virilio and sylverelotringer, pure war, trans. philipbeitchman, b. o’keefe and markpolizzotti, new york: semiotext(e), 2008, p. 51.维氏在上个世纪七十年代就已经指出,战争已经从杀死敌人变成消灭敌人的知觉场,战场就是知觉场。倒计时的画面已经变成战场的场景:地点在消失,战士在消失,空间向度上的“围攻状态”(state of siege)被时间向度上的“紧急状态”所取代。正是这种时间上的永恒的“紧急状态”,使得人类决策者们心甘情愿乃至无可奈何地把决断权一点点地交出去。
生活在当代的我们,实际上在见证着知觉的后勤补给正在加速地被人工智能切断——从日常生活到国际政治,从信息获取、信息处理到最终决策,人类文明正在一条龙式地被人工智能接管。人们(作为有限个体)此前都是在有限信息与条件下做决策。诺贝尔经济学奖与图灵奖双重得主赫伯特·西蒙(herbert simon)把人所具有的理性称作“受约束的理性”(bounded rationality):人的“理性决策”根本性地受限于所掌握的信息、思考的时间以及思考者的智力与知识。[注]决策所导致的结果、手段与目的之间的匹配度以及潜在的替代方案,全都受限于思考者的信息、时间及其能力。seeherbert simon, administrative behavior, 3rd edition, new york: the free press, 1976.故此,从来就不存在自由主义所预设的那种永远能做出最理性决策的“理性—经济人”。在本体论层面上,每一个决策,实际上都是德里达(jacques derrida)意义上的基于“无可决断性”(the undecidable)的决断。[注]关于“无可决断性”的政治哲学分析,请参见吴冠军:《政治哲学的根本问题》,《开放时代》2011年第2期。人工智能虽未在本体论意义上破除有限性,亦即拥有“不受约束的理性”,然而却已然被认为远远胜过人类“知觉现象学”意义上的有限性,并因此开始实质性地接管人类的决断权。正是在这个意义上,人工智能实已深层参与乃至逐渐主导人类世界的变化。我们可以试问:肯尼迪与赫鲁晓夫倘若生于一个世纪之后,他们是否还能以当年的方式化解“古巴危机”?未来的领导人是否能够无视人工智能的判断而声言——我了解对方,他(们)绝对不会让导弹升空?如果一个领导人要不同意人工智能的判断而以自己的判断来做决定,即便他/她本人愿意担负所有的责任,其部下们会不会执行其命令,其国民会有多少人愿意站在其身后?人工智能的算法使得基于知觉场的“(人的)视角”彻底被剥夺。当维利里奥说“现今,不再有胜利,所有人都失败”[注]paul virilio and john armitage, “the kosovo [email protected] did take place”, in john armitage (ed.), virilio live: selected interviews, london: sage, 2001, p. 188.时,他指的还是核导弹的速度,而今天人工智能的速度则使得这句论断获得更无从辩驳的力量:所有“人”都已经失败。
三、人工非智能:从格林斯潘到“特朗普纪”
在这个人工智能声称比你更了解你的时代,人们不再自己耗费精力去了解恋爱对象而交给婚恋app算法来定位“最适合的ta”,国家领导人不再自己耗费精力去深入了解其在国际上的伙伴与对手而依赖人工智能的大数据分析……这才是人工智能对人类文明的真正挑战。2018年有一本畅销书题为《人工非智能》(artificial unintelligence),作者用“人工非智能”这个词来形容计算机,意即媒体和专家们夸大了人工智能的智能程度。[注]作者主要聚焦在人工智能处理人类事务时的短板。see meredith broussard, artificial unintelligence: how computers misunderstand the world, cambridge, mass.: the mit press, 2018.然而,在我看来,这个词更好地形容了生活在“人工智能时代”中的人类。结合法国哲学家贝尔纳·斯蒂格勒(bernard stiegler)近年来频繁所使用的“系统性愚蠢”(systemic stupidity)这个概念,我的论点便是:“人工智能时代”人类文明自身恰恰会进入“人工非智能”——一种人为导致的“系统性愚蠢”。
对于“人工非智能”,我们可以以手机(还用不着智能手机登场)为例来解释:我们大概都有这样的感受吧,曾有一个时期我们拥有记住许多亲友电话号码的能力,然而自从用惯手机之后,再要去记住新认识朋友那由十来个数字组成的号码,却是变成一件难上加难的事。恰恰是手机使我们变得更蠢了(记忆能力下降)。同样地,那很早之前就已经进入我们生活的计算器(还用不着计算机登场)使得我们大幅度丧失“心算”的能力。晚近在市场上出现并且已经有了多次迭代的智能翻译机使我们的跨语际沟通变得容易,然而已经有人在声称不再需要“费力”学习外语[注]典型如作家花千芳2019年3月17日在其个人微博上发表的学习英语无用论:“对于绝大多数中国人来说,英语都是一件废物技能。浪费了我们无数人力财力,牺牲了孩子们的宝贵童年”。了,亦即不再由自己来理解他人说的话,而完全交由智能翻译机来掌控沟通……当越来越多此类“智能技术”在各个面向上深层次地渗入我们日常生活时候的,我们的“变蠢”正在越来越变成系统性的了。
人们以为自己只是在使用技术产品,然而后者恰恰在改变着人。根据布鲁诺·拉图尔(bruno latour)等人提出的著名的“行动者—网络理论”(actor-network theory),物同样是行动者,和其他行动者处于彼此“触动”(affect)与“被触动”的网络结构中。譬如,当一个人身上带着一把枪,他/她就“被携枪所转型(transformed)”,“你变得不同,当枪在你的手中”[注]bruno latour, pandora’s hope: essays on the reality of science studies, cambridge, mass.: harvard university press, 1999, pp. 177, 179, emphasis in original.。可能本来酒吧里一个小口角,瞪两眼说两句狠话也就结束了,但其中一方身上有枪时,枪会让自己参与进来。我们可以进一步给拉图尔的“行动者—网络理论”添加入维利里奥与斯蒂格勒的色彩:当一个人拿了枪,(a)他/她就进入枪的速度而非人的速度(事情发生速度会大幅蹿升),(b)他/她大幅度地变蠢(不拿把枪就不知道怎样和别人交流)。正是在互动触动的意义上,技术能够根本性地改变人。
维利里奥和斯蒂格勒都把技术物视作“义肢”(prosthesis):在维利里奥这里,义肢改变了“知觉后勤”(譬如望远镜改变了我们对距离和维度的体验);在斯蒂格勒这里,义肢则是一种“药”(同时是良药和毒药),当人们不加思考地肆用义肢,那就形同“磕药”。这两年,世界各地都有报道有人直接开车开进海里,仅仅因为gps指示继续保持直行……这样的蠢人,恰恰是装备很多技术义肢的人。所以斯蒂格勒提出“药学”(pharmacology):作为“药”的技术能治疗人,也能毒害人。衣服能帮助我们御寒,但让我们自身逐渐丧失御寒的能力;我们做笔记帮助记忆,但逐渐丧失复杂记忆能力;我们使用gps帮助认路,但逐渐丧失认路能力;我们使用计算机帮助贮存和处理信息,却使我们快速丧失这些关键能力,最终一步步走向“系统性愚蠢”。
其实“系统性愚蠢”早有端倪,斯蒂格勒最喜欢用的例子是美国前联邦财长格林斯潘(alan greenspan)2008年10月23日在国会对全球金融危机所作的解释——他说任何人包括他自己在内都无法理解金融市场正在发生什么,因为没有人跟得上算法的速度。那一刻清晰地标识出:金融精英竟被自己的逻辑剥夺了关于自己逻辑的知识,金融市场已经成为“蠢人们的市场”(a market of fools)。[注]bernardstiegler, for a new critique of political economy, trans. daniel ross, cambridge: polity press, 2010, p. 47; bernardstiegler, taking care of youth and the generations, trans. stephen barker, stanford: stanford university press, 2010, p. 22.斯蒂格勒据此提出“普遍化了的无产阶级化”(generalizedproletarianization)命题,人的所有知识正在被清空:人的工作知识,被自动化机器的物质化了的知识所取代;人的生活知识,被那比所有人更了解所有人的“大数据”所吞蚀;而人的理论知识,则变成一种无产阶级化的伪知识。恰恰是这种伪知识,生产出系统性愚蠢。[注]bernardstiegler, states of shock: stupidity and knowledge in the 21st century, trans. daniel ross, cambridge: polity, 2015, p. 133.斯氏表示他完全不同意格林斯潘关于金融危机的说辞,但却很明白这是一个被无产阶级化的人所说的。知识(工作知识、生活知识、理论知识)被系统性抹除的后果便是,人的“能力”(capabilities)——在诺贝尔经济学奖得主阿玛蒂亚·森(amartya sen)意义上作为自由的保障的能力——被彻底剥除了,从而导致全面的贫困。森指出,贫困不仅仅指收入低下,而必须被视为对能力的剥夺。[注]amartya sen, commodities and capabilities, 2nd ed., oxford: oxford university press, 1999.由能力的全面被剥夺所导致的贫困,便正是斯蒂格勒意义上的无产阶级化——个体陷入真正的一贫如洗。
斯蒂格勒认为:“人类纪”发展出的诸种认知技术,恰恰把认知领域本身无产阶级化了,换言之,把人系统性地变蠢。“认知资本主义”(资本主义系统 认知技术)所导致的最大问题就是理论知识被系统性地清除掉了。[注]stiegler, for a new critique of political economy, pp. 45-46.故此,伴随着认知技术,在市场上所有人似乎变得更“聪明”,但恰恰是“普遍化的愚蠢”。“系统性愚蠢由普遍化了的无产阶级化所产生,在消费主义工业系统中,任何行动者都无法逃离。”[注]stiegler, states of shock, p. 45;stiegler, taking care of youth and the generations, p. 22, emphasis in original.“认知资本主义”诚然是围绕获取智能而展开经济性活动的资本主义形态,然而在斯蒂格勒看来,“有必要知道的是,在这种经济性的战斗(尽管同时也是获得智能的战斗)中,一个人为之战斗的东西,并不等同于智能,并且有时完全是它的反面。经济性战斗原则上只能是达至获得智能这个目标的一个‘手段’。但在这场战斗的过程中,某种反转似乎出现了,以至于那只可能是‘手段’的东西变成了‘目的’,而目的成了手段。更进一步,看上去是一场关于智能的经济性战斗,通过智能,生产出了其反面:愚蠢、注意力的溃散、无响应性、非文明性、‘思考的零度’”[注]stiegler, taking care of youth and the generations, p. 31, emphasis in original.。在资本主义系统中展开的经济性的战斗,吞噬了获得智能的战斗——所有投身这场战斗的参与者们集体地走向智能的反面。而经由数字科技所开启的总体自动化“认知资本主义”在二十一世纪初期业已发展成了“计算性资本主义”(“算法资本主义” “网络化资本主义”)。关于智能的经济性战斗已经抵达“人工智能”阶段,而人本身则普遍地拥抱“人工非智能”。知识(尤其是生活知识与理论知识)无法计算、无法被算法兼容,故此在计算性资本主义中没有它们的位置。在今天,“技术已经抵达数字语法化的阶段,它分析并综合整个世界”,而这导致“系统性愚蠢与疯狂的普遍散播”。通过智能穿戴装备、植入物、云端计算等等“体外器官”,人现在可以放心地让自己变蠢。[注]bernardstiegler, automatic society: the future of work, trans. daniel ross, cambridge: polity, 2016, p. 25; stiegler, states of shock, p. 123;bernardstiegler, the neganthropocene, trans. daniel ross, london: open humanities press, 2018, p. 145.
斯蒂格勒在其2018年新著《负人类纪》中写道:“人工的、自动化了的愚蠢,是反知识的具化,它彻彻底底是计算性的(算法的和网络化的)资本主义。在这种资本主义中,‘后真相’苦痛作为普遍化了的去—知化(它本身是普遍化了的无产阶级化的产物)的末世论而强加于人们,这个进程恰恰当我们进入熵纪(entropocene)而发生,而晚近这被《卫报》称作特朗普纪(trumpocene)。”[注]stiegler, the neganthropocene, p. 143.“后真相”社会恰恰是普遍化了的去—知化的产物,建立在人工的、自动化了的愚蠢之上。而特朗普这个人物,典范性地标识出这个时代的“人工非智能”特性:作为《像冠军一样思考》、《思想牛人》、《登顶之道》等畅销书的作者,特朗普看上去极其“聪明”,能在认知资本主义的市场上纵横自如,在国内和国际政治中似乎亦总能“如愿以偿”,但恰恰是他不折不扣地成为系统性愚蠢的标志性人物。而就是这样的人物,今天领导着世界上最强大的国家。
联合国2018年10月8日发布报告指出,倘若全球继续按照目前的速度暖化下去,而又未能采取迅速和史无前例的相应措施遏制升温现象,到了2030年至2052年全球气温可能上升1.5摄氏度。而在2030年以后,即便各国政府采取更大规模和更雄心勃勃的减排计划来落实在2015年《巴黎协定》中定下的目标(即将全球平均气温升幅限制在前工业水平的摄氏2度以内,同时寻求将升幅收窄至摄氏1.5度),那也是不足够的——要把全球暖化控制在1.5摄氏度以内,全球净二氧化碳排放量必须在2030年之前较2010年的水平减少45%,同时在本世纪中达到“净零”水平。联合国政府间气候变化专门委员会(ipcc)董事会成员阿卜杜拉(amjad abdulla)表示:“联合国这份报告显示,我们只有很渺茫的机会,避免对我们目前所知、维持生命的气候系统造成不可想像的破坏。”[注]《全球气温2030至2052年上升1.5度,联合国吁控制碳排放》,果乐头条,<(于2019年3月7日访问)。而特朗普在成为美国总统后,就动用其行政权力直接作出退出《巴黎协定》的决定。特朗普曾在推特上声称:“全球变暖这个概念是中国人编造出来以使得美国制造业不具竞争力。”,“纽约很冷还在飘雪,我们需要全球变暖!”
特朗普很“聪明”(他多次公开表示自己比奥巴马等前任们“聪明”得多),但恰恰典范式地“具化”了去—知化了的愚蠢,而恐怖的是人类文明真的会因为这样的愚蠢而进入“特朗普纪”。在斯蒂格勒看来,资本主义系统导致了技术创新变成永远在加速的、看不见其带来变化(去-知化)的逐利过程,人类纪也正因此变成“熵纪”。而在今天,“熵纪”更好的名称就是“特朗普纪”。[注]在刘慈欣获得雨果奖的科幻作品《三体》中,正是对世界大国之间因利益冲突无法就环境问题达成法律意义上的协议,导致“三体地球组织”中的降临派领袖人物麦克·伊文斯对人类文明彻底产生绝望:“我们不知道外星文明是什么样子,但知道人类。”参见刘慈欣:《三体》,重庆出版社2008年版,第240页。
四、系统性愚蠢与“纳什均衡”
从“熵纪”(“特朗普纪”)角度来审察马斯克的“第三次世界大战”命题,我们便能清晰地看到,那份可能使这个命题成真的“人工的、自动化了的愚蠢”——诚然,当下正在铺开的人工智能军备竞赛正在使所有国家都集体加速陷入系统性愚蠢。马斯克把人工智能比作“恶魔”也许不甚恰当,但“人工非智能”确实是人工智能深度社会化所带来的一个无可回避的效应:一方面是速度导致的永恒的“紧急状态”,另一方面则是普遍化了的去—知化。那些应对永恒“紧急状态”的未来的领导人,只需要有一张俊俏的脸蛋(这个趋势已经在发生),而不需要他/她有多智慧——人工智能代替人的“智慧”,后者只需要根据人工智能的“gps导航”来行动即可。
马斯克希望用公开呼吁的方式,甚至不惜满口“危言”以达“耸听”的效果,来阻止人工智能军备竞赛:“国家间对人工智能优势的争夺,很可能引发第三次世界大战。”[注]参见前引《埃隆·马斯克:人工智能将引发三战》。马氏这个努力除了使他成功地荣获“乐戴奖”外,显然没能有其他实质性的效果。马斯克本人晚近投入巨资成立了研发“脑机接口”的新公司neuralink,他给出的说法是:“既然我之前对人工智能的警告收效甚微,那么好的,我们自己来塑造人工智能的发展,让它走向好的一面。”[注]参见前引《埃隆·马斯克:人工智能将引发三战》。尽管马斯克已放弃了继续呼吁,但值得我们进一步去分析的是:为什么马斯克(以及其他重量级人物如盖茨、霍金)这些年来公开呼吁的努力会彻底无果?[注]针对马斯克以“脑机接口”方案应对人工智能威胁的专门分析,请参见吴冠军:《神圣人、机器人与“人类学机器”——二十世纪大屠杀与当代人工智能讨论的政治哲学反思》,《上海师范大学学报(哲学社会科学版)》2018年第6期,以及吴冠军:《人工智能与未来社会:三个反思》,《探索与争鸣》2017年第10期。
在我看来,内嵌于当下人类文明的两个结构性元素使马氏这个呼吁注定无效。这意味着,人工智能军备竞赛会导致所有国家集体加速陷入系统性愚蠢,而人类文明的当下政治—经济格局却已然配置好了确保通向系统性愚蠢的环境参数。
第一,我们的世界仍然处于全球资本主义秩序下。晚近这些年来,人工智能(a)在各个产业内巨幅降低成本,从而大幅增加利润空间;(b)对人类生活不断提供各种优质服务,并且服务的潜力无可穷尽。这两者使得它具有广阔的商业化前景。在资本主义系统中,只要有赢利空间,资本就会源源不断地涌入,更何况是高额赢利的空间。[注]缺乏赢利性投资,则是资本主义经济危机的真正核心。当盈余资本找不到赢利性出口,经济便陷入停滞,并随之引起大规模失业、资本贬值……参见吴冠军:《“历史终结”时代的“伊斯兰国”:一个政治哲学分析》,《探索与争鸣》2016年第2期。这一点赫拉利(yuval n. harari)看得就很清楚:“只要让他们获得新发现、赢得巨大利润,大多数的科学家和银行家并不在乎要做的是什么事情。”[注]赫拉利:《未来简史》,林俊宏译,中信出版社2017版,第25页。马斯克对此可谓刚刚收获了惨痛体验:他所创建的openai这个非营利性组织在他离开后,已于2019年3月12日宣布重大重组,正式成立营利性公司。娜奥米·克莱恩(naomi klein)曾经提出“灾难资本主义”(disaster capitalism)一词,意指资本主义把灾难变成“激动人心的市场机会”[注]naomi klein, the shock doctrine: the rise of disaster capitalism, new york: metropolitan, 2007, p. 6.。在我看来,这个词同样精准地勾勒出如下状况:资本主义系统内的行动者们都是“聪明人”(理性经济人),最后却是集体性地导致灾难。
第二,我们的世界仍然处在民族国家格局中。“主权”(sovereignty)更妥当的译法是“至高状态”,在由主权国家组成的政治场域中,即便有觉得马斯克言之有理的领导人,亦无法实质性地采纳其建议,使本国自外于人工智能军备竞赛之外。这种所有行动者都具有至高的自主决定权但实际上却无法自主作出决定的状况,便是一种经典的“纳什均衡”(nash equilibrium)。数学家、诺贝尔经济学奖得主约翰·纳什(john nash)论证了存在着一类策略对局状况,在其中没有任何局中人可以因为单独改变自己的策略而获利。资本主义逻辑(利益最大化)加上主权国家格局(至高决断权),就创建出此种状况。
以下例子构成了一个反思性的参照。1967年美国联邦传播委员会(fcc,federal communications commission)发布规定,烟草公司可以在电视上做广告,但每条烟草广告必须搭配一条公益广告告知公众“吸烟有害健康”。烟草公司此时便陷入到同类“纳什均衡”中:它可以选择不做广告,但这样顾客就会被对手抢走;而大家越做广告,整体顾客却越流失,因为会有越来越多的人知晓吸烟的危害,并被反复提醒。于是,没有公司敢放弃做广告,明知该举措会整体上使所有公司都受害。基于同样的原理,人工智能军备竞赛的前景即便是灾难性的,但赛场内的玩家们谁也无法承受轻易退出所带来的风险——大家表面上都很“睿智”,却导致系统性愚蠢。
是以,因当下世界全球资本主义秩序和主权民族国家格局这两个结构性因素,马斯克的人工智能威胁论即便用词再激烈,最后只能徒劳无功。马斯克的“危言”真正带来的思想激荡,不在于人工智能在可预见的未来是否真的能引发第三次世界大战,而是在于如果他是对的,这个世界当下这套支配性的政治—经济—意识形态建制,却只能逼使所有人一起眼睁睁地看着它一步步发生……。
斯蒂格勒的批判性矛头主要针对资本主义系统(“消费资本主义”、“认知资本主义”、“计算性资本主义”),故此他提议一种“新的政治经济学批判”,然而,当代世界的主权国家格局同样是系统性愚蠢的重要肇因。当年美国烟草公司针对“纳什均衡”想出的破局方法是推动国会通过法案(1970年)禁止所有烟草公司在电视上做广告,结果一年之内烟草业整体利润提高了30%。该策略质言之就是诉诸更高的力量,由它来取消所有行动者的至高状态。
返观当代世界,今天的联合国并不具备高于主权国家的“至高性”。今年已90岁的德国哲学家哈贝马斯(jürgen habermas)在2015年著作中还在努力呼吁,要以超民族国家的政治体来驯服“技术统治”。[注]jürgen habermas, the lure of technocracy, trans. ciaran cronin, cambridge: polity, 2015, p. 57.然而,2016年以来的英国脱欧、特朗普造墙、美俄《中导条约》废除、美国退出《巴黎协定》等等一系列变化,则实是标识了这个世界越来越无力抵抗系统性愚蠢。当这个世界的“聪明人”全都“像冠军一样思考”时,大家便会集体眼睁睁看着自己的愚蠢将整个世界吞没。格雷汉姆·阿利森(graham allison)提出“修昔底德陷阱”(thucydides trap)[注]see for example graham allison, “the thucydides trap: are the u.s. and china headed for war?” the atlantic, sep 24, 2015.后,该论迅即被很多政界与学术界的“聪明人”竞相追捧,甚至被视作主导世界的永恒“铁律”。然而,在当代竞速场域中,坚持“新崛起大国与既有大国必有一战”之论实则是愚蠢到无可救药,要知道(可能那些“聪明人”不知道)“理论”从来就具有构塑“现实”的能力!在当代世界,恰恰因为理论知识已被系统性地剥夺,那么多“聪明人”(实则是被无产阶级化的人)才会把阿利森的论调奉为铁律,并不惜让整个世界为自己的愚蠢买单。很不幸的是,我们正在见证的不是“修昔底德陷阱”,而是——借用斯蒂格勒“蠢人们的市场”之喻——一个“蠢人们的世界”的陷阱。爱因斯坦大半个世纪前曾说:“只有两样东西是无限的:宇宙,和人类的愚蠢。而我对前者还无法确认。”[注]当然,和许多爱因斯坦的名句一样,关于这句话的出处目前存有争议,请参见andrew robinson,“we just can’t stop misquoting einstein”,primemind, mar 14, 2016.在当下这个“人工智能时代”里,这份愚蠢已然无需爱因斯坦级别的头脑来确认了。
五、结语:作为爱智实践/贡献性实践的哲学
前面三节分别从竞速学、药学和政治哲学的分析性视角出发,来考察当下这个“人工智能时代”——所谓人工智能时代恰恰是人正在加速性地丧失自身智能的时代,恰恰是一个人类文明正在全面陷入系统性愚蠢的时代。在人工智能面前,当下整个人类文明(“特朗普纪”),实是“其智可及,其愚不可及也”[注]《论语·公冶长》:“宁武子,邦有道则知,邦无道则愚。其知可及也,其愚不可及也。”。在2019年动画剧集《爱、死亡、机器人》中,当人类文明终结很久之后,有三个机器人探索一个废弃城市,并最后得出如下结论:“他们只是通过成为一帮傻人(a bunch of morons)而作死了自己。”[注]《爱、死亡、机器人》第一季第二集《三个机器人》。“蠢人们的世界”是人工智能时代的真正陷阱。
美国著名解构派学者艾维托·罗内尔(avital ronell)曾在2002年出版了一部专著:《愚蠢》。在罗内尔看来,愚蠢无法被战胜——人类可以发起一场针对毒品的战争,却无法发起一场针对愚蠢的战争。[注]avital ronell, stupidity, urbana: university of illinois press, 2002, p. 3.斯蒂格勒拒绝愚蠢无“药”可救这种看法。在他看来,我们必须立即发起针对愚蠢的斗争,争分夺秒地去努力改变“特朗普纪”——在今天,“唯一值得去生活的事情,就是反抗愚蠢的斗争”。愚蠢就像不正义(injustice),尽管不能彻底将之消除,但却必须与之为战;一旦停止战斗,愚蠢就将统治一切——“系统性愚蠢结构性地阻止长期视野的重新构建”[注]stiegler, taking care of youth and the generations, p. 132;stiegler, for a new critique of political economy, p. 5.。斯氏把同愚蠢进行斗争的实践称作“贡献性实践”:每一个拒绝变蠢的人,都是这个时代的贡献者。而所谓的“别无它路”、“不再有别的替代方案”,这种思维本身就是系统性愚蠢的一个结果。作为哲学家的斯蒂格勒提出:“哲学诞生下来,就是和智术性的愚蠢做斗争。”[注]stiegler, states of shock, pp. 44, 174; stiegler, theneganthropocene, p. 83.今天的特朗普、格林斯潘们如同古希腊时代的智者(sophists),个个看上去都极为“睿智”,然而带给人类文明的却恰恰是“智术性的愚蠢”。在斯氏眼里,他们不但“无—能”,而且“无—意识”。[注]stiegler, automatic society, p. 161.
哲学家(爱智者)能做什么?哲学家无法改变“竞速革命”带来的时空压缩,无法改变技术的加速发展,但哲学家们可以通过介入性—批判性的分析,去改变技术的社会—政治效应(socio-political effects)。用斯蒂格勒的话说,就是去“同一种导致愚蠢之统治的经济与政治情境做斗争”[注]stiegler, states of shock, p. 32.。斯氏强调资本主义系统必须被改变[注]ibid., pp. 62-63.关于对“数字资本”的进一步分析,可参见蓝江:《数字资本、一般数据与数字异化:数字资本的政治经济学批判导引》,《华中科技大学学报(社会科学版)》2018年第4期。,而值得进一步补充的是,民族国家的主权格局同样必须要被改变。这种介入性的爱智慧实践,用马克思的话说,就是哲学家的“第十一论纲”:“哲学家们以往都仅仅是在以不同的方式解释世界;但关键在于,去改变这个世界。”[注]karl marx, “theses on feuerbach”, in eugene kamenka (ed.), the portable marx, new york: penguin, 1983, p.158.而改变资本主义秩序与民族国家格局这两者,恰恰都是马克思当年提出的改变世界的方向。
在人工智能时代,改变世界的出路绝不会是拒绝加速发展的技术、让一切回归到前人工智能的“生物算法”上——在这个意义上,“乐戴分子”实际上从来无法改变世界。真正能够改变世界的实践必然是哲学性的,亦即需要实践者投入自身的智能。首先,(a)追问和思考如下问题:我们能用加速发展的技术产生出怎样的新的知识来?进而,(b)在新知识的基础上,不断激进地——加速地——更新既有的政治—经济—意识形态建制。这种哲学性实践(爱智者的实践)才是唯一的能同系统性愚蠢展开真正有效斗争——有效摆脱人工智能时代的“第三次世界大战”、摆脱“特朗普纪”、摆脱“修昔底德陷阱”(……)——的贡献性实践。[注]关于人工智能时代贡献性实践的进一步讨论,请参见吴冠军:《后人类状况与中国教育实践:教育终结抑或终身教育?——人工智能时代的教育哲学思考》,《华东师范大学学报(教育科学版)》2019年第1期。而这篇文章,则旨在成为这种哲学性—贡献性实践中的一个微小但具体的努力。
收稿日期:2019-04-11
作者简介:吴冠军,华东师范大学政治学系暨中国现代思想文化研究所教授、博士生导师。
基金项目:本文系国家社科基金重大项目“后现代主义哲学发展路径与新进展研究”(项目编号:18zda017)、中央高校基本科研业务费项目华东师范大学人文社会科学青年跨学科创新团队项目(项目编号:2018ecnu-qkt012)的部分研究成果。
[中图分类号]b089.1
[文献标识码]a
[文章编号]1003-4145[2019]06-0013-08


最新回复 (0)
发新帖