Untitled

Skip to content 随轩随轩古雴的哲学茶馆首页 WEB3 专栏研究随笔教学读书记录 SEARCH 为什么害怕人工智能？——关于AlphaGo的杂谈 Home Web3 人工智能为什么害怕人工智能？——关于AlphaGo的杂谈人工智能, 技术, 时评为什么害怕人工智能？——关于AlphaGo的杂谈 2016年3月13日下棋, 人工智能, 意识, 自我, 计算机, 谷歌 AlphaGo与李世乭的围棋大战正在进行，人工智能以3:0获胜，还剩两把荣誉之战，但结局基本没什么悬念了。

无论最终的比分如何，这场比赛的历史意义是毋庸置疑的了。

这场比赛的的意义主要是象征性的，事实上，既然AlphaGo在去年已经打败了围棋欧洲冠军，证明了其棋力达到了职业围棋选手的水准，那么它全面战胜人类也就只是一个时间问题了。当然，或许我们也可以说，从当年的深蓝称霸国际象棋开始，人工智能攻占围棋也就只是“时间问题”了。

但在当时，即便是对人工智能技术持乐观态度的人，都没有料到这个“时间”竟如此短暂。很多人以为这一天起码要等几十年、上百年，甚至也有一些人相信这一天永远不会到来。而AlphaGo的第一大意义就在于，展示了人工智能技术发展的惊人“速度”。

人工智能向来也是科技哲学家的热门话题，德雷福斯批判人工智能的名著《计算机不能做什么》更是现象学技术哲学的经典名著。事实上这本书中涉及了许多深刻的思想，问题在于哲学家们往往过于托大，试图对技术的发展提出一些定论和预言，这就容易被打脸。德雷福斯的脸就基本被打肿了，虽然如果他能够把书名改成《计算机为什么难以做这些》，就会好得多。

我个人对于人工智能技术的发展前景持有相对乐观的态度，但我也无意于提出任何预言，人工智能是否能够实现以及何时以何种方式实现，这是技术专家们的问题，而哲学家的问题的恰当提法是：人工智能意味着什么？

讨论人工智能的意义，并不必须设定人工智能注定能实现。这就好比我们可以讨论上帝和天国的意义，讨论乌托邦和共产主义的意义，而并不必定要相信它们。

“人工智能为什么让人害怕”是一个不错的问题，当然有许多人根本不害怕，其中一部分是因为坚信强人工智能不可能实现，另一部分人则相信人工智能的发展只会造福人类，没有什么可怕的。

这两种态度都有些天真。首先，人工智能技术不断发展的趋势几乎已经成为必然，也许像“天网”那样最终反客为主、统治人类的局面不会成为现实，但在更多的情况下，人工智能的“实现”是一个进行时，而不是一个完成时，人工智能已然正在不断实现之中了。其次，即便你相信人工智能的结果一定是会造福人类的，也不代表它不可怕，我们可以说火器的发展是好事，但不代表你不应该害怕火枪，你可以说原子能总体上是造福人类的，但不代表你不必害怕原子弹和核泄漏。乐观是一回事，无知是另一回事。无知者才能无畏，新技术也许是能够造福人类，但前提是人类能够理解和承受其危险，对其可怕之处避而不谈，甚至把一切流露出警惕态度的人斥为愚昧，这才是更大的愚昧。

技术的发展和科学史有类似的结构（这是我希望进一步阐发的观点），并不是一味地拥抱革新就是好事，因循守旧并非总是坏事。不能因为人工智能技术的发展是大势所趋，就放弃了警醒和反思。

技术史同时也是观念史，每一项技术变革都牵涉到或大或小的观念变革，人工智能当然也不例外。顾名思义，人工智能牵涉到的核心概念是“人工”与“智能”这两个概念，而这两个概念恰恰关乎人的自我理解。

我们一般会认为，人类之所以在万物中独领风骚，无外乎“心灵手巧”，即大脑和双手。脑与手在许多情况下是统一的，人类凭借智慧的大脑去理解万物，然后用灵巧的双手去控制和改造万物。特别是在科学与技术互相推动的现代，科技的膨胀同时也让人的自信心和优越感大大膨胀了，人们仿佛觉得自己可以改天换地、无所不能。

但智慧与力量在人工智能这里出现了“矛盾”——智慧的人类能否用自己的双手创造出超越自己的智慧？这个问题几乎是一种亵渎，就好比在问：全能的上帝能否创造出凌驾于自己的存在？

“制造出凌驾于自己的存在”，这恰恰是人类技术史最初和最终的追求。技术是人的“延伸”，任何技术都是对人的某种能力的外化、固化和强化。

锤子是拳头的延伸，用锤子砸东西当然比用拳头砸更有力，这并没有什么奇怪的，或者说这正是所谓“技术”的应有之义。当然，技术的发达反过来会让我们的身体机能退化或贬低，例如兵器越发展，肉搏的能力就越退化，靠蛮力肉搏要么被贬低为野蛮落后，要么变成艺术或游戏，而不再实用。

技术的这种外化和固化的特征呈现出某种矛盾——一方面技术的发展无疑是增强和扩展了人类的能力，但另一方面，由于这种增强往往由外在于人体的技术器物所承载，那么一旦剥夺了人类对这些“外物”的依赖，那么也可以说技术的发展是削弱和贬抑了人类的能力。

那么技术之于人类，究竟是增强还是削弱，是膨胀还是贬抑呢？柏拉图在讨论“书写损害记忆”的时候，这个难题就已经被摆在了哲学家面前，直到今天，这个问题反而日益尖锐了。

文字、兵器之类，这些古老的技术就已然有了一定的独立性，也就是说，它们除了被人支配之外，还有某种“不以人的意志为转移”的惯性。所以秦始皇会去焚书坑儒，会去收缴天下兵器铸造铜人。因为这些书籍和兵器只要流传于世，就具有某种力量。虽然这些力量最终总要通过具体的操作者的意志才能发挥出来，然而这些操作者的意志在某种意义上也正是由这些技术物所促成的。

当然，这些古代技术的“独立性”并不显著，因为它们毕竟还需要人去操控，否则就是一堆死物。当然技术物的力量未必需要在活动时才能发挥，比如城墙、建筑、墓碑等等，它们只是放在那里不动就在导引乃至支配着人类的行为和观念，躺在地窖里的原子弹更是左右着全球的秩序。但是毕竟在一般人眼里，这些器物相对于人类而言始终是“被动”的。

什么时候开始计数器物获得了一定的“主动性”呢？最具标志性的就是机械技术的发展。从较早的水车、风车等等，到中世纪晚期的机械钟，一直到蒸汽机、纺织机和工厂流水线。这些机械的新特点是，除了上发条、添加原料或能源等环节之外，机械在正常运作的过程中是相对独立的，它们脱离于人，按照自己的节奏自行运转。

在纺织机和流水线中，人类的参与仍是一个必要的环节，但在这些机械活动中，人类所扮演的不是操作者，而是动力源（马克思所谓工业革命的关键）。在工厂流水线之类的大型机械联动运转的流程下，人类所扮演的并不是充满智慧的创造者，反而比机器更机器，像牲畜一样出卖劳力，像机械一样单调重复（马克思所谓人之异化），也正是从这个时候开始，对技术的恐惧和抵触态度也日益显著了起来。

启蒙思想家提出了“人是机器”的主张，这一主张合理不合理姑且不论，但这一主张的提出首先暗示了这一实情——“机器像人”。人们未必是因为对于人体结构的细致分析而得到人是机器的信念，相反，人们更多地是基于对机器的经验，从机器中发现了人的形象，这才得到了人是机器的结论。机械不再是一堆死物，技术逐渐“活”了起来。

从动物到人类的智能经历了漫长的演化，然而技术物从自动机械到人工智能的发展似乎非常迅速，这是因为技术的演化不只是通过盲目的“自然选择”，更是从一开始就不断灌注着人类的智慧。

每一项技术物在外化或延伸了某一项人体技能的同时，也固化或者说凝聚了某一套人类的智慧。比如一把简单的锤子，它的构造不仅能够放大人的力量，也蕴含了如何把握、控制，如何发力等等的一系列智慧，以及牵涉到关于钉子和修缮活动等方面的智慧，还包括关于铁和木头等材质之特性的智慧……人们把方方面面的智慧“打包封装”在每一个技术器物之内。

当技术运作起来的时候，既是力量的展现，同时也是智慧的展现。但技术展现的是谁的力量，又是谁的智慧呢？

人们似乎更容易接受：“力量”是归功于技术本身的。比如一个瘦弱的女孩可以用散弹枪打死一个强壮的摔跤手，我们会感叹散弹枪的威力强大，而不会说这个女孩本人力量很大。然而当我们谈到“智慧”时，却总是拒绝把它归功于技术器物。

一个随时可以查阅印刷书的人可以表现得比一个孤立无援的老学究更加博学，我们会认为他借助了别人的智慧。我们仍然拒绝认为印刷书本身是有智慧的，而只是说其他人可以通过印刷书传递智慧。

一件器物中汇聚和凝结的往往不只是一个人的智慧，比如对于一架钢琴，工匠懂得如何制造，但不需要懂得如何演奏，演奏家却未必懂得调音，调音师也未必懂得欣赏乐曲。由工厂流水线生产出来的各种复杂的现代技术物更是如此，一辆汽车的成功运转依赖于几乎整个现代工业体系的各个环节协同贡献。

因此，在技术物中凝聚和展现的，并不是某一个或几个具体的人的智慧，而只能勉强说，技术是“人类的”智慧的结晶。

然而，个体的属性和全体的属性往往不能混为一谈，我们未必总是能用相同的范畴去涵盖它们。例如我们可以用砖瓦组成房屋，但谈论砖瓦的形状和谈论房屋的形状是两码事；人体由细胞组成，但谈论人体的寿命和谈论个别细胞的寿命是两码事。那么谈论所谓“人类的智慧”，和谈论具体个人的智慧还是一回事吗？

制造技术物的智慧、选取和运用技术物的智慧，与通过技术物的运转展示出的智慧，似乎也是不同层面的范畴。

如果说，一个老学究展示其博闻强记的能力时，展现的是“他的”智慧；而我借助工具书或搜索引擎展示同样的博学时，展现的是否是“我的”智慧呢？注意到善于检索本身也是一种实践智慧，假如把我所仰赖的技术工具同时也分给老眼昏花的老学究用，他也未必能展示出更多的智慧。所以说，当我借助谷歌展示博学时，也的确展示了“我的”智慧，然而这种智慧似乎与老学究所展示的智慧属于不同的层面。那么，如果说这些博学的信息根本就不再需要一个善于检索的人运用自己的技巧来呈现，谷歌本身就能够像一个老学究一样听取他人的求教，帮人答疑解惑，那么，在这一过程中所展现的智慧究竟是谁的智慧呢？

我们硬要说这是“人类的”智慧，但老学究博学的知识难道不也都来自其他人的积累吗？只是他通过常年的学习，把无数人智慧汇聚在自己的头脑中，出版商则把无数人的智慧汇聚到印刷书中，而谷歌则把无数人的智慧汇聚到数据库里。我们非要说，只有这些“人类的智慧”通过老学究的脑与嘴表达出来的时候，它们可以被归为老学究的智慧，而当同样的东西通过谷歌的数据库和显示屏表达出来的时候，却为何不能说它们是谷歌的智慧？

无数人积累了各种知识；老学究学习并记住了许多知识；我认识老学究并善于和他交流；当我的小伙伴向我出了一个难题时，我向老学究求助从而得到了明智的解答。——这一系列事情中，每一个环节都涉及不同层面的“智慧”，但另一方面，每一个环节的主角都有可能被机器取代，那么凭什么不能把相应层面的智慧归功于机器呢？

技术是人类能力的延伸和凝结，这里所说的既包括体能，也包括智能，如果我们能够把力量归功于技术，那么也应该把智力归功于技术。

“人工智能”在某种意义上就是一句废话，所谓“技术”，无非就是“人工智能”，也就是说，“凝聚为人工物的智能”，这种“凝聚”已然改变了“智慧”的归属。比如说当无数人的智慧汇聚在老学究的头脑中时，表现出的就是属于老学究的智慧，当老学究帮助我们解决疑难时，我们首先感激和夸赞的显然是老学究的智慧，而不是去谈老学究的父母和老师们，更不是在谈所谓“人类的智慧”。在技术器物中凝聚的智慧，表现出来时，理应也归功于技术器物，至少头功该属于它。

在希腊人那里，智慧、勇敢、公正和节制并列，被理解为人的“德性”之一，但“德性”一词本来就不是人类的专利，古代汉语中“道”、“性”、“善”等都包括一般事物，希腊人的“德性”最初也是谈论的某种事物的特性、品质、功能之类，比如奔跑是马的德性。

奔跑是马的特长之一，但猎豹、羚羊、长跑运动员等等，许多其它事物也同样可以擅长奔跑。智慧是人的德性之一，但一定专属于人吗？

马在速度上胜过了人，而火车又胜过了马，人们都没有感到屈辱，但为什么机器在智慧上胜过人就让人失去“尊严”了呢？

这似乎是某种报应循环。当人类技术发明的力量超越动物和自然的时候，人们信心膨胀，自以为征服自然、凌驾万物。正是因为把傲慢自大当作所谓“尊严”，这才会在人类的霸权地位可能动摇时感到尊严受损。

当然，很多人也许会指责我概念混淆，因为“智能”和一般的力量、速度等能力不同，似乎牵涉到“心灵”或者说“自我意识”的存在，因此对于一个没有自我意识的事物，是不能拥有智能的。但这其实是另一个问题，事实上我们能够确定有“自我意识”的，只有“我”一个人，至于他人也有心灵，这本来就是靠同情的推断，我们是先看到他人表现出与我相似的“智能”行为，才认为他人拥有与我相似的心灵。而不是说我们先需要识别他人是否有心灵，然后才能谈论他人是否表现出智能。对于他人心灵的问题，只有这种偏向行为主义的理解是合理的，“心灵”本身是看不到的，我们只是把“心灵”认作一系列行为的最终负责者而设定出来。

电脑的形式和质料与人脑有极大差异，但这些差异本身并不能先验地否定电脑可以被认作有心灵的。比如一个植物人的脑结构也许与我们差不多，但鉴于他再也无法表现出任何有意识的行为，我们可以说他已经没有自我意识了。而假定有外星人造访，在我们能够敲开他们脑壳研究清楚其结构之前，我们恐怕就早该以他们拥有智能和意识为前提与他们打交道了。

外星人我们恐怕是碰不到的，然而人工智能却已经近在眼前。“图灵测试”早已不是高不可攀的圣杯，而是在许多意义上早已实现了。现在的电脑已经能够在许多具体的场景下模仿人类，让人无法分辨。例如在5分钟内扮作一个13岁的男孩，又比如扮演在线客服，扮演棋手等等。在哲学家中，塞尔的“中文屋”思想实验是少数值得认真对待的质疑，但它和我们在这里谈论的问题没有太多关系——人工智能究竟有没有“心灵”与他们是否可怕没有关系。

“中文屋”暗示出来的一个关键问题是：当我们可以把“意识”的过程外在化地把握时，当这种过程失去了内在性，也就是失去了神秘性时，我们便倾向于认为这种意识是虚拟的。比如当这个人之所以表现出“懂中文”，依靠的是外在的可见的可把握的行为——查词典——的时候，我们会以为他是假懂，但如果他之所以“懂中文”是依靠着大脑内部的一些特定区域，而这些区域的运作机制仍然晦暗不明，也没办法外在化，在个人之外滞留和复制，那么我们就以为他是真懂。事实上，讽刺的是，恰恰是当我们搞“不懂”他如何“懂”时，我们才相信他是真“懂”。

而人工智能或计算机的意识过程从一开始就是外在化的，是可见的、可把握的，于是我们能搞懂它为何显得懂，于是我们认为它是假懂。

暂且不深究上述逻辑是否合理，可怕的是，关于人工智能的“为何能懂XX”的机制，人们也开始搞不太懂了。这是基于“神经网络”的新一代人工智能模式的特点，机器开始变得能够自主学习，而不是照搬人类预先制定的框架。

比如谷歌的人工智能已经能从几千万张图片中“学会”了对“猫”的辨识。这不同于以往的人脸识别之类，以往是人类程序员编制好如何识别的完整程序，制定好何谓人脸的标准，让电脑去“按图索骥”。最后机器自己形成了猫的“概念”，用程序员预先并不知道的方式去辨认猫。（既然机器能够自发地形成猫的概念，那么它能否自发地形成“自我”的概念呢？我认为这有可能，但非常困难，有机会我再专门讨论“自我”概念的特殊性。但“天网”即便没有自我意识也照样可以支配人类，就好比工厂流水线已然可以支配工人那样。）

这也是这次的AlphaGo与以往的深蓝之类的人工智能相比的关键改进，现在不再需要人类去预先编制好应当如何下棋的程序，而是让计算机自己在无数棋谱和无数实战中自行总结出怎样下棋的策略。理论上说，设计AlphaGo的程序员根本不需要擅长下围棋，甚至可以连围棋的基本规则都不知道，就像让电脑在无数图片中学会辨认出猫那样，让电脑自己去发现围棋的奥妙。这次的AlphaGo还没有完全从零开始学习（据说之后会这么做），但计算机已然表现出许多超出人们理解的方面，可怕之处不在于AlphaGo赢了，更在于人们开始不知道它究竟凭什么赢的。它的许多走法都超出了所有人类高手的判断。

如果说深蓝战胜卡斯帕罗夫时，我们说电脑的优势无非是计算速度，那么现在，AlphaGo却是在那些传统上人们引以为傲的方面击溃了人类对手。比如所谓的直觉、大局观、创造性等等。一开始李世乭还试图用打破刻板定式的新奇走法扰乱电脑的阵脚，然而结果发现电脑才是更善于打破定式的一方。

人的智能包括许多能力，比如推理、想象、判断、表达等等，但其中最核心和最重要的一点，恐怕就是“学习”，如果说工业革命的关键突破在于“工具机”的兴起（马克思指出工具机取代了人直接作用于劳动对象），在“操作”的环节让机器取代了人，那么现在的这一场信息技术革命或者说人工智能的关键突破恐怕就在于“深度学习”的兴起，也就是在“学习”这一环节，机器开始也取代人。从此我们再不能把机器看作“机械的”，或者说只会刻板地重复人类预先设定的套路，相反，机器将在打破成规方面走在人类前面。

从此以后图灵测试将变得越来越无关紧要，因为图灵测试无非还是说如何让机器模仿人类，但事实上机器大可以比人类更加高明，根本不需要通过模仿人类来形成智能，而是可以绕过人类，不需要以人类为榜样，直接从事物那里学习，用自己的方式发展智能。也许到什么时候，让机器参与图灵测试来模仿人类，就好比让人类去模仿一条狗那样无趣。

在围棋方面或许已然如此了，在前几年，我们可以难以分辨某个棋手是一个业余人类选手，还是一个人工智能。但在今年之后，我们又可以分辨了，机器的高明而非笨拙反而成了机器和人类的差距。

先写到这里吧，谈得有点乱，以后再慢慢整理吧。人工智能是我写作技术通史一定要涉及的东西，因为它是整部技术史的“终点”，也体现出人与技术之间最深刻的统一性和悖谬性，更能够贴合我自己的“外化”、“学会”等关键思路。

打赏赞分享相关文章：数字马斯克和数字马斯克会成为朋友吗？发表于《中国经营报》2022-07-24 最近，马斯克说了一句“已经做过了”引发了关注和热议。这句话所回复的问题是：“如果你可以将你的大脑上传到云端并与自己的虚拟版本交谈，你们会成为朋友吗？” 马斯克多半是在开玩笑，不过前一阵谷歌确实有一个程序员和AI交谈后，认定AI已经觉醒了自我意识，试图为他的“AI朋友”争取权利。就目前而言，意识上传或AI觉醒应该都尚未发生，但我们的确可以先做一做思想实验： …… 失业还是解放？人工智能的双重革命本文发表于《中国经营报》（2023-02-07）本文中最后对社会批判部分写得非常省略，但正好可以和前一篇文章“Play to Action——论数字时代人的解放”连着看。 1948年，诺伯特·维纳出版了《控制论》，这是信息科学的奠基性文献之一。在《控制论》的序言中，维纳说道：“第一次工业革命人手由于和机器竞争而贬值……，那么现在的工业革命便在于人脑的贬值，至少人脑所起的较简单的较具有常规性质的判 …… “人工智能”的现象学漫谈这篇文章是为了今年的现象学科技哲学会议准备的，酝酿了几个月，最后也没写成完整的论文，把随笔形式的文字交了差，这次参会人数太多，吴老师不准备每个参会者都讲论文，有些论文收录会议文集但不安排报告，我就更乐意凑合一下了。论文写不出来，主要原因自然是花的时间不够，文献读偏了，啃了写关于“意向性”的资料，最后发现“意向性”水太深，驾驭不了。对于这一主题我绝非懈怠，相反，这个主题非常重要，以至于我不愿意轻 …… 安吉会议选评不写游记了 “现象学科技哲学会议”转眼已经是第12届了，今年由浙江大学承办，在安吉百草原举行。去年在西安的会议我翘了没去，今年我也没有交论文，不过还是来了，承担了两场点评，也算有一些发言。以往每届会议我大多会发表一篇非常“毒舌”的长篇综述，把所有人的报告挨个批评一通。这个传统大概是从2010年的海拉尔会议开始的。事实上，第一次写综述是应吴老师的要求，我当时说我不会写综述呀，吴老师说，就按你平时 …… 人工智能的小无相功会走火入魔吗——《AI3.0书评》应邀为《中国科学报》写了年度两本推荐书，我本来是要推《技术陷阱》的，不过说这本书出得晚，不算2021年度了，于是我又挑了这两本：《AI3.0》，[美]梅拉妮·米歇尔著，王飞跃、李玉珂、王晓、张慧译，四川科学技术出版社 2021年2月出版《破天机：基因编辑的惊人力量》，[美]珍妮佛·杜德娜、塞缪尔·斯滕伯格著，傅贺译，湖南科学技术出版社2020年12月出版以下转载在《中国科学报》 (2022- …… Author: 胡翌霖胡翌霖，清华大学科学史系副教授。本站文章在未注明转载的情况下均为我的原创文章。原则上允许任何媒体引用和转载，但必须注明作者并标注出处（原文链接），详情参考版权说明。本站为非营利性个人网站。 View all posts by 胡翌霖 → 过时的智慧（《科学通史十五讲》自序）互联网＋房地产＝免费？ 3 Comments Pingback: 随轩 » 技术的自我实现

Pingback: 为什么害怕人工智能？ | 互传网

Pingback: 为什么害怕人工智能？ - 杂烩网

发表回复您的电子邮箱地址不会被公开。必填项已用*标注

Comment

Name*

Email*

Website

Save my name, email, and site URL in my browser for next time I post a comment.

订阅填写Email地址订阅本站更新 * 填写Email地址订阅本站更新 *

xu发表在2023年“媒介史与媒介哲学”考卷评讲 2023年7月11日能认识胡老师真好，书单收了。谢谢胡老师

胡翌霖发表在长生：超人类主义与Web3的内在关联 2023年6月23日看到有人评论说我用哲学讨论经济学，不够实…

胡翌霖发表在长生：超人类主义与Web3的内在关联 2023年6月21日应该是一个欢迎页面，不知为何没有显示，但…

zhanghaitao发表在长生：超人类主义与Web3的内在关联 2023年6月20日收到了验证邮件，但点播“Click he…

胡翌霖发表在比特币：留给穷学生的时间不多了？ 2023年6月20日哈哈…后来全忘了这事了。。现在也没心思写…