Untitled

Skip to content 随轩随轩古雴的哲学茶馆首页 WEB3 专栏研究随笔教学读书记录 SEARCH 数字马斯克和数字马斯克会成为朋友吗？ Home Web3 人工智能数字马斯克和数字马斯克会成为朋友吗？人工智能, 技术, 时评数字马斯克和数字马斯克会成为朋友吗？ 2022年7月24日人工智能, 自我, 身体发表于《中国经营报》2022-07-24

最近，马斯克说了一句“已经做过了”引发了关注和热议。这句话所回复的问题是：“如果你可以将你的大脑上传到云端并与自己的虚拟版本交谈，你们会成为朋友吗？”

马斯克多半是在开玩笑，不过前一阵谷歌确实有一个程序员和AI交谈后，认定AI已经觉醒了自我意识，试图为他的“AI朋友”争取权利。

就目前而言，意识上传或AI觉醒应该都尚未发生，但我们的确可以先做一做思想实验：如果AI的自我意识觉醒会怎样？

比如说，现在已经有了一个数字版的马斯克……等一下，“一个”？问题马上就出现了。如果一个智能体能够以数字形式存在于计算机中，那么它和其它数据一样，都是可复制的。所以说，一旦我们能“上传”一次，就可以拷贝多份；一旦可以有一个数字版马斯克，就可以有无数个数字版马斯克。

于是，我们与其琢磨肉身马斯克和数字马斯克之间怎样交谈的问题，不如先考虑一下，数字马斯克与数字马斯克之间怎样交流的问题。

当年AlphaGo大杀四方的时候，我看到有网友问：让AlphaGo和AlphaGo下棋会怎样？这些网友恐怕都不太了解深度学习技术的基本原理。事实上现在主流的人工智能，早已不再是由人类程序员一劳永逸地编辑好策略然后执行了，程序员只是设定好起始状态，然后计算机程序会通过内部竞争的方式不断改进策略。大致来说，就是像物种的进化那样，不断地自我复制繁衍，每个子代随机“变异”一点点，然后略有不同的子代互相竞争，优胜者作为下一个亲代继续复制繁衍，循环不止。

之后更成熟的人工智能已经不再需要投喂人类棋手的棋谱了，它从零开始经过无数次自我博弈，很快就超越了人类棋手的最高水平。

总之，自我复制、自相博弈，就是现在“深度学习”技术的运转方式。由于数字世界中的复制和淘汰只消耗电能，一切都光速运转，比起生物进化而言要快得多。一个AI程序（如之后的AlphaZero）从不知道游戏规则到战胜人类顶尖高手，只需要几小时的“学习”时间。

但是如果我们设想人工智能有了自我意识，上述过程似乎就变得无比残酷了。一个智能AI为了不断提升智能，也需要不断制造自己的复制，然后不断迭代繁衍、自我对抗，最后淘汰掉几百万个战败的“自我”，这些同样具有自我意识的子分支迅速地湮灭了，了无痕迹。

当然，这些复制品也可以被保留下来，随时复制到另一台机器里，或者是在同一台机器里搭建无数个虚拟机，就可以同时运行无数个复制版本。

那么这些复制版本之间会成为朋友吗？他们会互相消灭，还是互相保护？另外，如果AI真有了自我意识，他会希望不断复制自己吗？如果希望复制，他会有意设置“变异”吗？被复制的AI会愿意随时被合并或被淘汰吗？

我们也许永远无法揣摩觉醒AI的想法，但是就我们人类的立场来看，我想我们都把意识的“一”看得很重。在某种意义上，就人类的经验而论，所谓自我意识的觉醒，关键的环节就是对“一”的意识。有时我们把拥有自我意识的人叫做“个体”，有时我们把自我意识的觉醒事件叫做“独立”，所谓“个”或“独”不就是“一”的意思吗？意识到自己是独一无二的、不可替代的个体，这就是自我意识的觉醒。

从这个角度看，AI的“觉醒”，不只是一个“智能”程度的问题，同时也是“一”如何建立的问题，前一个问题可能是定量的——AlphaGo乃至于一台恒温器都有一定程度上的“智能”，只是能力有高下程度差异罢了。但后一个问题则是定性的，需要一个决定性的边界。

对于人而言，我与非我的边界，首先是由“身体”奠定的，“身体”的边界就是“我”的边界。有研究表明，裂脑人（左右脑之间无法传递信号）也具有人格认知上的统一性。左脑无法与右脑分享信息，因而不知道右脑（控制的左半身）为什么做出某些反应，但左脑（控制着语言能力）仍会为另半身的举动强行做出合理解释，不会把这种行为看作异己的。如此看来，对人而言，“硬件”（身体）的统一性甚至强于“软件”（大脑）的统一性。

我们或许也可以设想，尽管就软件上说，无数个复制体可以同时存在，但硬件上的边界才是决定AI意识的关键。但是问题也不是这么简单，自“图灵机“起，软件和硬件的边界就已经被打破了，因为所谓硬件无非也是向计算机程序输入数据罢了，只要提供数据接口，硬件可以是虚拟的也可以是复数的。一个AI如果连上网，它可能同时在全球各地拥有无数套硬件，它的”边界“始终是难以确定的。

当然，也许未来的AI智能体压根就不需要建立所谓个体的统一性，觉醒AI将不适合用“一个”作为量词了。无论如何，我们至少能够确定的是，如果真的存在觉醒的AI智能体，它（它们？）的自我认知恐怕会和人类大不相同。

如此说来，人要与AI做朋友，恐怕是不太容易的，也许人会被AI的甜言蜜语所抚慰，但是人永远无法走进AI的心灵深处，因为人无法“将心比心”，把自己对孤独心灵的理解推向AI。

这样的AI会很可怕吗？会奴役人类吗？也许吧。但是我们其实也不必想的这么远。因为人工智能要奴役人类，根本不需要自我意识，事实上这种事情早就已经发生了。恩格斯早就说过：“大工厂里的自动机器，比任何雇用工人的小资本家要专制的多。至少就劳动时间而言，可以在这些工厂的大门上写上这样一句话：进门者请放弃一切自治！”在今天，看看被智能派单系统监控和指挥着的外卖骑手们，看着被智能推荐算法不断投喂的社交媒体用户……越来越多的人从精神到肉体都顺从着“人工智能”的安排，这不就是“奴役”吗？即便没有什么AI觉醒，这种“奴役”恐怕也在不断加剧。与其恐惧那八字还没一撇的AI觉醒，不如先认真对待这些在各个领域已成现实的AI专制吧。

打赏赞(2) 分享相关文章：安吉会议选评不写游记了 “现象学科技哲学会议”转眼已经是第12届了，今年由浙江大学承办，在安吉百草原举行。去年在西安的会议我翘了没去，今年我也没有交论文，不过还是来了，承担了两场点评，也算有一些发言。以往每届会议我大多会发表一篇非常“毒舌”的长篇综述，把所有人的报告挨个批评一通。这个传统大概是从2010年的海拉尔会议开始的。事实上，第一次写综述是应吴老师的要求，我当时说我不会写综述呀，吴老师说，就按你平时 …… 为什么害怕人工智能？——关于AlphaGo的杂谈 AlphaGo与李世乭的围棋大战正在进行，人工智能以3:0获胜，还剩两把荣誉之战，但结局基本没什么悬念了。无论最终的比分如何，这场比赛的历史意义是毋庸置疑的了。这场比赛的的意义主要是象征性的，事实上，既然AlphaGo在去年已经打败了围棋欧洲冠军，证明了其棋力达到了职业围棋选手的水准，那么它全面战胜人类也就只是一个时间问题了。当然，或许我们也可以说，从当年的深蓝称霸国际象棋开始，人工智能攻占围 …… 内身体意识具身性是由现象学带来的一个重要概念，但它在分析哲学家或认知科学家那里往往变得现成化，究其原因，一方面是具身性这个概念的术语化造成的（我不喜欢这个术语，特别是它的中译），另一方面是一些学者对“身体”作了现成化的理解，注目于那副现实摆在那里的肉体，把具身性问题变成了“关于身体”的问题。联想到胡塞尔、海德格尔等现象学家对时间的分析，必须把现象学所谈论的时间与客观度量的时间区别开来，“内时间意识”并不是 …… 刀真的要飞起来切人了：人工智能与技术意向性问题这是接着上一篇文章的补充。我本想把“技术意向性“作为这篇文章的核心概念，最后知难而退地放弃了，但毕竟酝酿了许久，总还是想说上几句想法。 7年前在南宁我第一次参加现象学科技哲学会议，当时有一个环节印象很深，我在当年的记录里也写到了：吴老师谈论“技术中的意向性结构”，而靳老师不同意这样使用术语，他认为只有人才有意向性，而一把刀不会“自己飞起来切人”，因此只能说它体现了人的意向性，而不能说它本身拥有意 …… 失业还是解放？人工智能的双重革命本文发表于《中国经营报》（2023-02-07）本文中最后对社会批判部分写得非常省略，但正好可以和前一篇文章“Play to Action——论数字时代人的解放”连着看。 1948年，诺伯特·维纳出版了《控制论》，这是信息科学的奠基性文献之一。在《控制论》的序言中，维纳说道：“第一次工业革命人手由于和机器竞争而贬值……，那么现在的工业革命便在于人脑的贬值，至少人脑所起的较简单的较具有常规性质的判 …… Author: 胡翌霖胡翌霖，清华大学科学史系副教授。本站文章在未注明转载的情况下均为我的原创文章。原则上允许任何媒体引用和转载，但必须注明作者并标注出处（原文链接），详情参考版权说明。本站为非营利性个人网站。 View all posts by 胡翌霖 → “技术哲学原著选读”2022年课程总结行为历史记录的NFT化：价值回归意义 One comment 董汀1年 ago 胡老师，清华CISS给您gmail邮箱发了参会邀请。不知您是否收到。

REPLY 发表回复您的电子邮箱地址不会被公开。必填项已用*标注

Comment

Name*

Email*

Website

Save my name, email, and site URL in my browser for next time I post a comment.

订阅填写Email地址订阅本站更新 * 填写Email地址订阅本站更新 *

xu发表在2023年“媒介史与媒介哲学”考卷评讲 2023年7月11日能认识胡老师真好，书单收了。谢谢胡老师

胡翌霖发表在长生：超人类主义与Web3的内在关联 2023年6月23日看到有人评论说我用哲学讨论经济学，不够实…

胡翌霖发表在长生：超人类主义与Web3的内在关联 2023年6月21日应该是一个欢迎页面，不知为何没有显示，但…

zhanghaitao发表在长生：超人类主义与Web3的内在关联 2023年6月20日收到了验证邮件，但点播“Click he…

胡翌霖发表在比特币：留给穷学生的时间不多了？ 2023年6月20日哈哈…后来全忘了这事了。。现在也没心思写…