【杂谈】基于德勒兹的中国大学生心理状态分析：焦虑、FOMO与迷茫
写作越来越有AI味了，我觉得是好事。当我写下这个标题的时候，我就知道我写大了。这个标题绝对不是我能驾驭的了的，不过，姑且写写看，权当茶余饭后之小小谈资了。需要提前说明的是，这篇文章并不是一篇心理学意义上的实证分析。我也不打算用德勒兹去解释所有中国大学生的心理问题，更不认为焦虑、迷茫、FOMO 可以完全被德勒兹的框架解释。家庭条件、学校层次、城乡差异、性别、专业、经济状况乃至个人性格，都会造成巨大的区别。如果您觉得文章太长不愿意看，那这里便是一个粗糙的结论：对于当下的中国大学生来说，童年和学校不断把人结域到一条清晰的人生轨道上，但是在进入大学之后，这条轨道突然开始解域。与此同时，国家机器、资本机器和平台又不断试图用新的指标把人重新结域。于是个体长期处在“旧地图不断失效，新地图又不断变化”的状态里。我做的是一个极其危险的工作，用「中国大学生」这样一个简单的标签，划归了全部的个体。我觉得我的目标是提供一个极其简单、粗糙但是通俗的形而上学模型。术语的粗糙解释捕获：原本在社会中流动的东西，被某种结构截住、编码、计量，并纳入一个可以持续利用和控制的体系。捕获让某种流动变得可识别、可计量。机器：一套持续运作的连接方式：人、制度、规则、考试、学校、家庭、企业、平台、数字等连接起来以后，就会形成某种稳定的运行逻辑。逃逸线：逃逸线使一个既有结构开始失效、松动，并向新的关系和可能性打开的方向。童年：升学机器儿童的欲望是非常流动的，比如，一个孩子可能今天喜欢在草地里观察昆虫，明天就吵着闹着要看星星，后天又开始看恐龙相关的话本，这就是欲望最原始的、生产性的作用。欲望不断把人和新的事物、身体、概念、活动连接起来，由此生产新的关系和体验。对于孩子来说，意义不是很重要的东西，他们沉浸在一种「连接（接触新事物） - 生产（有自己的感受） - 中断（不那么感兴趣了） - 再连接（接触新事物）」的一个循环中。儿童时期的连接往往很分散：昆虫、恐龙、游戏、朋友、故事、绘画、运动都可能暂时成为欲望投资的对象。这些欲望后来被「社会」从外部压制，被重新组织到一套以升学为中心的关系中。在高度升学导向的环境中，中国式教育通常会对中国孩子做一次粗暴的、大规模的结域，也就是把本该流动的东西固化下来。中国学校通常不会让学生自由的发展，而是规定很多固定的科目，把儿童变成「学生」这一身份，其任务就是「学习」。结域不是坏事，一个固定的身份会让人产生身份认同、自我同一性，问题不在结域上，而在于其他连接方式不断被压缩、原有的一些行为被这台机器捕获，变成能够比较的数字。运动这个行为，被升学机器捕获，变成了「体育课的分数」，服务于升学；知识被升学机器捕获，变成了「考试的分数」。中国式教育最吊诡的部分就在这里，它能将很多看似无害的东西捕获为自身的一部分。而这样的捕获，则不断倒逼家长们，在孩子入学前就开始报各种补习班，可以看出来——孩子们自打一出生起，就是升学机器的一部分了。在德勒兹那里，人类认识世界是依靠习惯的，在《差异与重复》中有一个很有趣的例子，一个序列「ABABABABABA」，你会很自然地预判下一个字母是B，这便是习惯的作用。在升学机器中待久了，抑或压根没有走出过升学机器，孩子们就会把行为，自然而然的看作可比较的东西。到这里，就不再有「我想做什么」了，只有「我应当做什么」了。一旦知识、运动、表现被转换成数字，原本异质的东西就获得了一种可比较性。而当这种可比较性与有限名额、排名和升学制度连接起来以后，数字便进一步成为排序工具，就变成了「提高一分，打倒千人」。升学机器最厉害的地方不是禁止你做某件事，而是重新定义为什么做这件事。这便是齐泽克的「后现代的父亲」的例子了。升学机器的确很残忍，让孩子失去了自由，甚至，失去了自由思考的能力，但是它的好处在于——确定了一个轨道，你只要沿着轨道走，基本上不会很迷茫。到这里，读者或许能意识到，结域不一定是坏事，解域也不一定是好事。大学：突发解域大学时期，孩子们突然就获得了一种自由，当然，这种自由在我看来仍然是很微妙的，它的自由如同资本主义机器那样，时刻解域，但又没办法完全彻底解域。1举个例子，一个大学生可以在考研、考公、留学、实习、退学创业、直博之间任意地选择，这些选择要比中学阶段自由得多，因为你不必沿着一个固定的轨道上升了，但是，这些自由也不是完全的自由，它们都是立足于学校的一部分，可以选择不同的路线，但这些路线都代表着轨道。在大学，过去那个稳定的问题「下一次考试考什么内容？」，变成了不那么稳定的问题「我要走哪条路？」，前一个问题是执行的问题，不需要选择，是被动的，而后一个问题是选择的问题，是主动的。而这对于中学阶段的孩子们是极其痛苦的，不再有特别明确具体的统计数字，只要求你选择。这便是解域带来的痛苦，过去的升学机器的影子不在了，但是，我面临的问题却更复杂了。那句话还是要重新说一遍——到这里，读者或许能意识到，结域不一定是坏事，解域也不一定是好事。除此之外，这两个机器的底层的欲望逻辑都没变——「我必须不停证明自己处于排序中的正确位置」。所谓自由的选择，不过也是升学机器的延伸，依旧是为了竞争。每一个活动都已经不再只是活动本身，而变成了「未来竞争力」的投资。选择只是极其短暂的解域，这就是中国教育的一种特别之处——「不允许Gap，不允许休息」，也就是欲望刚刚解域，新的机器就立刻追上来完成再结域。原理：国家机器德勒兹意义上的「国家机器」并不简单等于某个政府，更不是说某个政策背后存在一个阴谋家，他的意思更强调一种组织社会、分类人口、建立标准、划定身份、稳定流动的机制。对于国家机器而言，复杂而连续的人生必须被切分成可识别、可管理的制度位置，「应届生」、「男性」、「公务员」、「程序员」、……。机器必须要把现实转换成某种它能够处理的形式。时间不再只是经历的流逝，而开始表现为一系列制度化的窗口、门槛和节点，「这个时候算应届」、「这个时候要晋升」……这些制度化节点经过长期重复以后，会形成一种强烈的人生时间预期。某个年龄「应该」毕业，某个阶段「应该」工作，某个节点「应该」完成下一次跃迁。制度性的时间表逐渐变成个体衡量自身生活的时间表。社会结构中的时间纪律，逐渐变成了个体内部的焦虑，也就是「I should be better」（我应当变得更好）。2原理：资本机器国家机器通常会建立一些稳定的分类，但是资本机器却不一样，它既不断解域，又不断再结域。资本、人、信息、技术、商品、职业都在不停地流动，所以现代社会会不停告诉你「可以转行」、「可以创业」、「可以学习AI抓风口」。资本机器真正令人不安的地方，不只是它喜欢计算，而是它不断拆掉旧的固定关系，同时又不断创造新的连接可能。职业可以更换，技能可以重学，城市可以迁移，身份可以经营，个人甚至可以不断把自己理解为一个需要投资、升级和重新配置的项目。人永远有新的东西可以选，于是出现了一种没有终点的运动——「I can be better」（我能够变得更好）。原理：平台机器如果说资本机器提供了无限竞争的基础，那么平台机器，在我看来，就是把这个竞争显化了。过去一个大学生能比较的人其实很有限——同班同学、室友、高中朋友、亲戚家的孩子。但是，现在只要打开一个APP，就能看到很多很多特别牛逼的人。平台把几百万人的牛逼性，压缩到了一个人的时间线上——「I am not good enough」（我不够好）。另一个方面时，平台机器展示了无比多的可能性，它只需要展示可能性，展示信息，甚至没有故意让你焦虑，你也会焦虑。平台机器和大学在某种程度上讲，是差不多的，给了你很多选择，这也就是另一种可能性的角度——「I could have been that」（我本该可以那样）。现象：难逃此劫FOMO，Fear of Missing Out 通常被翻译成「错失恐惧」，没错。但我觉得，所恐惧的，不仅仅是「Missing Out」的东西，而是「我会不会错过了一个更好的自己」，也就是「我选择了 A，是不是就永远失去了成为 B 的可能？」国家机器促使我应当变成更好的人，资本机器提供了可能性，平台机器则让我们有过多的选择。这样的「无尽可能性」和「有限人生」的组合，让人产生了一种焦虑感。「迷茫」，也就是「原先替我提供目标的机器正在失效，但我还没有建立能够生产目标的新连接」。在大学期间，社会把几十套新的意义系统摆在面前，让你选择。「焦虑」，这其实和FOMO，在我看来，是同样的逻辑，人一直在经历「旧秩序松动 - 出现大量可能性 - 寻找新秩序 - 新秩序再次不稳定 - 再寻找新的秩序」这样的一个循环。没有一个终点在尽头。所以，学新东西没办法解决FOMO，迷茫也是无法避免的东西，焦虑也是没有尽头的。进入下一个稳定辖域，还有再下一个，焦虑永远不会结束。解决：此路不通我认为，大学生的焦虑当然不是一句「不要和别人比较」、「做自己就好了」、「不要想那么多」能够解决的。这些话不仅仅是屁话，而且也保留了一个前提，好像真存在一个真正的、稳定的「自己」，只要把社会的声音关掉，就能够找到它。但如果沿着德勒兹的思路继续走，这个「真正的自己」恐怕压根不存在。所谓的「我」，本来就是许多关系暂时装配起来的结果。家庭、学校、朋友、身体、语言、专业、爱好、工作、平台、记忆，都在不断参与生产这个「我」。因此，「不要受到别人影响，去做真正的自己」本身就是一个很奇怪的命题——如果把所有外部连接全部抽掉，剩下来的也未必有一个纯粹的「自己」在那里等着我们。另一种常见的解决方式，是赶快寻找一条新的轨道。不知道毕业以后做什么，那就考研；不知道考研以后做什么，那就读博；不知道读博以后做什么，那就找教职。又或者去考公、进大厂、创业、出国。这样做当然没有什么问题，一个稳定的辖域确实能够减少焦虑，因为它重新告诉我们下一步应该做什么。但是问题也恰恰在这里。我们似乎已经太习惯于依靠某一条轨道证明自己的生活是正确的。中学的时候，分数告诉我有没有走对；到了大学，我们又急着寻找 GPA、保研、工资、学校排名、公司级别、论文数量、粉丝数，继续回答同一个问题「我现在究竟处在一个正确的位置上吗？」于是，很多所谓的「解决焦虑」，其实只是完成了一次新的再结域。我因为没有实习而焦虑，于是开始刷题；刷题以后，又因为没有大厂 Offer 而焦虑；进了大厂以后，又开始因为职级、工资和晋升焦虑。一个排行榜消失了，我们就寻找下一张排行榜。一条轨道松动了，我们就急于跳上另一条轨道。所以问题可能并不是「我究竟应该选择哪一条正确的路？」而是「为什么我的生活一定需要一条能够证明自己正确的路？」这也许就是「逃逸线」在这里真正有意思的地方。逃逸并不意味着退学、躺平、辞职或者跑到深山里去。因为退学也可以变成创业神话，Gap Year 也可以变成履历投资，健身可以变成体脂率，阅读可以变成一年读了一百本书，甚至「做自己」本身也可以变成另一套需要完成的绩效指标。机器最厉害的地方，就在于它甚至能够捕获你的逃跑。因此，逃逸线并不是逃离一切结构，而是让某些原本被单一价值轴支配的连接，开始产生别的可能。比如，同样是学一门语言，它可以被连接到「证书 → 留学 → 简历 → 工作竞争力」，也可以被连接到「小说 → 电影 → 陌生人 → 旅行 → 另一种理解世界的方式」。同样是跑步，它可以被连接到「配速 → 排名 → 体脂率 → 更好的身体形象」，也可以只是「身体 → 风 → 街道 → 疲惫 → 回家以后的一杯水」。不是前一种连接一定坏，后一种连接一定好。问题在于：我是否还拥有建立其他连接的能力？如果一件事情最终都必须回答「它对我的未来有什么用」、「它能不能让我比别人更好」、「它能不能证明我是一个成功的人」，那么无论我们拥有多少选择，实际上仍然被困在同一种机器里面——升学机器。因此，我并不觉得焦虑存在一种终极解法。我们大概也不可能彻底退出国家、资本、学校和平台。更不可能生活在一个完全不比较、不分类、不评价的真空里。结域本来就是生活得以稳定的条件之一。真正值得警惕的，或许不是结域本身，而是某一种结域取得了对生活的垄断权：成绩解释我的全部价值，工作解释我的全部价值，收入解释我的全部价值，某一个失败开始解释「我是谁」。那么，所谓的「解决」，如果这个词还能够使用的话，可能不是找到一个永远不会焦虑的位置，而是让自己的生活保持一些没有被完全兑换掉的东西。有些阅读不需要变成知识储备；有些爱好不需要变成特长；有些朋友不需要变成人脉；有些旅行不需要变成朋友圈；有些时间不需要变成成长；甚至有些事情，完全可以没有用。它们未必能够让我们逃离机器，但至少可能让生活不只属于一台机器。所以，「此路不通」并不是说没有路了。而是那条我们从小被训练得最熟悉的路——找到正确答案，进入正确轨道，然后永远证明自己走对了——大概真的走不通。后记我不擅长解决问题。最后一节很明显是借助了GPT的功劳。经济因素的确很重要，在经济下行的时候，更要警惕升学机器对我们个人的影响。 参见我的文章里的内容：资本主义拥有极其强大的解域能力，它会不断把原本固定在某个地方、身份或者传统结构里的东西释放出来。……但问题马上就来了。如果资本主义真的把所有东西全部解域到底，会怎么样？比如产权、货币、合同全拆散了，它就运行不了！所以它处在一种非常奇怪的状态：它必须不断释放流动，但又不能让流动真正逃掉。 ↩ 这里，我不可避免的引入了福柯的思想，我觉得很合适。 ↩
【杂谈】差异、重复与作为机器的“美丽”世界
这个标题的确太长了，我想了很久，但是没法想到一个比这个还好的标题了。不过好在，文章也挺他妈长。我写过的最长的文章了。我觉得我一直需要出一个专门讲德勒兹的文章，但是我之前一直有不懂的地方，到如今，我感觉对德勒兹有了相对深刻的理解。我用德勒兹的方法尝试分析问题，取得了不错的成果。我想，既然有效，姑且可以讲一讲了。实际上，这一篇想要说明的内容，正是【实验性写作/纪念第99篇】空中楼阁要阐述的内容，但是为了有趣，我用了一种近乎疯狂和精神病的方式写了那篇文章，读起来的确很有趣，但是很难懂。我需要声明，这一篇的内容，当然不是德勒兹本人的想法，会有些许偏差，但是对我来说，这是分析问题比较好用的一种框架。先于存在的差异通常我们理解差异，是依靠「A和B的不同」理解的，也就是：$$ A=A,B=B\Rightarrow A\neq B $$我们会先设定两个存在之物，记作$A$和$B$，随后找这两个东西之间的不同之处。比如，有一个凳子和一个桌子，凳子比较矮，桌子比较高，……。再比如，一个苹果和一个梨子不同，一个男人和一个女人不同……这样我们就自然而然引出了差异的概念。这很自然，太自然了，我们生来就是这样看待事物的，也就是——同一性先于差异。先有了存在之物，才有差异。但是德勒兹阐述了一种很有趣的观点：所谓存在，不过是差异的效果而已。也就是，差异先于同一性。不是先有固定的存在物，而是大量差异性的过程暂时稳定下来，才出现了我们称作「存在物」的东西。比如，我们回想，我是一个固定的我，然后我经历各种变化。但是，在德勒兹的观点下，则变成生理过程、记忆、欲望、社会关系、语言、习惯、职业、身体状态……这些差异不断交织，暂时形成一个相对稳定的“我”。各种差异关系形成的暂时稳定性，形成了我们口中的「存在物」。在《差异与重复》中，德勒兹说明了这两种方法之间的区别。传统哲学往往从已经确定的存在物出发（同一性优先），再去描述存在物之间的差异。因此，在这种思维方式中，差异始终是某些东西之间的差异。德勒兹想问的却是：差异如何产生出两个东西？也就是不是已经形成的东西之间的差异，而是使东西得以形成的差异（差异优先）。叽里咕噜说什么呢？举个例子！一个很直观的例子是胚胎发育。受精卵并不是一开始就包含一个缩小版的成年人，然后单纯把它放大。最初的细胞会不断分裂，但在分裂过程中，不同位置的细胞逐渐接受不同的信号，形成不同的浓度梯度、不同的基因表达和不同的发展方向。正是在这种不断发生的差异化中，某些细胞成为神经，某些成为肌肉，某些成为皮肤。一个原本尚未完全分化的系统不断产生差异，最后才形成了这些相对稳定的身份。所以，我们要对表象保持警惕。因为表象可以简单理解为：我们总是试图把一个东西识别为“某一种东西”。看到一个陌生的动物，我们会问它像什么；看到一种新的思想，我们会问它属于哪个流派；看到一个陌生的人，我们也会迅速把他归入某些已经熟悉的类别。这就是问题！我们已经产生了一个错觉：世界首先由一个个具有固定身份的东西构成，而差异只是这些东西之间偶尔出现的不同。德勒兹认为，事情可能恰恰相反。我们看到的东西，只是其中某些差异暂时稳定下来的结果。一座山看起来极其稳定，但它仍然处在板块运动、风化、侵蚀、温度变化和生态变化之中；一个物种看起来具有明确的身份，但所谓物种也是遗传差异、选择压力、繁殖隔离与漫长演化暂时稳定下来的结果；一个人看起来是同一个人，但身体、欲望、关系、记忆、语言和社会位置始终在改变。没有什么是不变的。没听懂？我们来考虑另一个东西。重复。生成差异的重复差异先于同一性？哈哈，我可是看见世界上存在大量的重复，这又怎么解释？太阳升起、四季轮转……这看起来就是同一个东西再次出现：$$ A,A,A,A,\cdots $$在这种理解中，重复其实完全建立在「同一性」之上。但是，我们知道，世界中并不存在一个绝对不变的$A$，那么究竟是什么东西在重复？举个例子，假设你每天早上八点沿着同一条路去学校。从抽象意义上说，这当然是一种重复，都是去上学，但仔细观察，每一次其实都不同——天气、心态、遇见的路人、……。而所谓「重复」，实际上是我们从大量不同的事件中抽取出一个共同结构，再把它们归入同一个名字。真正发生的，其实永远是新的事件。德勒兹在这里区分了一般性（generality）与重复（repetition）。如果有两个一模一样的杯子，我们通常会觉得其中一个完全可以替代另外一个。$$ Cup_1\approx Cup_2 $$它们属于同一种商品，同一种型号，同一个类别。这是一种「一般性」，也就是这个东西可以被另一个同类的东西替代。但真正的重复往往恰恰发生在不可替代之物上。比如，一个人纪念某个已经去世的人。他可能每年都来到同一个地方，但每一年的纪念绝对不能彼此替代。第二年的纪念不是第一年的另一个副本，第三年的纪念也不能替换第二年。因为每一次重复都发生在不同的时间中，也因此获得了不同的意义。于是——一般性强调可替代，重复强调不可替代。如果两件事情一模一样，那就是纯粹的「再现」，而不是「重复」，吃掉的第二个包子和第一个包子根本不同！重复的不是某一个可以复制的物体，而是某个独特事件以新的方式再次发生。这样，我们就会发现一个非常奇怪的现象——重复非但没有消灭差异，反而会制造差异。最容易理解的例子就是练习。假设一个钢琴初学者每天重复同一段乐曲，如果重复真的只是同一件事情再次发生，那么他弹一万遍也不应该产生任何变化。但真实情况是，随着练习，演奏者不断熟练，每一次重复都会改变进行重复的人。重复不是把世界带回原点，而是推动世界继续生成。在同一性优先的视角下，差异和重复，一个负责变化，一个负责保持相同。但德勒兹真正想做的，就是拆掉这种对立——重复本身就是差异发生的方式。因为一次真正的重复，从来不会简单复制上一次。它总是在一个已经发生变化的世界中再次发生。这也解释了一个我们在生活中经常遇到的现象——同样一件事情，第二次经历的时候已经不一样了。时间使得纯粹的重复变得不可能。因为一旦第一次发生过，世界就已经改变了。所以第二次事件发生时，它面对的已经不是第一次事件所面对的那个世界。「再来一次」是一个无法真正实现的愿望。烂到爆炸的树结构上面是《差异与重复》的内容，下面则是《千高原》的内容。在《千高原》中，德勒兹首先批判了「树形结构」。如果您有计算机背景，您对树形结构肯定不陌生，它有一个根节点，然后引出一堆儿子节点，儿子节点又有儿子节点……比如乔姆斯基语法树，预设了一个支配地位的$S$，然后通过这个$S$生成所有的句子——这恰恰是德勒兹所举的例子。如果您没有计算机背景，可以考虑我们对事物的分类方式，动物-智人-德勒兹，动物有无数个子类，智人也有无数个子类，这就是个树。这样的结构就是一种同一性优先的结构。每个东西有确定身份；身份可以被归入更高一级类别；世界拥有中心、层级、根源；差异只是分类系统内部的差异。按照德勒兹，我们没有同一性优先，而是差异生成的效果！那么更合适的模型不再是树，而是根茎（Rhizome）。根茎没有一个唯一中心，任何一点都可以和另一点连接，连接会产生新的东西。想象一片竹林、杂草或者地下蔓延的根茎。它和树最明显的不同，就是找不到一个真正意义上的根节点。根茎更像：$$ A-B-C $$同时：$$ A-D,\qquad B-E,\qquad C-F,\qquad E-G $$甚至某一天：$$ G-C $$又突然连在了一起。没有哪一个节点拥有永恒的支配地位。任何一点都可能与别的点连接。更重要的是新的连接会改变连接双方本身。比如，一只黄蜂和一朵兰花。《千高原》中有一个很有趣的例子。兰花的形态可能与某种昆虫形成特殊关系，而昆虫又参与兰花的授粉。如果按照树形思维，我们首先会说二者离得非常远——一个属于植物，一个属于动物。但如果从关系出发，我们关心的问题就完全不同，也就是要去问兰花和黄蜂之间发生了什么？这个时候分类不重要，因为兰花和黄蜂形成了一个共同运作的关系。二者的交互、「连接」会不断改变二者的形态。于是根茎最重要的原则之一，就是连接（connection）。任何一点原则上都可以和另一个点发生连接。德勒兹的意思就是——一个东西的性质，并不能脱离它所进入的关系来理解。比如一个人。按照树形结构，我们很喜欢给他不断添加标签，人、中国人，学生，……。好，我们成功定位了这个人。但问题是我们没有真正的解释了“这个人”。他可能同时和某些书、某些朋友、一所大学、一套编程语言、一个实验室、……发生关系，而且这些关系不断改变他。看到了吗——不同类别的东西也可以彼此连接！这就引出了根茎的另一个特点：异质性（heterogeneity）。树形结构非常喜欢「同类连接」，因为它依靠分类——动物下面放动物；植物下面放植物；语言问题交给语言学；经济问题交给经济学；政治问题交给政治学。但是现实世界中的连接根本不在乎我们的学科分类。比如，一场流行文化现象可能同时涉及——算法、资本、审美、文化、技术和政治。这个事情，这个事情本身不会因为大学把这些东西分到了六个学院，就自动裂成六块。现实中的东西会胡乱连接。代码可以影响政治（黑客行动）、气候可以影响战争（水资源战争）、一种药物可以改变社会关系（鸦片战争）、一种新的媒介可以改变人的思维习惯（短视频）。从树的角度来看，这些东西“不属于同一个类别”。但根茎压根不关心，只要能够发生实际作用，它们就可以连接。树结构让我们觉得，只要不断向上追溯，就可以找到真正的原因，找到那个根节点。可能是世界的本原、历史的根本动力、人格的真正原因、语言背后的深层结构、社会背后的矛盾。但是我们都知道，很多时候这些节点是不存在的，只不过是一种效果、一种骗术、一种钻进牛角尖的思想。根茎还有一个非常形象的特点——树结构如果从主干上砍断，下面大量分支都可能失去联系。但是根茎不同。地下的一根茎被切断之后，完全可能从旁边重新长出一条路径，这种性质叫做非意指断裂（asignifying rupture）。简单来说就是：根茎可以被切断，但它会沿着别的方向重新开始。因为系统并不依赖于一个单一的中心。极其优雅的三阶段我们遇到了个问题——如果万物都在生成、变化、流动，那为什么世界没有完全乱掉？国家没陷入无政府状态，学校没爆炸，我还是我自己。这就回到了《差异与重复》——差异能够暂时稳定。这种效果就叫做机器，或者叫组装体、装配体，assemblage。我更喜欢叫做机器，因为我是工科生。对德勒兹和瓜塔里而言，只要某个东西能够，接入某种流、对流进行截取、把流传递给另外的东西、和别的东西发生连接、通过这种连接产生某种效果，就叫做机器。很类似于我们编程中的函数。同一张嘴，进入不同关系以后，就参与了不同的机器：消化机器的一部分、语言机器的一部分、爱情机器的一部分。机器就是某些东西以某种方式连接起来，并因此开始运作。举个例子，学校并不是因为有一栋教学楼，就自动成为学校。它需要学生、老师、考试、……之类的东西。这些完全不同的东西被连接起来以后，才形成我们叫作「学校」的东西。它是关系不断运作时产生出来的稳定结构。国家、货币、家庭、个人都是如此。流动并不意味着所有东西都毫无结构地乱跑，因为流会被连接，连接又会形成机器，机器又会把某些关系暂时稳定下来。这种「暂时稳定下来」的过程，在《千高原》中有一个非常重要的名字——territorialization，有很多种译法，比如领土化/辖域化/结域，我喜欢结域。这就是我们极其优雅的三阶段结构——结域、解域、再结域。这三个词几乎可以成为理解德勒兹—瓜塔里的万能工具之一。第一阶段：结域只要大量流动的东西被组织起来，形成了一定边界和相对稳定的结构，我们就可以说发生了某种程度的结域。比如一所学校，有一群原本各不相同的人来到一起。然后学校告诉一些人，你们是学生；告诉另一些人，你们是老师；……。又规定这里是教室，那里是宿舍，……。原本复杂而连续的现实，被切割、组织、编码。于是一个稳定世界出现了。流动的人、时间、空间和知识，经过组织，形成了学校，这就是结域。结域就是把流动的关系组织起来，使其形成边界、身份和稳定结构。比如一个人，拥有一个名字、一份履历、国籍、……。久而久之，一个相对稳定的“我”就出现了。所谓身份，就是结域的结果。第二阶段：解域没有任何领土化能够永远成功！因为关系一直在变化~新的东西会接进来，旧的连接会断掉，外部环境也会变化，甚至系统内部也会产生新的力量。于是原本稳定的结构开始松动。这就是解域。比如互联网出现以后，传统媒体原本非常稳定的结构开始松动，电视台原本有观众，报社原本有读者，二者是一个「提供-接收」的关系，但随着互联网发展，人人可以是创作者，也可以是接收者。原来的清晰边界开始崩坏。个人也是如此。比如一个人原本认为：「我是一个程序员。」他的知识、朋友圈、职业、生活习惯乃至自我评价，都围绕这个身份组织起来。但是后来他开始研究哲学、写作、投资、音乐……新的连接不断出现。原来的身份边界开始不够用了。原来能够很好组织你的那套结构，现在无法完全容纳新的关系了。第三阶段：再结域解域是不意味着越来越自由，所有边界全部消失。解域几乎总是伴随着新的再结域。一个结构被打破以后，新结构往往马上开始出现。互联网打破传统媒体，但很快平台、推荐算法又形成了新的结构。终幕曲所以，稳定/同一性本身就是生成过程中产生的一种状态。这也解释了为什么德勒兹和瓜塔里既不像传统本体论那样强调永恒实体，也不是简单地说一切都是混乱的（Quite Anarchism, eh?）。他们描述了一种更加奇怪的世界——世界不断产生秩序，但没有任何秩序拥有永恒的特权。国家、市场、语言、性格、身份都是如此。我是我，不是因为身体深处藏着一个从出生到死亡都完全相同的核心，而是因为各种关系不断把我重新组织成那个「我」。有连续性，也有差异。美丽世界的机器如果机器可以组织流，结域可以制造身份，那么就要问啦——究竟是谁在组织这些流？家庭是一台机器，学校是一台机器，国家是一台机器，资本主义也是一台无比巨大的机器。德勒兹和瓜塔里在这里走了和马克思主义者不太一致的一条路，在我看来无比合理的一条路——资本主义究竟接了哪些管子？它截取什么流？又把这些流输送到了哪里？首先，谁组织了这些流？答案是：没有人组织了这些流。没有人「发明」了今天意义上的资本主义；商人想赚钱，工人想拿工资，银行想收利息，企业想扩张，消费者想买东西，政府要征税，投资者想获得回报……每个人都只是在接自己的管子，但这些管子接在一起以后，一台远远超过任何个人的机器开始自行运转。前面我们说，同一张嘴可以进入不同的机器。那么，是什么让这些连接发生？是欲望，而且欲望本身就是以机器的方式运作。这就是《反俄狄浦斯》中非常重要的欲望机器（desiring-machines）。我们平时很容易把欲望想象成这样，有了一个我，然后想要东西，产生了欲望。也就是——主体先于欲望。先有一个确定的我，然后这个我才开始想要东西。这和我们文章开头讨论「差异」的时候，是一模一样的，一样的nonsense。欲望是身体、家庭、语言、金钱、商品、性、学校、工作、技术、媒体、别人的目光……不断相互连接所产生的一个东西。在这些连接中，某些东西开始变得重要；某些东西变得令人兴奋；某些东西令人厌恶；某些道路变得可以想象；另一些道路甚至从来没有进入你的视野。于是欲望被生产出来。而与此同时，一个能够说「这是我想要的」的主体，也被生产出来了。到这里，过去的我陷入了一种极端的安那其主义思潮——是社会给我洗脑了，我要干爆这一切！但这种说法仍然假设存在一个纯洁的、真正的我。然后某一天，社会跑过来，把一些假欲望塞进这个真正的我里面。别扯淡了！实际上，德勒兹和瓜塔里会追问：那个所谓“真正的我”又是哪里来的？你的语言不是你发明的；你使用的货币不是你发明的；你对于“成功”的想象不是凭空生成的；你喜欢的审美形式有历史；你的身体拥有自己的生理机制；你的性欲受到身体、文化和关系共同影响；你甚至必须通过别人已有的词汇，才能说出「这他妈是我」，所以根本不存在一个完全脱离世界、纯洁无瑕的“主体”，然后再和外部世界发生关系。主体从一开始就在关系里面。并非匮乏的欲望欲望不是“缺”。传统上，我们特别喜欢把欲望理解为匮乏——我没钱，所以我想要钱；我没妹妹，所以我想要爱情；我没权，所以我想获得地位。在这些思想里，欲望就是对一个不存在之物的渴求。这个思路在西方思想里非常强大，尤其到了精神分析那里，我们很容易不断向后追问：你为什么想赚钱？因为你想获得认可。为什么想获得认可？因为你小时候缺少肯定。为什么你喜欢某种类型的人？是不是因为父亲？是不是因为母亲？是不是因为某种童年缺失？最后，无数复杂的欲望，都被翻译成某种低俗的性笑话。德勒兹和瓜塔里对此相当不满意。因为这会产生一个非常奇怪的结果，也就是欲望永远只能围绕不存在的东西打转。他俩认为欲望首先是生产。比如，你突然开始写哲学文章。如果按照“缺乏”的模型，我们很容易开始审问：你为什么写？你是不是缺少认可？是不是想表现自己？是不是想获得知识分子的身份？是不是小时候缺乏肯定？这些问题未必错误。但德勒兹和瓜塔里会觉得，你为什么非得首先寻找一个隐藏在背后的缺口？不如直接看，写作实际上连接了什么？德勒兹、阅读、互联网、CoderLock、哈工大、……这些东西以前可能彼此毫无关系，但某一天，它们接起来了。解释哲学，哲学又反过来改变理解程序、社会和自己的方式。文章吸引读者，读者反馈又影响下一篇文章，下一篇文章又促使读更多东西。新的思想被生产出来；新的文章被生产出来；新的关系被生产出来；新的我也被生产出来。面对欲望，传统问题是缺什么，而德勒兹的问题是这个东西在连接、生产什么。一种赚钱欲望可能接上自由、房产和养家糊口；另一种赚钱欲望可能是独处、旅行和自由自在。连接的对象不同，欲望本身也就不同。与此同时，任何欲望都已经和社会机器连接起来。欲望-赚钱-银行-房地产-国家财政；欲望-大学-论文-工资-企业-国家财政；……。私人欲望从来都已经插满了社会的管子。这也是《反俄狄浦斯》一个非常重要的方向：欲望生产和社会生产，并不是两个完全分开的世界。资本主义的迷思资本主义最奇怪的地方在于它一边疯狂拆墙，一边疯狂盖墙。第一只手：拆墙资本主义拥有极其强大的解域能力，它会不断把原本固定在某个地方、身份或者传统结构里的东西释放出来。土地以前可能和家族、领主绑定，但资本主义不断把它变成可以买卖的商品。人的劳动也是如此。钱就更明显了。货币几乎天生拥有一种极强的解域能力。货币可以变成食物、房子，甚至其自身的变化也会产生自己（炒股）。对于文化，一种原本属于某个地域的符号，随时可以被抽出来当作商品，朋克可以卖衣服、禅宗可以卖装修、反叛可以卖广告。甚至人的身份本身也获得了越来越强的流动性。你可以：换工作、换城市、换行业，过去某些被视为终身固定的身份，开始变得可变。于是资本主义不断告诉你：你不一定只能是现在这个样子。从这个意义上来说，资本主义确实具有一种惊人的革命性。它会不断拆毁传统、身份、地域之类的东西，让各种流重新运动起来。但问题马上就来了。如果资本主义真的把所有东西全部解域到底，会怎么样？比如产权、货币、合同全拆散了，它就运行不了！所以它处在一种非常奇怪的状态：它必须不断释放流动，但又不能让流动真正逃掉。第二只手：盖墙可以自由劳动，但是工资把劳动重新编码。可以自由消费，但是周期和债务又把消费能力重新组织。资本可以全球流动，但是产权、合同之类的东西又不允许它完全自由。你可以不断塑造自己，但是马上又会出现各种标签把你变成可识别的人。但这里还需要稍微精确一点，德勒兹和瓜塔里分析资本主义时，并不只是说是纯粹的解域和再结域，而是公理化（axiomatization），也就是它不一定需要重新告诉每个人“你本质上是什么”，它只需要给流动建立一套可以计算和操作的规则。市场并不在乎你究竟是一个什么样的人，只在乎你的资产多少。也就是把旧规则拆掉，然后建立一套更加抽象、更加灵活的规则。终幕曲在我看来，资本主义极其强大因为传统结构可能只能容忍固定的身份，但是资本主义却让人的身份可以流动起来——只要它们进入交换体系。它甚至能够吸收自己的反对者。反消费主义？印反消费主义的商品。反主流文化？可以搞亚文化产业！资本主义不断打破自己昨天建立的结构，又建立新的暂稳态——它把不稳定本身变成了自己的运行方式。到这里足矣。我不讨论政治和意识形态。德勒兹和瓜塔利也没给出一个很优秀的解决办法。如浮萍般的自我我懒得讨论政治，因为它们首先是利益关系，而不是意识形态，我着重要讨论的是德勒兹这套理论和生活到底有什么关系？差异、生成、根茎、机器、欲望、解域，这些概念听起来很有趣。但是我明天还是要上班，论文还是没写完，我还是会焦虑。我的答案是这样的：德勒兹会改变你理解问题的方式，但不一定解决问题。因为我们很多问题，其实就都来自于「同一性优先」这个问题，黑格尔的辩证法，拉康的精神分析，都在这个基础上建立了非常复杂的形而上学模型。也就是我们会不停地问「我是谁？」「我喜欢什么？」「我适合什么？」，这些问题很显然，都预设了一个同一性的存在，也就是「我」本身。在德勒兹那里，这就是一个很危险的事情，我们把差异形成的效果当成了形成差异的原因。「Be yourself」, huh?但其实啊，「Yourself」这个东西本身就不存在，因为人是时时刻刻会变的，「我」是是大量关系暂时稳定产生出来的结果，那么随着朋友、知识、身体状态、环境、工作的变化，「我」也会不断地解域，变成新的「我」。问题不在于我是谁，我要到哪里去，而是现在的关系在把我变成什么？要记住，「身份不过是暂时的稳态而已」，「优秀学生」、「成年人」、「丈夫」、「妻子」、「自由女性」、「革命者」，这些身份是我们生成的结果，却反过来影响我们。对于焦虑，不如问这样的问题：什么情况下会焦虑？和谁在一起会焦虑？什么任务会让我焦虑？什么时候会减轻？举个例子，对于拖延症，很可能不是因为「我是一个拖延症患者」，而是因为任务太多、反馈太少、压力太大；对于刷短视频，不是因为「没有自制力」，而是疲劳、孤独、加班太久。要找到这些原因，我们的方法是画地图，把机器的连接画出来。比如「我一学习就烦」，就不是「我不擅长学习」这个原因，先画出来大概的连接方式：$$ \text{学习} + \text{考试} + \text{导师} + \text{截止日期} + \text{同辈比较} + \text{睡眠不足} \rightarrow \text{烦躁} $$然后再看看这个要素和其他东西连接时，会不会产生同样的问题：$$ \text{好奇心} + \text{书} + \text{自由时间} \rightarrow \text{兴奋} $$好了，我们发现，这个人不是不喜欢学习，而是不喜欢压抑性的学习环境。再比如「我讨厌工作」，不是「我不适合上班」，而是很有可能讨厌：$$ \text{固定时间} + \text{领导命令} + \text{通勤} + \text{无聊任务} + \text{没有自主权} $$在精神分析学派那里，分析师很喜欢对欲望进行追问，比如「我为什么这么想赚钱」、「我为什么想出名」这些问题，都从童年开始找答案，然后发现是童年的「创伤」，但是很有可能，赚钱是为了豪车、他人羡慕、社会地位，也可能为了独立、不工作、自由旅行。分析与其连接的要素，往往更能看到事情的本质。不要把事情复杂化。如何改变这些呢？庸俗的心理学家和安慰者会说，「意志力强的人就能挺过去」，一种非常中国式教育的说法，但是，我们不能靠意志力，因为意志力无法让我们意识到机器的装配方法，只会让我们在当前的机器中越扎越深。不是所有压力都要落在「我」上的，机器有问题就改机器。比如一个人总是忍不住打开手机，传统方法就是忍住，靠意志力，当然这很少奏效——因为装配关系还没变。我们可以尝试手机放在另一个地方，关闭通知，删除某些APP，这有很大概率成功，因为我们把机器的装配修改了。同样，如果你发现在家完全无法工作，不要马上说「我真是个废物」，而是要看机器的装配关系，家里有游戏机、噪音、家庭成员，那么我就去图书馆，换一个环境，换一类关系，很有可能就会效率大增。并非自由的自由同样的方法，有了机器，我们可以分析「自由」，埃里希弗洛姆曾写过一本书叫做《逃避自由》，讲的是很多时候人们会宁愿被人管束，而不要自由。在我们通常的理解中，自由就是外部限制为0的一种状态，但是，我们知道「我」这个概念是必须要在关系里的，所以哪怕表面的「外部限制」为0了，也有很多内在的限制，比如身体、习惯等等，很多时候我们被这些限制裹挟，导致了「痛苦的自由」，比如无所事事的酗酒等等。当我们做选择的时候，不要考虑「我能不能做」，这还是同一性优先的看法，要考虑：“什么东西正在让我想这么做？”甚至：“这套连接是在增加我的行动能力，还是减少我的行动能力？”比如一段亲密关系。不要问「这个人是什么样的人」，而是要问「和他连接以后，我变成什么样？」，是更自由了、更开心了，还是更恐惧了，更焦虑了？也就是——这段关系生产出了什么？同样的，我们不能打碎所有的辖域，不是让我们「隐居」、「堕落」，而是要看“哪些结构让我能够生活，哪些结构已经让我无法继续生成？”比如一些很好的习惯，固定睡眠时间、稳定收入、长期健康的稳定关系，这些都是一种辖域，但是它们却给你更好的机会去探索更多的事物。相反，看似纯粹的解域，比如堕落吸毒，反而限制住了我们自己。也就是说，真正危险的是把暂时的领土当成永恒的自己。可怕的不是工作，而是「我就是这份工作」；可怕的不是学历，而是「我就是这份学历」。不要把你现在所在的地方，误认为你是谁。所以，这就来到了我常用的分析法，也就是这样几个问题：这个状态是什么关系装配而来的？哪些状态降低了行动能力？哪些状态提升了行动能力？正在坚持的东西，是同一性优先的存在，还是必要的稳定？如果改变一条连接，我会不会生成一种新的可能？哲学终点的思想毫不客气地说，德勒兹在我这里，就是哲学的终结。我花在德勒兹理论上的时间不多，大部分时候我在看马克思和精神分析，但是带给我的启示，德勒兹却是最多的。真正的生活是要流动的，它需要许可我们变化；许可你曾经非常确定，然后改变主意；许可我们离开一个已经不适合自己的身份；许可我们重新连接。所以人生不是找到真正的自己，而是不断地去生成。真正的自己从来不在外部，而在我们自己。其实德勒兹还有很多有趣的概念，比如重复的几大综合，还有千高原中有意思的一些论点。不过，我这里不再讨论了。祝你平安。后记中国学生有这样一个特点，从小就被告知——「你能做得更好」、「你不应该这样」、「你本来是一个更好的人」。可以说，中国哲学在一定程度上，就是建立在同一性的基础上的，西方哲学也是如此。这引发了大量的问题，有了身份，固然社会可以更好地运转，但是对于个人的幸福与快乐，则不怎么考虑。这花了我十几年才意识到。对我而言，黑格尔和马克思的辩证法，对于分析个人还不够有效，但它们有了差异论的一点雏形；精神分析对我来说则是毫无用处的东西了，菲勒思-俄狄浦斯的迷思，太结构了。
对于这样一个方程：$$ Ax+By=a\\ Cx+Dy=b $$消去$x$，可以得到：$$ (D-CA^{-1}B)y = b-CA^{-1}a $$如果说有一个矩阵：$$ M=\begin{bmatrix} A & B \\ C & D \end{bmatrix} $$那么$A$在$M$中的Schur补，就是$S_A=D-CA^{-1}B$。同样，$D$在$M$中的Schur补，就是$S_D=A-BD^{-1}C$那么这个东西有一个名字，肯定说明它很重要，从几何角度怎么理解之？就来探讨探讨。我们现在掌握的东西是——Schur补这个东西和消元有着密切的联系。它的含义是：消除两组坐标之间的耦合以后，留在其中一组坐标上的几何。投影角度假设我们有一个二次型：$$ q(x,y)=ax^2+2bxy+dy^2=C $$假设它是正定的，那么它就可以描述一个椭圆。这里$C$是一个常数，设一个定值便于我们研究图形。比如$b=0$的时候，很显然就是一个椭圆，当$b\neq 0$的时候，假设形状还是一个椭圆，那么就说明$x$方向和$y$方向出现了互相的影响。假设我们的图形是$a=0.6,b=1,d=4,C=5$，那么图像就是：那么我们到这里就要抛出一个和消元很类似的问题：我们想知道这个椭圆在$x$方向能够延伸多远。通过图像可以看出来，这个点在$(-4, -3.5)$，这个区间上。可能有读者就会说了，那直接令$y=0$不就行了？得到$ax^2=C$。那么它的图像是：发现两条线是在-3这个值的右边，并不是我们能延伸最远的地方，这就是因为，我们实际上得到的是椭圆与$x$轴相交的部分，也就是一个截面。我们要的是投影。也就是说，我们现在只是沿着$x$轴给椭圆剖成了两部分，没有得到延伸最远的点。我们要的是投影，可以联想我们从y轴上方打一束平行光，要看x轴上的影子最远能到哪里，对于这些点，我们不一定就要$y=0$。我们可以把整个形状做一个变换：$$ \begin{aligned} q(x,y) &= dy^2+2bxy+ax^2\\ &= d\left(y+\frac{b}{d}x\right)^2 + \left(a-\frac{b^2}{d}\right)x^2. \end{aligned} $$固定$x$，$y$就可以随便变化，达到最远的$x$，前一项恒非负，那么$y=-\frac{b}{d}x$。这个时候，最远距离实际上是：$$ x_{max}=\sqrt{\frac{Cd}{ad-b^2}}=\sqrt{\frac{C}{a-\frac{b^2}{d}}} $$画在图里就是：这些都是中学数学的小把戏，不过我们需要看看，为什么会这样——延伸最远的距离，要比$x=0$截面的结果要远。$y=0$实际上相当于直接不考虑$y$带来的影响，但是实际上，由于两个方向是耦合的，是彼此影响的。$y$方向的变化仍然在幕后活动，只是我们最终只关心它对$x$产生的结果。这和我们的消元一致，我们消去了$x$，但是$x$对$y$还有影响，不能忽略。这个影响就是我们的$-\frac{b^2}{d}$。实际上这就对应着我们的Schur补，二次型的矩阵是：$$ M=\begin{bmatrix} a & b\\ b & d \end{bmatrix} $$那么，消元之后，$x$的分量（$a$的Schur补）就是$a-\frac{b^2}{d}$，这恰好就是我们上面对于Schur补的定义。推广一点，考虑椭球：$$ q(x,y)\leq 1. $$里面的$x,y$都是向量，那么令$y=0$，得到的是：$$ x^TAx\leq1. $$它描述了原椭球与$y=0$的截面。描述的是直接切开原几何体以后看到的形状。但是，如果我们将整个椭球投影到$x$空间，那么一个$x$属于投影，当且仅当存在某个$y$，使得$$ q(x,y)\leq1. $$这等价于$$ \min_y q(x,y)\leq1. $$于是得到$$ x^T \left( A-BD^{-1}B^T \right)x \leq1. $$也就是说Schur补描述的是投影后的有效几何。解耦角度从矩阵角度看来，我们可以把二次型进行变换：$$ \begin{aligned} q(x,y) ={}& \left( y+D^{-1}B^Tx \right)^T D \left( y+D^{-1}B^Tx \right) \\ &+ x^T \left( A-BD^{-1}B^T \right)x. \end{aligned} $$这个矩阵就是：$$ M=\begin{bmatrix} A & B\\ B^T & D \end{bmatrix} $$记$S=A-BD^{-1}B^T$，我去，这就是：$$ q(x,y')=y'^TDy'+x^TSx $$也就是说，通过Schur补，我们可以把纠缠不清的方向解耦。测量角度我们都知道，二次型衡量了一种测量，也就是对于正定矩阵：$$ M=\begin{bmatrix} a & b\\ b & d \end{bmatrix} $$定义了一个内积：$$ \langle u,v\rangle_M=u^TMv $$那么——Schur补就是帮助我们找到在这个测量方向下正交的两个方向。标准基在这个测量方向下不一定正交：$$ \langle e_1,e_2\rangle_M=b $$那么就可以构造：$$ e_1'=e_1-\frac{b}{d}e_2 $$使得：$$ \langle e_1', e_2\rangle_M=0 $$那么，新的方向的长度就是：$$ \langle e_1',e_1'\rangle_M=a-\frac{b^2}{d} $$Schur 补，就是把一个方向关于另一个方向做 Gram–Schmidt 正交化以后，剩余方向的新平方长度。只不过，这个正交化是在新的测量方式下做的。
【纪念第一百篇】我与我周旋久，宁作我
引子最开始开站就是2016年，到今年也算是十年了。不过，这个过程中我偶尔会把内容全删掉，然后重新建站重写，然后再删掉……这对我而言像是一种「蜕壳」，文章多到一定程度，就觉得自己写得太垃圾了，于是把过去的作品全部删掉，从零开始。2016年，多美好啊，我好像刚上初中。随着不停地「蜕壳」，我感觉自己也在不断地成长。我最开始的blog，都是小说、日记和一些意识流的写作（如同我在上一篇blog中的写作风格），现在更多是数学、技术和其他类型的内容。这一方面是因为我没有能力写这些比较文艺的文章了，更多的是因为我需要面对来自现实的压力，我需要考虑为自己谋生了。这一篇，我其实也没想好要写什么。而这是一直以来我最擅长的写法——意识流，也就是想到哪里写到哪里。姑且当作一个自我介绍、自我总结吧。技术说实话，我感觉我不是一个很「理工」的人，我对技术的看法是——「工具」，但我感觉很「理工」的人对技术都有自己的品位。对我而言，产品与功能是最重要的，具体的技术不过是创造产品与功能的工具而已。这一点算是大学教育给我的最重要的启示。过去我也很喜欢参与对编程语言踩一捧一——「C++就是一种狗屎语言，Python就是好语言」、「要性能就只能用C，不要用Java，你这傻鸟」……现在看来还是太偏激了。除了Side Projects，基本上是领导让我用什么我就用什么，当然，为了写Paper，我主要还是用Python。在我看来，写Paper是最像做项目的，它比Side Project（也就是日常、业余时间写的一些小项目）更像做项目。很多时候，个人的日常项目不是面向用户的，而是自嗨、面向其他程序员的，有功能、少数人用得方便即可。写Paper则不同，不仅需要面对Reviewer——他们很可能来自完全不相关的领域——还要写Paper，告诉别人「我这是一个好的想法，我劝你老老实实给我接收」，而且还要有一点意义。不仅要写代码，有足够的功能，还要讲故事，包装起来，说服别人，让别人知道工作的创新性与必要性。写论文本身就是一种故事会，像是写侦探小说，写论文的重点是如何抓住读者的兴趣，这一点我觉得无可厚非——毕竟芝加哥大学的写作课也讲了一样的事情。过去的十年，有什么对我技术水平影响最大的事情？我想，有两个——一是长时间只用Linux系统的设备，二是进组做科研。前者让我学到了很多技术，在Linux上，不仅要配置各种文件，还要解决不同软件之间的冲突、定位奇奇怪怪的bug。除此之外，Linux系统的编程体验也非常好，它让我精进了我的算法和数据结构的能力。使用Linux的那段时间，是我Daily Programming的项目最多的时期，真是美好的日子啊。进组做科研则让我从一个技术导向的人，变成了一个需求导向的、交流导向的人——尽管我现在做得还不够。哦，数学。对于我这个行当来说，数学尤其重要。不过很遗憾，我大学的数学课学得不是很好。不过我最近在重新学习它们，都放在了我的Rethink Math系列中，还挺有意思的，不过要自己探索理解方法，教科书上的理解方法感觉很难——尤其是线性代数。文史哲说实话，我感觉我不是一个很「理工」的人。又说了一遍同样的话，嘿嘿。如果给我一周的时间，让我自由选择去干什么，那么我不会犹豫——给我几本小说、哲学书或者历史书，让我去读，或者给几个文科的网课，学学看喽。去写Side-Project？不好意思，没什么太强的吸引力。虽然我很喜欢编程，但是远没有读书来的快乐。我感觉我有种文青病——我经常会幻想我是一个富家少爷，每天啥也不干，就读书喝茶下下棋溜溜弯。这也是我最喜欢的生活。不过，我不是「富」家「少」爷。我觉得隐居的生活还挺爽的，自己种点菜，悠游度日。我这人有个习惯，就是我的效率和任务量没关系，但是和压力有强关系，如果活很多，但压力不大，我可以很快很好地给你完成，但是如果活很少，压力巨大，那我可能一年都没有办法给它们做完。有点跑题了。文史哲分为三类——文学、历史和哲学，很显然。文学这一块，我很喜欢日本人的作品，他们很会描写人物的心理，而且和中国的文化又很贴近。中国地大物博人又多，中国文化更加大开大合，对我来说更加豪放一些，利落大方一些。而日本我觉得很有意思，虽然受中国文化的强影响，但是地方小人少，还有天灾，日本人感觉更加「小家子气」，这不是贬义，就是一种性格上的倾向。日本文化感觉更加婉约，伤春悲秋。物哀就很像日本人能搞出来的玩意，但是物哀又太难受了，所以搞出来一个侘寂。然而，对我而言，豪放没法很打动我，但是物哀这种可以——因为我们都经历过：「明天要开学，今天夕阳已落山，旧日何处寻」（最难受）。豪放……我觉得我的学生年代没什么很豪放的事，都是物哀。除此之外，日本也受到了西方文化的强烈冲击，在某种程度上，我觉得日本达成了一种1+1>2的效果，通过结合西方文化和中国文化，形成了自己的一种特色。最近在b站学了写诗填词，太难了，要考虑平仄和韵脚，这个还是得多多练习。我只会一点点粤语，不会什么其他的南方方言，所以让我按照古音，辨别入声字填词，还是很困难的。历史我涉猎不多，我一想到那些年代和历史事件就头疼。我很钦佩那些历史学家，要在浩如烟海的书中找那些是真的，那些是伪史……太枯燥了。哲学我觉得是一个很危险的学科。哲学能深刻影响人的性格、情绪、三观，尤其是对于青少年，这种损害更加不可估量。对于相似的事情，不同理论会有不同的解释，比如「世界是无意义的」，尼采可能会说，「正因如此，我们要创造自己的意义」（不严谨）；叔本华就会说，「正因如此，重开算了」（同样也不够严谨）。这两种看法都没什么问题，都有道理，这就是最危险的一点。我觉得在三观没成熟之前，读哲学是很危险的事情。初中几年看了看尼采，也看不懂太多，高中没时间，高考结束玩了玩SeaBed（最好玩的视觉小说，在我看来是视觉小说史上不可逾越的大山），然后开始看精神分析，但是感觉也没什么感想，太结构化了。最后开始读德勒兹——说来很有意思，我读德勒兹是因为去看画展，作者和我说受德勒兹启发的——我太喜欢德勒兹了。存在只是差异的效果。万事万物都要形成一个辖域（结域），然后这个辖域破损（解域），最后形成新的辖域（再结域）。如果解域受限了，对于人来说，可能就会出现一些强迫行为……当然这些都只是粗略不严谨概括的。Whatever，我很推荐读者去看一看德勒兹的一些介绍视频。除了哲学，还有什么……还有宗教。我对基督教十分之感兴趣，尤其是东正教的神学。东正教的神学更侧重灵修体验，这一点有别于天主教和新教极强的逻辑推导。很想去看一看东正教的圣礼。我读过几遍「圣经」，这本书的解释能看出来是极其困难的，如果只按照字面意思，很多地方是冲突的。无所谓，这本书对我的影响更多是道德层面的——「爱人如己」。我脑海中的道德，就像是基督教伦理和中国传统道德的融合体，它们都有「向善」的信条，但又不完全一样。「但行好事，莫问前程」和「你不可为恶所胜，反要以善胜恶」。后记没啥可写的了，我是个很无趣的人，各位。最后写一首扬州慢，脏脏各位的眼。柳底鸣蝉，亭前月好。夏风暑意难消。置新茶陶盏，对今夜江桥。看晚景、十年飞逝。几载蜕甲，难改心高。纵少年志气，未来可比今宵？明朝归去，马蹄疾、莺燕嚣嚣。卷草落桃花，尘迷春影、芳野逍遥。酒醉斜阳乡里。人间事！日夜辛劳！但凭栏无语，何时得隐南郊？
引子机器，机器人，太机器了。连接论不是人与人之间的连接，也不是人与系统的连接，而是系统与系统之间的连接。作为三个综合的产物，我们是活在过去、现在和未来的生物。连接，初看是过去与过去的连接，然而并不是，因为过去、现在和未来是不可分割的三个部分。过去的事物被压缩成习惯，我们通过习惯建构未来。从这个角度来说，人是没有主体性的，人是一个时序模型，根据过去预测未来。思想天然不爱真理，而爱习惯，只有意想不到的事发生，才会思考——这样的事情对当前的模型造成了一种暴力，这种暴力促使人去思想。那么连接究竟是什么？连接是两个无穷之间的连接，是两个微分之物的连接，是两个超平面的连接——一个二维平面上有无限多个点。连接是无穷+无穷=无穷的一种表现形式，但是后面的无穷和前面的无穷是一样的，又是不一样的。人们倾向于预先设定一个同一之物，然后思考差别——亚里士多德式的属差与种差，但是这终究不是穷尽分析的一个办法。只有把人设置成无穷，才能解释变化，才能解释在同一之物假设下难以解决的问题。问题！问题即是理念本身。问题的答案在问题中存在着，至少其结构是被问题所影响的，在这个尺度上，问一个好问题比解决问题更加重要。回到连接，什么是连接？连接本身就是不用解释的概念，它不是非-解释的概念，而是前-解释的概念。在连接中，我们发现了一种暴力，对于双方的暴力，这种暴力如此强大，其迫使人去思想——这便是交流的重要性。交流是两个系统之间的连接，而系统是蕴含无限微分之物的系统——不是系统本身包含着无穷之物，而是其包含着无穷之物，却被我们视作了「一」，其实它不是一，而是无穷，任何事物都是无穷。系统的构造方法是不一样的，我们可以用如此通俗的角度，用这样一种方法去说：我们好似在分开的房间里搭积木，只有聚在一起，才能知道自己的积木有什么不足。这便是连接的意义。所以，从这个角度来讲，「人与人彼此相连」，更像是一种精神分裂的角度了。但是，我们在这里要问这样一个问题——只有实际接触才能连接吗？在这里我们突然发现了一种极其复杂的拓扑结构，每个人不是「一」，而是「一加上无限多个极小值」，为什么是极小值？如果把事件看作一个微小的点，而生命看作一条数轴，那么很明显，这个点对于数轴是个极小值，但也是不可或缺之物。事件中的参与者，是无穷之物，也就是说，在事件中，尽管它是一个微小的点，是一个极小值，但这个极小值中却又加入了无限。连接通过事件展开。事件以人为载体。那么，不仅人与人彼此相连，这种相连还具有一种以「无穷-极小值-无穷」为媒介的传递性。也就是说，只要一个人和另一个人相连，那么他就和无限多个人相连了，而且他不仅和无限多个人相连，也和大自然本身连接着。科幻故事窗户外面下着大雨，街道上空无一人，我隐隐约约能看到对面的楼里，有几家亮着光，但我终究不敢确定。我坐在窗户前，翻着这本书，这本书我已经看了无数次了，有意思的是，这本书的内容似乎在自行扩充，我记得这本书原来是个小册子，现在快变成字典那么厚了。当我在翻阅这本书的时候，我发现，每一页内都写着密密麻麻的字，有些字我完全认不得，像是汉字，又像是俄语字母；有些字却又写得极其工整。每一个字下面好像又都盖着一个字，但我却又能看清楚最上层的字。有些页的纸很厚，像是极其粗糙的纤维制作的；有些页的纸很薄，像是用糖纸、蝉翼做成的，每一页没有标记页码。我看不出这些字的关系来，但它们似乎都有同样的格式，都是用黑笔写成的。正在这时，我的屋子停电了，一片漆黑。从窗户透过来一点雨天傍晚幽蓝色的光。对面的楼却灯火通明。我打开窗户，小雨滴和泥土味的风。对面的一家住户也打开了窗户，向我招手。我也招了招手。来电了，我又开始看起书来。我突然发现自己能读懂很多字了。存在论连接对于我们来说是一种暴力。没有人喜欢和别人社交，这里的喜欢，不是「意愿」，而是「倾向」。社交对我们来说是意料之外的事情。在连接中，我们会发现差异，发现符号-结果的对应关系，发现过去我们的不足，发现……发现发现本身。连接会回溯性建构我们的记忆、性格和处事态度。那么，究竟是哪里的缺失，让我们需要用连接来重塑我们自己呢？那便是「难以认得的字」本身，哪怕这些字是我们自己写上去的。与其说我们活得很明白，不如说我们始终活在隐喻里。不是「我思故我在」，而是某种基底性的东西首先形成了我——其实没有形成，只是一种效果、一种表象——而我再去思考，不是「我思故我在」，也不是「我在故我思」，而是「我不在故我思」。如果我真真切切的存在了，那我根本不用去思考，如果我去思考，那么必然是某种暴力促使我去思考，在这个程度上，我又不在了。在与不在其实不是重点，而是。我所是，不在我里面，而在不是我的里面。不是我，不是其他人，而是那作为基底的幽暗深渊本身。那深渊不是别的，正是差异本身。我在深渊里沐浴，在深渊里生活，在深渊里仰望天空——那天空的深处依然是深渊。恐怖故事当我读完最后一页，我发现我认识了所有的字了，这个时候停电了，打开窗户，招手，来电。这次书厚了一倍，上面的字我也很多都不认识了。我打开窗户，跳了下去。随着剧痛传来，我发现我仍旧坐在窗户前，读着书。我抬起头。我的前面、窗户外面是一张苍白的脸，没有眼白，牙齿和牙龈完全露出来，鼻孔里爬出蜘蛛。天上下的不再是雨，而是血。艺术论恐怖究竟是什么……暴力究竟是什么……这里我要引用一点别人的话语：其一，二次元少女（Anime girls）并不实在。——【英译中】萌的定义（On the Concept of Moe） - 火车洞爻拐三入列的文章 - 知乎你说得很对，但是我要说——「二次元少女是实在的」。对我们来说，实在根本不重要，重要的是一种强度，一种装配关系，一种机器性的配置，一种系统，一种囊括了无数微分之物但是却被武断地理解为单纯之物的无穷之物。「你疯了」。我的确疯了，因为预设同一之物的结果就是疯癫——正如我们在让-雅克-拉康那里看到的一样。我们所爱的，永远不是存在之物，不是实存之物——你要是预设了一个存在去分析那么很不巧的是你只会变成一个疯子在存在和不存在的笑话与矛盾里打转转来转去转不出来最后转成一个疯癫之物。我们爱的，是角色带来的强力。二次元不是现实的次等复制，而是“拟像”。其二，二次元少女是一连串（successive chain）的理想造物（idealization-production）分泌的恶液（pus）滴落在资本主义的皮肤（capitalist hide）上的结果，也是虚拟恶液的预定采集物（inevitable harvesting）。换言之，祂们是理想的印象的影像（images of images of images），是一个从“少”和“女”上的理想夸张而来的超影像，被扭曲为实在人类的理解范围的远距外，并如同一种原始器官（raw organ）植入社会的身体那样植入了资本主义。——【英译中】萌的定义（On the Concept of Moe） - 火车洞爻拐三入列的文章 - 知乎没错！这就是问题本身！生命永远是流动的，但是二次元——我们在二次元里发现的关系——却是固化的。其三，这是对青少年（youth）的可持续性竭泽而渔（constant exploitation）——自然，在资本主义诞生的更前时代——乃至到目前为止——为了拥戴所有来自西方甚至全球的陆地压迫机器（terrestrial oppressive machinery），就有了对女子气质（femininity）的需求。青少年最适合寄生在反生产的机械脑（wetware）上，裸露的母巢（wombs）接待了集束的枪支弹药和数字媒体广告杀戮群（killswarms）。器官从新生代处（child）被摘取，且植入了比尔盖茨肿胀的尸体中——他死于饮下掺有氰化物的脓液。这不仅与日本有关，这甚至是一种世界级别的怪谈（Oecumenopolis）。——【英译中】萌的定义（On the Concept of Moe） - 火车洞爻拐三入列的文章 - 知乎那帮庸俗的家伙其实还挺聪明，他们绑架了逃逸线。到这里，艺术本身作为暴力的那种先锋属性已经消弭了。不再有梦想，不再有离经叛道，不再有批判，只有对现实的无底线肯定。这是从philo-sophia到philo-pecunia的伟大转折，伟大变革，历史难寻之机遇！艺术是对感觉的创造。艺术要对人的思想产生暴力，而不是肯定人的思想。先锋艺术和庸俗艺术往往就差几天、几月、几年，但是，这个差值永不能为负数。任何艺术绝对不能落入标签之中，因为艺术自打一开始，就是反-标签、反-人类、反-资本主义、反-反对的。庸俗故事那个苍白的脸有点像我，有点像对面的住户，它撕碎了我的书，什么也不剩了。
【Rethink Math】矩阵论的几何理解：一口气把转置讲清楚
最近我躺在床上，翻来覆去想，「这转置到底是什么个含义？利用等值线解释，总感觉差一点东西。」这两天有了一个比较粗糙的想法，「等值线的确是个很取巧、很粗糙的理解方式，感觉有一种更加有趣深入的理解方式！」，这次就来和诸君交流一下。核心思想是——转置的核心性质是$$ \langle Ax,y\rangle=\langle x,A^Ty\rangle. $$这个公式表示，同一个标量测量既可以理解为先用 $A$ 变换输入 $x$，再用 $y$ 测量结果；也可以理解为先用 $A^T$ 将测量规则 $y$ 拉回输入空间，再直接测量 $x$。因此，转置保持的不是向量本身，而是向量与测量规则之间的配对结果。二十年重过南楼：矩阵乘法的两种理解方式考虑矩阵$A$：$$ A= \begin{bmatrix} 2&1\\ -1&3 \end{bmatrix} $$和向量$x$：$$ x=\begin{bmatrix} x_1\\ x_2 \end{bmatrix} $$二者相乘得到：$$ Ax = \begin{bmatrix} 2x_1+x_2\\ -x_1+3x_2 \end{bmatrix} $$我们通常会从列向量的角度看待矩阵的乘法——矩阵的列向量负责生成输出。输入向量中的第一个坐标$x_1$，控制第一列的权重；第二个坐标$x_2$，控制第二列的权重。最终的输出，是矩阵各列的线性组合。也就是：$$ Ax= x_1 \begin{bmatrix} 2\\ -1 \end{bmatrix} + x_2 \begin{bmatrix} 1\\ 3 \end{bmatrix} $$这太自然了，从行角度来理解就不是很自然，我们把矩阵写作行的形式：$$ A= \begin{bmatrix} r_1\\ r_2 \end{bmatrix} $$其中：$$ r_1= \begin{bmatrix} 2&1 \end{bmatrix}, \qquad r_2= \begin{bmatrix} -1&3 \end{bmatrix} $$那么就有：$$ Ax= \begin{bmatrix} r_1x\\ r_2x \end{bmatrix} $$从这个角度看，矩阵的每一行都在对输入向量进行一次测量。第一行读取出输出向量的第一个坐标，第二行读取出输出向量的第二个坐标。这恰恰就是我之前写的文章的结论——行向量在输入空间里，负责测量输入；列向量在输出空间里，负责生成输出。什么是测量呢？我们来好好说说考虑函数：$$ f(x_1,x_2)=2x_1+x_2 $$这个函数看起来没什么特别的，接收一个二维向量，输出一个实数，比如对于一个向量：$$ x^*=\begin{bmatrix} 8\\ 9 \end{bmatrix} $$就能得到：$$ f(x^*_1,x^*_2)=25 $$这个函数特别像我们第一部分说的$r_1x$和$r_2x$，它们并没有把一个向量变成另一个向量，而是从向量中读取出一个数值。而且，矩阵中的这样的行向量的形式，满足线性性质，也就是：$$ f(u+v)=f(u)+f(v) $$以及：$$ f(\lambda u)=\lambda f(u) $$那么很显然，$f$是一个从向量空间到标量域的线性映射。如果把普通向量理解成空间中的箭头，那么协向量可以理解成一把对向量进行测量的尺子。也就是对于给定的向量，我有这样一种测量方式——矩阵的行向量所声明的测量方式——能够给出一个什么样的标量值。这种测量方式在二维平面上，就是等值线，一条条等值线，线的位置和取值有关。向量在空间中移动时：如果沿着等值线移动，测量值不变；如果跨越等值线，测量值发生变化；跨越的刻度越多，测量值变化越大。到这里，我们其实还没有引入任何新的东西，这些东西在我之前的专栏文章中已经说过了。柳下系船犹未稳：测量一定只有一种吗？我们给出了一种测量的方法，这种方法是由矩阵的行向量决定的，每一个行向量决定了一种测量的方法，但是，测量方法貌似不只有这一种，我们可以把所有从向量空间$\mathbb V$到实数域$\mathbb R$的映射，都看作一种测量方法。我们于是得到了一种新的集合：$$ \{f:\mathbb V\to\mathbb R\mid f\text{ 是线性的}\ \} $$这个集合实际上也构成一个向量空间，因为每个元素都满足我们上面提到的线性性质，也就是说，每一个$f$都可以看作一个小向量。这个空间，我们一般称作向量空间$\mathbb V$的对偶空间，我们记作$\mathbb V^*$。我们偶然发现了看待坐标的一个新角度，设$\mathbb V$有一组基：$$ e_1,e_2,\dots,e_n. $$任何向量都能写成：$$ v=x_1e_1+x_2e_2+\cdots+x_ne_n. $$定义一组测量方法（测量方法可以叫做协向量）：$$ e^1,e^2,\dots,e^n, $$使得：$$ e^i(e_j)= \begin{cases} 1,&i=j,\\ 0,&i\ne j. \end{cases} $$这组测量方法称为对偶基。它们的作用极其直接，就是对基做测量，很简单的测量：$$ e^1(v)=x_1, \qquad e^2(v)=x_2, \qquad \dots, \qquad e^n(v)=x_n. $$啊哈，到这里我们明白了「行向量在输入空间里，负责测量输入；列向量在输出空间里，负责生成输出」是什么意思——基向量负责生成：$$ v=\sum_i x_i e_i. $$对偶基负责读取：$$ x_i=e^i(v). $$能几日：协向量的拉回设$\mathbb V$和$\mathbb W$是两个向量空间，并有线性映射$$ A:\mathbb V\to \mathbb W $$对于输入向量 $v\in \mathbb V$，线性映射产生输出$$ Av\in \mathbb W $$因此，向量沿着$A$从输入空间走向输出空间：$$ \mathbb V\xrightarrow{A}\mathbb W. $$举个例子，设：$$ A= \begin{bmatrix} 2&1\\ 0&3 \end{bmatrix}, \qquad x= \begin{bmatrix} x_1\\ x_2 \end{bmatrix} $$那么：$$ Ax= \begin{bmatrix} 2x_1+x_2\\ 3x_2 \end{bmatrix} $$假设有一个输出空间的测量方式，也就是输出空间的协向量，也就是输出空间的对偶空间的一个元素：$$ \beta \in \mathbb W^* $$它接收一个向量，返回一个标量——这正是协向量要做的事情。设这个协向量是：$$ \beta(y_1,y_2)=4y_1-y_2 $$在选定坐标后，它可以表示为行向量：$$ \beta= \begin{bmatrix} 4&-1 \end{bmatrix} $$我们知道，输出向量是由矩阵乘法得到的，也就是：$$ y=Ax $$那么，我们关心的测量就是$\beta(Ax)$，这个东西就是：$$ \beta(Ax)=4\times(2x_1+x_2)-3x_2=8x_1+x_2 $$这个结果非常amazing啊，因为它是输入空间的一个向量，也就是说——输出空间中的测量规则，经过线性变换以后，可以转换成输入空间中的测量规则。我们原本想测量输出中的某个量，但输出由输入决定。因此，可以把这个输出测量反向传回输入空间，得到一个直接测量输入的规则。这个过程就叫做协向量的拉回。又中秋：转置的谜底设：$$ A:\mathbb R^n\to\mathbb R^m $$矩阵表示为：$$ A= \begin{bmatrix} a_{11}&\cdots&a_{1n}\\ \vdots&&\vdots\\ a_{m1}&\cdots&a_{mn} \end{bmatrix} $$设输出空间中的协向量$\beta$用行向量表示：$$ \beta= \begin{bmatrix} b_1&\cdots&b_m \end{bmatrix}. $$那么对于输入列向量$x$，有：$$ \beta(Ax)=(\beta A)x. $$因此，拉回后的协向量是（这里我们用$A^*$记$A$的对偶映射，也就是把$A$做的变换反过来，也就是$A^*:\mathbb R^m\to \mathbb R^n$）：$$ A^*(\beta)=\beta A. $$这里似乎没有出现转置。这是因为我们将协向量自然地写成了行向量。如果将协向量的系数也写成列向量$$ b= \begin{bmatrix} b_1\\ \vdots\\ b_m \end{bmatrix} $$那么：$$ \beta(y)=b^Ty=b^TAx=(A^Tb)^Tx $$因此，拉回后的协向量系数为$$ A^Tb. $$这说明：$$ \boxed{[A^*]=A^T} $$即在线性映射对应的基与对偶基下，对偶映射的矩阵就是原矩阵的转置。因此，转置并不是一个首先存在的几何动作。更准确的逻辑顺序是：线性映射$A$作用于向量；$A$自然诱导出对偶映射$A^*$；对偶映射将输出协向量拉回输入空间；在坐标中，对偶映射由转置矩阵$A^T$表示。所以：转置矩阵是协向量反向传播在坐标中的样子。举个例子这个例子我就懒得打了，用L'intelligence artificielle代劳了。设：$$ A= \begin{bmatrix} 2&1\\ 0&3 \end{bmatrix}, \qquad x= \begin{bmatrix} x_1\\x_2 \end{bmatrix}. $$所以：$$ Ax= \begin{bmatrix} 2x_1+x_2\\ 3x_2 \end{bmatrix}. $$现在输出空间中有一个协向量：$$ \beta(y)=4y_1-y_2. $$用行向量表示：$$ \beta= \begin{bmatrix} 4&-1 \end{bmatrix}. $$它测量输出：$$ \beta(Ax) = 4(2x_1+x_2)-3x_2 = 8x_1+x_2. $$因此，被拉回输入空间的协向量是：$$ A^*\beta= \begin{bmatrix} 8&1 \end{bmatrix}. $$如果把协向量的系数暂时也写成列形式：$$ b= \begin{bmatrix} 4\\-1 \end{bmatrix}, $$那么：$$ A^Tb = \begin{bmatrix} 2&0\\ 1&3 \end{bmatrix} \begin{bmatrix} 4\\-1 \end{bmatrix} = \begin{bmatrix} 8\\1 \end{bmatrix}. $$所以：$$ \beta(Ax) = (A^T\beta)(x). $$更标准地写：$$ \langle \beta,Ax\rangle = \langle A^T\beta,x\rangle. $$这说明：转置并不是把矩阵沿对角线翻转的一种形式操作。它是对偶映射在坐标中的矩阵表示。
我之前以为我好像cover掉了所有的内容，翻翻课本，发现落下了一些东西。不知道读者的体验如何，当笔者学习线性代数的时候，最困扰的地方有两个：转置的几何意义——我需要声明的是，直到现在，哪怕我写了一章有关于转置的几何意义，我还是没有办法完全理解它，我后面可能会写一篇专门讲转置的文章。二次型。在我看来，二次型是矩阵论中，将几何与代数连接起来的东西，是一个桥梁，但是怎么连接的，我却难以说出个所以然来。这次就来探讨一下。本文首先只讨论正定二次型，因为它最容易通过几何理解。从圆与椭圆开始……Takeaway:二次型指定了一种距离的衡量方式。二次型是什么？其定义很简单，是关于一些变量的二次齐次多项式，比如：$$ Q_1(x,y)=4x^2+3xy+2y^2 $$就是一个二次型。很显然，对于两个变量而言，一个最基础的二次型是：$$ Q_2(x,y)=x^2+y^2 $$我们都知道——这是一个圆。如果给这个二次型设定一个值，比如$Q_2(x,y)=1$，那么它在标准直角坐标系xOy上花了一条线，这条线上的点就是所有从原点出发，长度/距离为1的点所形成的一条线。为什么它是一个圆？这个问题听起来很蠢，但是却和我们后面要讲的东西息息相关，其原因是——这个二次型指定了一种距离的衡量方式，它在所有方向上的尺度都一致。我们改一下这个二次型：$$ Q_3(x,y)=4x^2+y^2 $$这是一个什么形状？当$Q_3(x,y)=1$时，我们很容易发现——这是一个椭圆，而且是一个y轴长，x轴短的一个椭圆，为什么？这里我们指定了另一种距离的衡量方式——x轴移动的代价变高了。……到交叉项的迷思……Takeaway:交叉项不一定表示二次型本身很复杂，而很可能表示我们的观察方向不是最自然的方向。当然，二次型不仅仅只有上面的形式，还有这样的形式，比如一个二次型：$$ Q_4(x,y)=5x^2+4xy+2y^2 $$这是个什么形状？我们画一下：这是一个倾斜的椭圆。为什么？因为我们没有找到观察这个形状最自然的坐标轴，比如我们的这个椭圆，依靠椭圆的长轴和短轴方向观察最为自然，但是我们现在的观察方向并不是这两个轴，这造成了一定程度的偏移。对于一个圆而言，没有最自然方向这一说，因为每个方向行走，代价都是一样的。而椭圆则不一样，改变了一个方向的代价，那么最好以这个方向为观察方向，沿着其他方向移动，不仅会引入修改方向的分量，也会引入其他方向的分量，这就是交叉项的成因。为什么？我们从代数上解释一下。假设在它自己的主轴坐标 $(u,v)$ 中，二次型很简单：$$ Q=\lambda_1u^2+\lambda_2v^2. $$这里没有交叉项，因为 $u,v$ 正好沿着椭圆的长轴和短轴。现在假设主轴相对于 $x,y$ 坐标轴旋转了角度 $\theta$。那么：$$ u=x\cos\theta+y\sin\theta, $$注意，$u$ 已经不只是 $x$，而是 $x,y$ 的混合；$v$ 也是如此。代回二次型：$$ Q= \lambda_1(x\cos\theta+y\sin\theta)^2 +\lambda_2(-x\sin\theta+y\cos\theta)^2. $$展开第一项：$$ (x\cos\theta+y\sin\theta)^2 = x^2\cos^2\theta +2xy\sin\theta\cos\theta +y^2\sin^2\theta. $$展开第二项：$$ (-x\sin\theta+y\cos\theta)^2 = x^2\sin^2\theta -2xy\sin\theta\cos\theta +y^2\cos^2\theta. $$合起来：$$ Q= (\lambda_1\cos^2\theta+\lambda_2\sin^2\theta)x^2 $$所以交叉项的系数是：$$ 2(\lambda_1-\lambda_2)\sin\theta\cos\theta = (\lambda_1-\lambda_2)\sin 2\theta. $$……再到矩阵这家伙的登场……Takeaway:二次型矩阵的目的就是告诉你，每两个方向之间应该如何做测量。二次型所对应矩阵的特征向量方向，就是最自然的观测方向。「嘿，你这家伙，我明白了，矩阵这个东西不就是在一定程度上，形容方向的吗？」没错！我们发现，对一个二次型所示形状的观察，需要找到最自然的方向，那么我们可以先把观测方向变一下，然后再观察，岂不自然很多。这听起来就很像矩阵要干的事情！我们通过之前的论述知道，二次型其实指定了一种距离的测量方式，那么我们先来考虑，一个向量的距离该怎么衡量？是范数。而且我们最常用的范数是2-范数：$$ ||x||_2=\sqrt{x_1^2+x_2^2+\cdots+x_n^2} $$两边都给个平方：$$ ||x||^2_2=x_1^2+x_2^2+\cdots+x_n^2 $$这就变成了向量每一项的平方和的形式，这很显然就是：$$ ||x||_2^2=\langle x,x\rangle=x^Tx=x^TIx $$那么，改变不同的测量方式，就变成了：$$ Q(x)=x^TAx $$其中，$A$是一个正定对称矩阵。「你先慢点，凭什么把单位阵变成对称阵就能表示二次型了？」没错，让我们来解释一下。我们来看一下普通的内积是：$$ \langle x,y\rangle=x^TIy=x^Ty. $$单位矩阵$$ I= \begin{pmatrix} 1&0\\ 0&1 \end{pmatrix} $$表达了三件事：$$ \|e_1\|^2=1,\qquad \|e_2\|^2=1,\qquad \langle e_1,e_2\rangle=0. $$也就是说：不仅横轴单位向量长度为1，纵轴单位向量长度为1，而且横纵两轴互相垂直。因此，$I$ 代表的是“两个方向尺度相同、彼此正交”的普通欧氏测量规则。对于一个复杂点的二次型，比如：$$ A= \begin{pmatrix} 4&0\\ 0&1 \end{pmatrix}. $$定义：$$ \langle x,y\rangle_A=x^TAy. $$那么两个标准基向量的长度变成：$$ \|e_1\|_A^2=e_1^TAe_1=4, $$所以：$$ \|e_1\|_A=2. $$而：$$ \|e_2\|_A^2=e_2^TAe_2=1, $$所以：$$ \|e_2\|_A=1. $$这意味着在这个二次型的测量标准下，横向走一个坐标单位，被认为走了长度2；纵向走一个坐标单位，仍然被认为走了长度1。这就是为什么这个形状对应着一个椭圆。实际上，这个椭圆是另一个空间中的圆。okok，到这里读者应该理解这个矩阵的基本作用了——这个矩阵的目的就是告诉你，每两个方向之间应该如何做测量。所以这个矩阵必须是对称的，因为在我们一般的空间中，两个方向之间的测量，必须需要满足交换律。到这里，我们可以拉开这个矩阵脸上，蒙着的最后一层面纱了，这个矩阵就是Gram矩阵，其元素就是：$$ G= \begin{pmatrix} \langle e_1,e_1\rangle&\cdots&\langle e_1,e_n\rangle\\ \vdots&&\vdots\\ \langle e_n,e_1\rangle&\cdots&\langle e_n,e_n\rangle \end{pmatrix} $$有了矩阵，就很好找到最自然的观测方向了——那就是矩阵的特征向量方向，如果$x$为$A$的特征向量，那么：$$ Q(x)=x^TAx=x^T\lambda x=\lambda x^Tx $$就能把交叉项全部去掉了。换一个角度，特征向量满足：$$ Ax=\lambda x $$也就是在这个方向运动，不会产生其他方向的分量。……但二次型不都衡量距离Takeaway:二次型实际上描述沿着不同方向移动的代价的组合方式。特征值体现了这种组合方式的性格。到目前为止，我们讨论的二次型都是正定的，这种二次型被称为正定二次型。它之所以能够被解释为一种距离，是因为任何非零向量在这套测量规则下，都具有严格大于零的长度。这是因为，在不同方向走，都对距离有着正向的贡献。那么我们来看一个稍微奇怪一些的二次型：$$ Q(x,y)=x^2 $$如果令$Q(x,y)=1$，就能解出，$x=\pm 1$，这是两条平行于y轴的平行线。很难说这是一种空间上的距离测量方式，因为它只考虑了二维向量的一个维度的信息。我们甚至可以构造更加奇怪的二次型，比如：$$ Q(x,y)=x^2-y^2 $$如果取一个定值，比如$Q(x,y)=1$，很显然是一个双曲线的形式。这是因为，在x轴上运动，对距离的贡献是正向的，但是在y轴上运动，就是负向作用。此时，二次型不再描述一种通常意义上的距离，而是在区分空间中不同性质的方向。也就是说，二次型并不是描述了距离，而是一种通用层面的……呃……沿着不同方向移动的代价的组合方式。那么，根据之前的论述，不难明白，判断一个二次型属于哪一类，本质上只需要观察特征值的符号：如果所有特征值都大于零，二次型正定；如果所有特征值都大于等于零，但至少一个等于零，二次型半正定；如果既有正特征值，又有负特征值，二次型不定。特征值不只是某些抽象的代数参数。它告诉我们，沿着相应特征向量方向移动时，二次型如何评价这一方向，为正？那就是正向的影响；为零？那就不考虑这个方向；为负？那就是负向影响。
呃啊！好难写！至于字母混乱，您多担待。通过之前的论述，我们知道，一个矩阵的逆矩阵就是一个线性变换的逆变换。比如一个向量$x$，经过矩阵$A$所表示的线性变换，变成$Ax$，那么再经过$A^{-1}$，就又变回了$x$。若方阵$A$可逆，那么$A^{-1}$表示与$A$相反的线性变换。向量$x$经过$A$变成$Ax$后，再经过$A^{-1}$，就能恢复为原向量：$$ A^{-1}(Ax)=x. $$同样，对任意输出向量$b$，都有$$ A(A^{-1}b)=b. $$在应用中，我们通常会求解$Ax=b$这种方程组，那么逆矩阵就相当于做了这样一件事，给定了一个线性变换$A$和变换后的向量$b$，我们要找到变换之前的向量$x$，那么一个矩阵如果没有逆矩阵，找到这个$x$就很难，我们需要想一些办法。原向量有哪几种情况？Takeaway:没有逆矩阵，那么目标向量，要么对应无穷多个原向量，1个原向量，要么对应0个原向量。为什么会没有逆矩阵？很显然，因为矩阵把很多方向压到了零向量，这样就相当于把一些维度的信息压没了，就导致没有办法逆过来运算。那么这个时候，对于不同的$b$，$x$有哪几种情况？其实只有两种情况——要么有无穷多个原向量，要么压根找不到一个合理的原向量。一个$b$对应无穷多个$x$，是由压没维度导致的。例如：$$ A= \begin{pmatrix} 1&0\\ 0&0 \end{pmatrix}. $$那么$$ A \begin{pmatrix} x_1\\x_2 \end{pmatrix} = \begin{pmatrix} x_1\\0 \end{pmatrix}. $$对于$$ b= \begin{pmatrix} 1\\0 \end{pmatrix}, $$有无穷多个解：$$ x= \begin{pmatrix} 1\\t \end{pmatrix}, \qquad t\in\mathbb R. $$因为第二个方向被完全压没了，而一个方向上有无穷多个向量，那么很显然，原向量就有无穷多个。一个$b$没有对应的$x$，还是上面的矩阵：$$ A \begin{pmatrix} x_1\\x_2 \end{pmatrix} = \begin{pmatrix} x_1\\0 \end{pmatrix}. $$它只能产生第二个分量为0的向量。所以，对于$$ b= \begin{pmatrix} 1\\1 \end{pmatrix}, $$方程$$ Ax=b $$根本无解。各种广义逆就是用不同的方法处理这两个问题。1-逆：如果$b$确实来自某个$x$，那就从多个原像中选一个。MP逆：若有多个解，就选长度最小的；若没有精确解，就找最接近的解。Drazin逆：它把线性变换分成可逆的长期部分和最终消失的幂零部分，只反转可逆部分。1-逆Takeaway:如果一个向量确实对应一个或多个原向量，1-逆就负责找出来，或者随便找一个。如果难以处理，不妨试试把矩阵简化，然后再另行处理。1-逆，通常记作$A^{(1)}$，要满足：$$ AA^{(1)}A=A $$也就是，如果$$ b=Ax, $$那么$$ A A^{(1)} b=b. $$所以 $A^{(1)}b$ 是方程$$ Ax=b $$的一个解。也就是说，如果一个$b$确实对应一个或多个原向量$x$，就找出来，或者随便找一个。「哎呀你这家伙，这哪有意思啊？那书上不是告诉你怎么算了吗？你这蠢货怎么不讲！」有读者肯定要说啦。哈哈，您别急，且听下一部分分解！1-逆的一个计算方法是这样的，设$A\in \mathbb{R}^{m\times n}_r(r>0)$，且有$S\in \mathbb{R}^{m\times m}_m$和$n$阶置换矩阵$P$，使得：$$ SAP=\begin{bmatrix}\mathbf{I_r} & \mathbf{K}\\ \mathbf{O} & \mathbf{O}\end{bmatrix}=M $$其中，$K\in \mathbb{R}^{r\times (n-r)}$，则对任意$L\in \mathbb{R}^{(n-r)\times (m-r)}$，下面这个是$A$的1-逆：$$ X=P\begin{bmatrix}\mathbf{I_r} & \mathbf{O}\\ \mathbf{O} & \mathbf{L}\end{bmatrix}S=PNS $$这个方法就是，通过初等变换把$A$变化成一个易于处理的形式，然后再考虑构造1-逆。首先，我们来看矩阵$M$，它其实把矩阵$A$拆成了两个部分，左上角是一个$r$阶单位阵，这是因为前$r$个方向是独立、有效的方向，后面的零行表示输出空间中有$m-r$个方向永远无法被$A$产生；$K$表示后面那些列可以由前$r$个主元列线性表示。然后，我们为$M$构造一个1-逆，也就是$N$阵，根据分块矩阵的知识，很好验证。现在$N$是$M$的1-逆，但我们需要的是原矩阵$A$的1-逆。由$$ M=SAP $$得到$$ A=S^{-1}MP^{-1}. $$定义$$ X=PNS. $$那么$$ \begin{aligned} AXA &= \left(S^{-1}MP^{-1}\right) (PNS) \left(S^{-1}MP^{-1}\right)\\ &= S^{-1}MNMP^{-1}. \end{aligned} $$因为$$ MNM=M $$所以$$ AXA = S^{-1}MP^{-1} =A. $$因此$X$就是$A$的一个1-逆。前两个Penrose条件Takeaway:条件一保证“映回输出没有错”，条件二保证“选出的反向结果自身一致”。有一类广义逆矩阵叫做Moore-Penrose逆矩阵，也可以叫做MP逆，那么一个矩阵如果是MP逆，可以记作$A^+$，就需要满足四个Penrose条件，分别是：$$ AA^+A=A $$$$ A^+AA^+=A^+ $$$$ (AA^+)^T=AA^+ $$$$ (A^+A)^T=A^+A $$对于第一条，实际上就和1-逆满足的条件一样，其实，正因为1-逆满足Penrose条件的第一条，才叫做1-逆。那么第一条实际上说的就是，如果一个向量有与之对应的原向量，那么逆矩阵必须要能够找到一个有效的原向量。第二条看起来就是把逆矩阵和原矩阵交换了位置，但是几何含义上略有出入，我们知道，$b$对应的一个原向量，可以用$A^+b$来表示，那么第二个式子两边同时右乘$b$：$$ A^+AA^+b=A^+b $$那么左边表示，我有一个原向量$A^+b$，那么在经历$A$变换和$A^+$变换之后，仍然还是原向量，直观含义就是，$A^+$选出的解必须是稳定的，不能反复“反推”之后又得到另一个解。这相当于条件一保证“映回输出没有错”，条件二保证“选出的反向结果自身一致”。根据条件一二，实际上可以推出：$$ (AA^+)^2=AA^+AA^+=AA^+ $$那么实际上，$AA^+$就是一个投影矩阵。突发新闻：投影矩阵Takeaway:投影矩阵要满足幂等性，输入输出空间应是一个空间。正交投影能得到与原向量，最近的向量。投影矩阵相当于把向量投影到某个空间上，那么通常满足幂等性，也就是$P^2=P$，幂次相当于多次投影，但是在第一次投影之后，已经在某个空间了，后面的投影就不会对向量进行改变了。考虑这样一个矩阵：$$ P= \begin{pmatrix} 1&0\\ 0&0 \end{pmatrix}. $$对向量$$ x= \begin{pmatrix} 3\\ 2 \end{pmatrix}, $$有$$ Px= \begin{pmatrix} 3\\ 0 \end{pmatrix}. $$这相当于把$$ \begin{pmatrix} 3\\ 2 \end{pmatrix} = \begin{pmatrix} 3\\ 0 \end{pmatrix} + \begin{pmatrix} 0\\ 2 \end{pmatrix} $$分成水平部分和竖直部分。投影保留了水平部分，删除了竖直部分。投影一定要求，输入输出在同一个空间内，只是删除了一些方向的信息，比如一个向量$x=u+v$，投影之后可能只保持了$u$方向的信息，如果$u$和$v$正交，那么投影矩阵就叫做正交投影矩阵。我们上面的例子就是一个正交投影矩阵，删除了$y$轴方向的信息。那么正交投影矩阵有什么性质？它能找到与原向量，最近的向量。为什么？因为点到直线的最短距离，是垂线段。没听懂？设要把向量$b$投影到子空间$V$，投影结果记为$$ p=Pb. $$正交投影的定义保证：$$ p\in V $$并且误差$$ r=b-p $$垂直于整个子空间$V$：$$ r\perp V. $$现在从$V$中任意选择另一个向量$v$。比较谁离$b$更近。我们有$$ b-v=(b-p)+(p-v). $$其中：$b-p=r$垂直于$V$；$p-v\in V$，因为$p,v\in V$。所以$$ b-p\perp p-v. $$根据勾股定理：$$ \|b-v\|^2 = \|b-p\|^2+\|p-v\|^2. $$因为$$ \|p-v\|^2\geq 0, $$所以$$ \boxed{\|b-v\|^2\geq\|b-p\|^2}. $$也就是：$$ \boxed{\|b-v\|\geq\|b-p\|}. $$因此，$p=Pb$是子空间$V$中离$b$最近的向量。只有当$$ v=p $$时等号成立，所以最近点还是唯一的。后两个Penrose条件Takeaway:条件三解决了目标向量没有原向量与之对应的情况，找到了一个向量，使之变换后与目标向量足够接近。条件四解决了目标向量没有原向量与之对应的情况，找到了一个向量，范数最小。通过前两个Penrose条件，我们已经能得到$AA^+$是一个投影矩阵，那么很明显，投影矩阵要求输入输出在同一个空间中，那么$AA^+$相当于把向量$b$投影到$A$能够产生的空间中，亦即投影到$\text{Col}(A)$空间中。因为对于一个向量$b$，它可能不在$\text{Col}(A)$中，但是$AA^+b$一定在$\text{Col}(A)$中。那么条件三要求投影矩阵是对称的——也就是说$AA^+$是一个正交投影矩阵。这解决了一个很大的问题——目标向量没有原向量与之对应的情况。如果这样，我们就对于一个无法精确产生的向量，先把它沿垂直方向投影到能够产生的空间中。最后一个Penrose条件有点棘手，直观来看，我们只知道，$A^+A$是一个正交投影矩阵，但是这有什么用呢？那么这里我需要要求读者死记硬背下一个结论，那就是，这个矩阵将向量投影到：$$ \operatorname{Col}(A^+) = \operatorname{Col}(A^T) = \operatorname{Row}(A) = \operatorname{ker}(A)^\perp $$这个空间，也就是$A$的零空间的正交补空间，这个空间和零空间的方向彼此垂直。举个例子，设$$ A=\begin{pmatrix}1&1\end{pmatrix}. $$它把二维向量变成一个数：$$ A\begin{pmatrix}x_1\\x_2\end{pmatrix}=x_1+x_2. $$例如原向量是$$ x=\begin{pmatrix}3\\1\end{pmatrix}, $$那么$$ Ax=3+1=4. $$这里有个问题：看到4，能恢复出原来的$(3,1)$吗？不能，因为以下向量经过$A$都得到4：$$ \begin{pmatrix}4\\0\end{pmatrix}, \quad \begin{pmatrix}3\\1\end{pmatrix}, \quad \begin{pmatrix}2\\2\end{pmatrix}, \quad \begin{pmatrix}1\\3\end{pmatrix}. $$更一般地，所有解都是$$ \begin{pmatrix}2+t\\2-t\end{pmatrix}. $$把它拆开：$$ \begin{pmatrix}2+t\\2-t\end{pmatrix} = \begin{pmatrix}2\\2\end{pmatrix} + t\begin{pmatrix}1\\-1\end{pmatrix}. $$其中$$ A\begin{pmatrix}1\\-1\end{pmatrix}=1-1=0. $$所以$(1,-1)^T$是$A$的零空间方向。这意味着：无论在$(1,-1)$方向上增加多少，输出都不会改变。那么，第四条约束就表明，我要把这些零空间方向，全置0。详细一点说，设任意输入向量 $x$ 都可以唯一分解为$$ x=x_{\perp}+x_0, $$其中$$ x_{\perp}\in \ker(A)^\perp, \qquad x_0\in \ker(A). $$因为$x_0$属于零空间，所以$$ Ax_0=0. $$于是$$ Ax=A(x_{\perp}+x_0)=Ax_{\perp}. $$也就是说，经过$A$后，$x_0$这部分的信息彻底消失了。只看到$Ax$，无法知道原来的$x_0$是多少，既然不知道，我就把它设成0，那么这就有一个好处——能够找到范数最小的解。为什么？令$$ x_*=A^+b, \qquad \hat b=Ax_*=AA^+b. $$因为$AA^+$是到$\operatorname{Col}(A)$的正交投影，所以$$ b-\hat b\perp\operatorname{Col}(A). $$对于任意$x$，都有$Ax\in\operatorname{Col}(A)$，因此$$ b-Ax=(b-\hat b)+(\hat b-Ax), $$且等号右边的两个向量互相正交。根据勾股定理，$$ \|b-Ax\|^2 = \|b-\hat b\|^2+\|\hat b-Ax\|^2 \geq \|b-\hat b\|^2. $$因此$$ x_*=A^+b $$是一个最小二乘解。接下来，设$y$是任意另一个最小二乘解。由于列空间中的最近点是唯一的，所以$$ Ay=\hat b=Ax_*. $$于是$$ A(y-x_*)=0, $$即存在$z\in\ker(A)$，使得$$ y=x_*+z. $$另一方面，$$ x_*=A^+b\in\ker(A)^\perp. $$所以$x_*\perp z$，从而$$ \|y\|^2 = \|x_*+z\|^2 = \|x_*\|^2+\|z\|^2 \geq \|x_*\|^2. $$只有当$z=0$ 时取等号。因此$$ \boxed{ A^+b = \arg\min \left\{ \|x\|: x\in\arg\min_y\|Ay-b\| \right\}. } $$即$A^+b$是所有最小二乘解中唯一的最小范数解。
奇异值分解之所以厉害，之所以常用，是它将变换拆成了旋转-缩放-旋转三个步骤，在缩放的过程中，能够找到对形状改变最大的方向，从而舍弃一些不重要的方向。笔者在这一节会讲一些奇异值分解的应用，如果能给读者带来一点灵感，一点启发，再好不过了。朝花夕拾：酉相似与酉等价Takeaway:酉相似是酉等价一个特例。两个矩阵酉等价，表明一个形状经过两个矩阵的线性变换之后，形状是一样的，只是有了旋转/翻转。在矩阵论的几何理解：矩阵转置与酉相似一文中，我写道：酉相似的定义是，若两个矩阵$A$与$B$酉相似，就相当于存在一个酉矩阵$U$，使得：$$ A=U^*BU $$$U^*$表示$U$的共轭转置，不过我们主要讨论实数域，那么就是正交相似，存在一个正交矩阵$Q$，使得：$$ A=Q^TBQ $$这个就很好理解了，先把矩阵换到一套新的标准正交基上，也就是$Q$变换，然后在这组基下描述线性变换，也就是$B$，随后转到常用的坐标轴下，也就是$Q^T$。那么酉等价——我们讨论实数域情况，也就是正交等价——其实就是对于两个矩阵$A$和$B$，存在两个正交矩阵$Q$和$P$，使得：$$ A=Q^TBP $$其实这个公式的意思也很简单，矩阵$A$代表的变换，相当于我们先选择一组坐标系，也就是$P$变换，然后在这组坐标系下描述一下线性变换，也就是$B$，然后再换到一个坐标系下，也就是$Q^T$。当然这个过程是不改变形状的，比如一个半径为1的圆形，经过$A$和$B$的变换，都会变成同样的形状，比如一个长轴2，短轴0.5的椭圆，二者的差别无非就是旋转的角度不同罢了。那么这样的矩阵关系，就称作酉等价。酉相似是酉等价的一个特例，代表输入输出的坐标系都是同一个，酉等价则是输入和输出可以分别用不同的坐标变换。旧酒新瓶：奇异值分解Takeaway:奇异值分解将变换拆成了旋转-缩放-旋转三个步骤。奇异值分解就是将矩阵$A\in\mathbb{R}^{m\times n}_r(r>0)$，分解为：$$ A=U^T\begin{bmatrix}\Sigma & 0\\ 0 & 0\end{bmatrix}V $$的形式，其中$U$和$V$是正交矩阵，$\Sigma$是一个对角矩阵。这就相当于把一个变换拆成了旋转-缩放-旋转三个步骤。这里有一个东西叫做奇异值，奇异值就是矩阵$\Sigma$对角的元素，为什么？奇异值是什么，奇异值在书上是这么记的：设矩阵$A\in\mathbb{R}^{m\times n}_r(r>0)$，那么这个矩阵的奇异值就是$A^TA$特征值开根号。为什么？这里可以通过范数的知识来理解，我们要求缩放，就要求矩阵在一些特别方向上的缩放程度，我们通过$V$换了一组基，那么就要在这些方向上考量缩放程度。缩放，就必须是单纯的缩放，不应该掺入旋转，那么很显然，这些方向就是矩阵$A$特征方向……吗？对于这样一个矩阵：$$ \begin{bmatrix} 1 & 10 \\ 0 & 1 \end{bmatrix} $$它特征值都是1，这表明，有两个方向，变换前后方向不变，缩放倍数是1，但是这不是我们的需求，因为单位圆在这个变换中会被拉成一个很长的椭圆状图形。特征值在这里没有很好地反映“最大拉伸程度”。这里读者一定要区分：特征值关心的是某些方向是否保持方向不变；奇异值关心的是所有方向中真正的长度拉伸。那么，我们的问题就变成了：矩阵在一些方向上对向量缩放了多少倍？落到形式上，就是：$$ N=\frac{||Ax||}{||x||} $$看分子的平方：$$ ||Ax||^2=(Ax)^T(Ax)=x^TA^TAx $$那么很显然，$A^TA$的特征值就是就是伸缩长度的平方，所以开个根号，就变成了伸缩长度。具体问题：最小二乘Takeaway:奇异值分解通过把问题进行拆分，给出了最小二乘解的通用公式。最小二乘问题是什么？其形式是给定$Ax=b$，当方程没有精确解的时候，求一个$x$，让其尽可能接近真实解：$$ x=\min_x||Ax-b||^2 $$最小二乘怎么起作用？假设我们求取了$A$的奇异值分解：$$ A=U\Sigma V^T $$那么最小二乘问题变成：$$ \min_x \|U\Sigma V^Tx-b\|^2 $$因为$U$是正交矩阵，不改变长度，所以可以在范数里面左乘$U^T$：$$ \|U\Sigma V^Tx-b\| = \|\Sigma V^Tx-U^Tb\| $$令：$$ y=V^Tx,\qquad c=U^Tb $$于是问题变成：$$ \min_y \|\Sigma y-c\|^2 $$也就是说，原来复杂的最小二乘问题：$$ \min_x \|Ax-b\|^2 $$被 SVD 变成了：$$ \min_y \|\Sigma y-c\|^2 $$而 $\Sigma$ 是对角矩阵，所以这个问题被拆成了一堆互不干扰的一维问题。具体来看，如果：$$ \Sigma= \begin{bmatrix} \sigma_1 & 0 & 0\\ 0 & \sigma_2 & 0\\ 0 & 0 & \sigma_3 \end{bmatrix} $$那么：$$ \Sigma y= \begin{bmatrix} \sigma_1 y_1\\ \sigma_2 y_2\\ \sigma_3 y_3 \end{bmatrix} $$所以最小二乘变成：$$ \sigma_i y_i \approx c_i $$如果 $\sigma_i\neq 0$，最自然的解就是：$$ y_i=\frac{c_i}{\sigma_i} $$最后再变回原来的坐标：$$ x=Vy $$所以：$$ x=V\Sigma^+U^Tb $$其中 $\Sigma^+$ 是把非零奇异值取倒数之后转置得到的矩阵。于是：$$ \boxed{x=A^+b} $$这里的：$$ A^+=V\Sigma^+U^T $$这个东西是啥？如果您学过相关内容，您就知道——这是伪逆矩阵呀！也叫做Moore-Penrose 伪逆。所以 SVD 和最小二乘最直接的关系是——SVD 给出了最小二乘解的通用公式。具体问题：词向量Caution:这一节用大模型代劳了，懒……orzTakeaway:SVD通常用于降维。词向量是什么？词向量是自然语言处理的关键步骤，将词语转换成向量的形式，那么一个词语的词向量需要满足一个非常直觉的想法——如果两个词的上下文分布相似，那么它们的行向量就相似。假设我们有很多文本，比如：I like deep learning I like machine learning deep learning is powerful我们可以先统计每个词和哪些上下文经常一起出现。比如构造一个矩阵：$$ X \in \mathbb{R}^{|\mathcal V|\times |\mathcal C|} $$其中：行：词；列：上下文；$X_{ij}$：词 $i$ 和上下文 $j$ 的共现强度。比如：$$ X_{\text{deep},\text{learning}}=10 $$表示 deep 和 learning 在窗口里共同出现了 10 次。这个矩阵可能长这样：$$ X= \begin{bmatrix} & \text{learning} & \text{machine} & \text{powerful} & \cdots\\ \text{deep} & 10 & 1 & 5 & \cdots\\ \text{machine} & 8 & 9 & 1 & \cdots\\ \text{cat} & 0 & 0 & 0 & \cdots\\ \text{dog} & 0 & 0 & 0 & \cdots \end{bmatrix} $$如果两个词的上下文分布相似，那么它们的行向量就相似。比如：“cat” 和 “dog” 经常出现在 eat、run、pet、animal 附近；“deep” 和 “machine” 经常出现在 learning、model、neural 附近。所以原始的词向量其实可以直接看作矩阵 $X$​ 的一行。问题是：这个向量太高维、太稀疏、噪声也多。很多次可能就出现1次，词表可能很大，那么我们可以用 SVD 降维。对矩阵 $X$ 做奇异值分解：$$ X=U\Sigma V^T $$其中：$U$：词这一侧的主方向；$\Sigma$：每个方向的重要程度，也就是奇异值；$V$：上下文这一侧的主方向。然后只保留前 $k$ 个最大的奇异值即可：$$ X\approx U_k\Sigma_k V_k^T $$几何角度的理解就是原始情况下，每个词是一个很长的上下文向量。比如：$$ \text{cat}=[0,3,0,10,1,0,\dots] $$它们很高维，而且很多位置是 0。SVD 做的事是：找出这些词向量变化最大的几个方向，然后把词投影到这些方向上。也就是说：$$ \text{高维稀疏上下文空间} \longrightarrow \text{低维稠密语义空间} $$所以 SVD 词向量本质上是：共现矩阵的低秩语义表示。
【Rethink Math】矩阵论的几何理解：线性方程组与满秩分解
这一节没什么难的，牢记秩的几何意义就可以啦！Hermite标准形 a.k.a. 行最简形Takeaway:行最简形实际上是为了在空间中找一组最简单的基。行最简形，保留了原来的零空间，但把描述这个空间的方程换成最简单的形式。正因为行最简形的作用，也就利于我们求解方程组。行最简形是什么？就是对一个矩阵$A$，如果它的秩是$r$，通常记作$A\in \mathbb{R}^{m\times n}_r(r>0)$那么对它进行初等行变换，使其变成矩阵$H$，使其满足：前$r$行每一行至少一个非零元，且第一个非零元是1，下面全是0。若$H$中第$i$行第一个非零元素1位于第$j_i$列，那么：$j_1<j_2<\cdots<j_r$$H$的$j_1,j_2,\cdots,j_r$列为$I_m$的前$r$列。那么$H$就是$A$的行最简形。举个例子吧，比如一个矩阵的行最简形是$$ \begin{bmatrix} 1 & 0 & -1\\ 0 & 1 & 2\\ 0 & 0 & 0 \end{bmatrix} $$它对应的方程是：$$ x_1-x_3=0 $$$$ x_2+2x_3=0 $$所以我们立刻能看出：$$ x_1=x_3,\quad x_2=-2x_3 $$令 $x_3=t$，得到解空间：$$ x=t \begin{bmatrix} 1\\ -2\\ 1 \end{bmatrix} $$这说明行最简形，把复杂的约束变成了主变量+自由变量的形式。至于这俩东西是什么，我们暂且按下不表。突发新闻：线性方程组Takeaway:求线性方程组的解就是求，经过线性变换后，落到目标向量的所有向量。有读者又要说啦，「你都没讲线性方程组，怎么就扯到了主变量」！好好好，现在讲——「你这蠢货，怎么现在才讲线性方程组！」——没招，行最简形和线性方程组是息息相关的，但是在矩阵论教材里，它的确被安排到了这里。Whatever，首先我们来想一想，线性方程组是什么？很简单，是这个样子：$$ Ax=b $$读过我前几篇blog/知乎文章的读者肯定会说——「嗨！我知道，这无非就是求经过线性变换后，落到目标向量的所有向量嘛！」没错！You are absolutely right!那么我们知道，线性方程组会出现三种情况——无解、唯一解和无穷多解。实际上，这对应着线性变换的三种性质，且听我慢慢道来。如果线性变换前后，没有压缩到零向量的向量，那么根据线性变换的性质，线性变换后的一个向量$b$，只对应着变换前的一个向量$x$。如果读者觉得难以理解，那就想，没有压缩到零向量的向量，那么说明空间只是扭曲了，原来的向量如果不同，那么变换之后的向量也不同——这个可以通过反证法证明。这就是说如果变换前后秩没变，就表明空间没有压缩到零向量的向量，方程组就一个解。如果线性变换前后，有压缩到零向量的向量，那么我们知道，线性变换会把一条线上的向量全压缩到零向量——这就表明，在这些方向上，随意变换，不会影响变换后的位置——这个解就是非齐次的解。但是，在没有压缩到零向量的方向上，是不可以随意变换的——这个解就是一个特解。这就是说如果变换前后有压缩到零向量的向量，方程组在压缩至死的方向上可以随意移动，但是在其他方向上不可以，所以有无穷多解，且解的结构是齐次的解+一个特解。那么无解又是什么情况？如果$b$不在$\text{Col}(A)$里，那显然是无解的，这就是为什么——当方程组的系数矩阵的秩小于方程组增广矩阵的秩的时候，方程组无解。因为$b$有了一个列空间没有的方向，压根走不到那里。回归主线：主变量与自由变量Takeaway:自由变量的个数确定解空间的维数。为了让自由变量生成的方向仍然留在解空间里，主变量必须配合出来的坐标。值得一提的是，自由变量和主变量之间，不是完全无关的，而是先对自由变量进行一个确定，然后根据自由变量的取值，主变量被限制到一个值上。举个例子。假设一个方程组化简之后变成了：$$ x_1+x_2+x_3=0 $$那我们就可以把它写成：$$ x_1=-x_2-x_3 $$现在问题来了，三个变量里面，谁可以自由选择？显然，$x_2$和$x_3$可以随便给。比如你让：$$ x_2=1,\quad x_3=2 $$那$x_1$就没得选了，它必须是：$$ x_1=-3 $$否则这个点就不在方程规定的空间里了。所以这里的$x_2,x_3$就是自由变量，$x_1$就是主变量。自由变量体现了解空间的维数，对于我们的例子，系数矩阵秩为1，那么就有两个自由变量，这表示解空间的维数就是2，也就是一个平面。读者在这里不要混淆解空间和列空间的概念，解空间实际上就是零空间，所以是自由变量确定了解空间的维数。满秩分解Takeaway:满秩分解的几何含义就是，把一个低秩的线性变换，拆成输入维度->秩维度->输出维度的变换。我们知道，矩阵$A\in\mathbb{R}^{m\times n}_r$表示一个线性变换，是一个从$n$维到$m$维的线性变换，但是当这个矩阵的秩是$r$的时候，是什么情况呢？假设这个$r$小于$n$和$m$，这个时候就表明$A$的输出实际上没办法填满整个输出空间，因为输出空间是$m$维的。变换只能填满这个空间的一个子空间，这个子空间的维度数是$r$。那么这个映射实际上可以拆分为两个，一个映射是从$n$维到$r$维，另外一个映射就是从$r$维到$m$维。用矩阵表示，也就是：$$ A=F^{m\times r}G^{r\times n} $$难以理解……我们举个例子！对于下面这个变换：$$ A=\begin{bmatrix} 5 & 0 \\ 2 & 0 \end{bmatrix} $$在空间上的含义就是把二维空间的向量，变到(0,0)-(5,2)这条直线上，它的满秩分解是：$$ A=\begin{bmatrix} 5 & 0 \\ 2 & 0 \end{bmatrix}=\begin{bmatrix}5\\ 2\end{bmatrix}\times\begin{bmatrix}1 & 0\end{bmatrix}=FG $$我们知道变换要从右向左看，那么矩阵$G$表示什么呢？很显然，这个变换就是把二维向量的x轴分量提取出来，这样就完成了核心的降维变换。那么$F$阵的作用就是把提取出来的x轴分量，放到(0,0)-(5,2)这条线上。这其实就是把所有向量的x轴分量提取出来，然后放到一条歪着的数轴上面。当然，满秩分解也不唯一，比如上面的分解可以写成：$$ A=\begin{bmatrix} 5 & 0 \\ 2 & 0 \end{bmatrix}=\begin{bmatrix}1\\ \frac{2}{5}\end{bmatrix}\times\begin{bmatrix}5 & 0\end{bmatrix}=F'G' $$这个含义就是把二维向量的x轴提取出来，扩大5倍，然后放到(0,0)-(1,2/5)这条直线上。