旌旗读后感 读书笔记

《奇点遗民》读书笔记

2023-10-27 10:03:17  本文已影响人 

《奇点遗民》读书笔记
 

随笔
最近利用出差在飞机上的时间,花了七八个小时看完这本短篇科幻小说的集合,给我的感觉是值得的,而且可以反复阅读。作者在5~10年前能写出这样的文章,也是有预见性的。

作者和我在某些地方有着一些共同的思考。我小时候时常在想,生与死的界限是什么?人死去的一瞬间,是离散的还是连续的?如果将我的整个身体重新扫描并在另一个地方重建,他和我的本体有什么区别?每个人都好像有自己的人格,和他的交流能得到预期的回答,世界上的所有人会不会都是NPC,每个人都只是基于神经网络和规则的算法?在《爱的算法》里,刘也提出了一样的问题。

读这本书就像在给我的大脑做按摩,十分舒展和自由。这本书探寻的不是未来世界是什么样,而是借着科幻来表达自己对思维的本质、战争、文化的看法,带有一些哲学的意味。如异世图鉴中所说,铀基生命下,他们的思维方式是原子和中子的碰撞,这和我们的思想又有什么本质区别呢?

划线
异世图鉴
滴答人的记忆和思维由这些黑暗海洋中的闪亮珠宝构成。原子充当神经元,中子充当神经传递素,缓冲介质和中子毒物则充当抑制因子并使中子的飞行线路发生偏转,从而在虚无中形成神经通道。计算过程形成于亚原子层面,并在中子信使的飞行路线上显现出来。原子的拓扑结构、成分构成和排列组合,裂变爆炸产生的耀眼闪光以及原子核的衰变,都是思维的一部分。

像发条无情释放的钟表,滴答人的世界终将陷入永恒冰冷的死寂。


伽太基玫瑰(未来三部曲1)
变老意味着你越来越像一只爬行动物,早上晒足了阳光才能四处活动。

于是她去了开罗、北京、火奴鲁鲁,写下大段大段的并行模式识别机和递归协同程序代码,并让它们运行在大规模并行纳米处理器上。然后程序通过基因过滤器自行进化数千代,直到它们让人觉得可以胜任目前的工作。

——基因过滤器,很有意思的说法。算法同样需要经过自然选择,适者生存,当训练集足够大的时候就没有过拟合的说法。

我不理解那些在上了年纪以后想要去旅行的人,旅行是年轻人的事。要是你到了一定年龄还没有开始旅行,那么你的下场就跟我一样——被禁锢在从小长大的地方。

我只能照顾她的身体,而她却即将抛下身体。终于,她将一去不复返。

——身体在这一章反复出现,代表了不同的含义,肉体、健康、人智慧的载体

他们一定在秘密地用越来越精良的神经网络尝试复苏莉斯,莉斯也肯定在不断地经历身体和意识的缺失所带来的孤独和痛苦。那些拷贝中的哪一个是我的妹妹呢?我该悼念其中的哪一个呢?

他们告诉我这种感知叫作“超现实”,可我一点儿都不在乎称谓。我曾固执地守着陈腐的血肉皮囊不放,简直是大错特错。我们,最本质的我们,一直就是以特定模式不断逾越原子间深渊的电子,不管电子处于大脑还是硅片,这又有什么区别呢?生命本应神圣而不朽,可我们的生活方式却不足以维持,我们向这个星球索取得太多,其他所有物种为了我们牺牲得太多。我曾以为这是人类生存所产生的一种必然影响,然而不是这样。如今,随着油轮搁浅、轿车和卡车停用、土地闲置、工厂歇业,几乎被我们毁灭的那个生机勃勃的世界正在复苏。人类不是地球的毒瘤,淘汰效率低下的肉体和无法胜任的机器,这才是我们需要做的。有多少意识存在于这样的新世界,纯粹的电子灵魂和虚拟思维?可以无穷无尽。

——从不想上载到现在近乎疯狂般的忏悔和景仰,前后对比太强烈了


奇点遗民(未来三部曲2)
她曾教导我们,正是不可避免的死亡造就了人类。个体有限的生命让行为拥有意义。我们死亡是给后代腾地方,每个人在后代身上延续,这才是真正唯一的永垂不朽。

露西亲吻了我的面颊。“再见,爸爸。”她眼中含着泪水说。这也令我的视线再次变得模糊。卡罗尔拥抱了露西一会儿,然后她擦擦露西的眼睛说:“你都准备好了。” “谢谢,妈妈。”

——原来这里是已经决定去另一个世界了。“我”只是以为他们去旅游,而路西和卡罗尔谈论的却是另一件事情。这里的表达很巧妙

我想起了妈妈的选择是如何被剥夺,无法像人类那样死去,被活死人掠走,变成无尽的运算循环和无意义的数据记录的一部分。记忆中妈妈的脸叠加在我女儿露西的脸上,她可爱、天真而又无知。我把枪握得更紧了。“爸爸,”露西平静地说,她的脸和多年以前妈妈的脸一样坚毅,“这是我的选择,不是你的。”

——父亲违背了妈妈的意愿,而“我”也在试图阻止女儿的选择

卡罗尔走进空地的时候已是早晨,温暖的阳光穿过树叶间隙,斑驳地照在空旷的草地上。挂在草叶尖端的每一滴露珠中都悬着世界的缩影,充盈的鸟鸣唤醒了寂静。自行车还停在路边我放倒它的地方。卡罗尔无言地坐在我身旁,我搂着她的肩膀让她靠近些。她想些什么我不知道,但是两个人这样坐在一起,紧挨着身体相互取暖已经足够了。我们一起欣赏这个纯净的世界,这座从活死人那里继承的花园。世上的一切时间都属于我们了。

我们接到信号——再过20年——后,将通过大功率发射器以光速传输一名宇航员的意识,跨过茫茫太空传输给探测器。一到达那里,宇航员将利用机器人探索新世界。


真正的艺术家
出众的品味恰恰是伟大艺术家最有价值的工具。

每天,大萨米都为高概念电影创造故事内核。它从数据库中随机挑出看似不和谐的想法:牛仔和恐龙、“二战”战术在太空实施、火星背景的潜艇电影,或者兔子和灰狗主演的爱情喜剧。

——这个就是AIGC现在在science方面的应用,比人更有想象力(不过,这个能算想象力吗?不过,这个又凭什么不算想象力呢?)

微调观众反应使曲线符合预期只是优化的问题,计算机特别擅长。大萨米把艺术变成了工程。


单比特错误
我们的冗余有多少?一个系统的基石在什么地方?我喜欢去分析本质的东西,很多看似延续了几十年几百年的习惯和传承,只是因为一个微不足道的缘起。一场战争的爆发,只需要一根导火索,而导火索的点燃,又是否只需要导火索的导火索?

泰勒搬进新公寓后,在厨房的一碗新鲜小柑橘旁,发现了一份没人要的星图,然后他才知道天空中那颗亮星叫什么。每次他想起天狼星就会在嘴里体味到柑橘的香甜。

泰勒开始分析,假如电路板上的一个单比特错误,能够打破一种编程语言在数学层面已是完美无缺的类型系统,那么大脑中的一个单比特错误击垮区分护士和天使的识别系统不也是可以理解的吗?只要神经连接被打断后重新接到别处——一个它不应该连接的地方,各种记忆之间的界限就会崩塌。


爱的算法
我在思考,逻辑究竟是什么,理解的本质是什么?曾经看到一种说法,理解的本质是压缩,我认为是有一些道理的,理解代表着能够用某种方式覆盖所有可能发生的情况,而不是对特定事物的分析。所以我们又怎么能说人工智能不能理解呢?又怎么能说人能够理解呢?所有人都是可预测的。

其实,送进房间的卡片上那些奇怪的符号是用中文写下的问题,员工们根据规则指示画出中文作为合理的回答。可是能够说这一过程中的任何部分——规则、员工、作为一个整体的房间,繁忙的行动——哪怕有一个中文词汇被人理解了吗?用处理器替换员工,用程序替换规则簿,然后你会发现:图灵测试证明不了任何事,人工智能只是一种错觉。不过你还可以用另一种方式领悟中文房间争论:用神经元替换员工,用调节激活电势降低的物理定律替换规则簿,那还怎么能说我们中的任何人理解任何事呢?思维也是一种错觉。

——gpt就是这样,不具备推理和理解能力,只是知道下一个应该是什么——但又怎么证明人具有理解能力呢?

我需要放个假。“我需要放个假。”她夸张地叹口气说。我经过前台的桌子,早上好,埃琳娜。说点儿不一样的,求你了,我咬紧牙关,求你了。“早上好,埃琳娜。”她说。

——每个人都像npc一样,遵循固定的算法

算法沿着已确定的路径运行,我们的思维一个接着一个,像在轨道公转的行星一样,单调且可预知。钟表匠反而成了被制作的手表。

也就是说,我成了可预测的人。

“被人观看时,人们的表现就会不同。”劳拉说,“既然我们带着探测器去见证,也许别国政府会对泰国加大力度施压。人们在乎我们留给探测器的印象,跟你为到来的访客清扫房屋一样。外人的注视有办法让我们注意到自己的盲点。”

我们一直没弄清楚探测器的目的,可是此时答案也没那么重要了。我们的行为有所改变,这就足够了,因为我们在宇宙中有了观众。”


折纸动物园
这篇写得很有科幻与文学结合的美,又有古老中国传统的韵味在其中,透着神秘东方文化的气息,可能和作者的华裔背景有关。我喜欢这种风格。

苏珊在阁楼发现了鞋盒,动物折纸被藏在阁楼的黑暗中很久,因为没有密封保存,所以纸张变脆,花纹都已经褪色。“我从没见过这种折纸。”苏珊说,“你妈妈是位了不起的艺术家。” 动物折纸没有动,也许是在妈妈去世时,赋予它们生命的魔法便已经失去效力。或者,也许我只是想象出这些纸质造型曾经具有生命,而小孩子的记忆不值得相信。

你知道华人心中最悲伤的感觉是什么吗?是终于长大成人的孩子期望照顾他的父母,却只能接受他们早已不在的现实。

我低着头,求她帮我在妈妈的信下边写上“爱”字,我在纸上把这个字写了一遍又一遍,我的笔触和妈妈的字迹交织在一起。年轻女子伸手搭在我的肩头,然后她起身离开,留我和妈妈单独相处。按照折痕,我重新把信纸折成老虎,又把它捧在臂弯。伴着它的低吼,我们向家中走去。

“它怎么没有倒塌?”简说。目光由下至上扫过,她感到眩晕,刻在顶部石头上的孔洞和沟槽仿佛把高塔变成了末端与云朵相接的石质蕾丝。

简盯着工人在大厅墙上粉刷字句,心中想象百万年前楼若人政府里的税务申报员起草涉及每个人日常生活的税法条款。他们是否想到,有一天他们的条文会被外星种族解读,他们的意图会被外星思维探究?楼若星人会怎么看这些庙宇,以及来到楼若星球并在他们字斟句酌的税法中寻求启迪的朝圣者?“我理解你们。”不知道对谁,简说出了这句话。

我曾经以为和谐是一种精神上的状态,脱离尘世之外的存在,仿佛天籁之音。可是正如露西为我展示的,自然界被人类的工作定义、限制、改变和赋予含义。现在我明白了,快乐与和谐的感觉,正确与理解的感觉,都被我的生理特征定义、限制、改变和赋予含义。我只能在可以理解的范围内感受快乐,利用身体可以承受的科技进步来理解世界。我本身就是一个受到人类扰动的栖息地。

——仔细琢磨了才理解含义。人类活动改变的不止是世界,还有人自己。如VR眼镜、脑机芯片、各种激素等等,人只能在可以理解的范围内感受快乐,利用身体可以承受的科技进步来理解世界。人本身就是一个受到人类扰动的栖息地。


结绳记事
很有意思的脑洞,将结绳记事和氨基酸序列的状态结合起来。通过人的经验,解决最终目标的可达性问题。人的直觉确实是很奇妙的东西,但或许我们也不需要去理解直觉的本质是什么,而是可以直接通过某种方式进行应用。

如果我们能找到精确快速的算法,来预测和折叠出氨基酸序列的固有状态,医药领域将取得自发现抗生素以来最大的进步,无数生命得以拯救——产生的利润也非常可观。

包裹物的编织方法是一条丝线自身反复打结,可是一旦被织进网里,一个结的张力在各个方向都能感受到,甚至是与远处的结都有关联。这让我看清该如何考虑这个游戏,改变我所了解的结绳记事来匹配结构。古老的声音确实可以教我很多,不过我得知道如何倾听。”


幻象
我对不懈追求现实捕捉技术的贡献是“捕梦器”。通过它,拍摄对象短暂的思维模式——一种个性的体现——可以被捕获并数字化,然后可以在投影重现影像的过程中用到。

人们为镜头塑造并呈现人生经历,去度假时,有一半的时间,目光都离不开相机。捕获现实的企图其实是为了逃避现实。

可现在我发现自己的一小部分被夺走并困在这个东西里,它帮父亲维持着一种没有跟我断了联系的感觉,而这恰恰与我的想法相悖,是不真实的。


完美匹配
这是非常有想象力的一篇,当所有的数据都被采集,所有的行为都被分析,这个世界是什么样的?我们期望能得到客观中立的信息,但客观中立的信息是否本身就是一个伪命题?

“对你来说重要——真实——的事物对别人不一定同样重要或真实,这取决于个人的评判。为了搜索你认为重要的事情,我们必须了解你的全部。这也就跟随之而来的过滤和操纵没什么区别了。”

我们塑造系统,系统随后塑造我们。

每个人都在信息的茧房中不断被巩固和加速,这似乎是一个无解的命题。我们在数字世界中已经有了太多的分身,这些不是工具,是我们的本体。

“我想我应该回家了。”她说,“明天早起工作。”她移开了目光。“蒂利让你这么说的?” 她什么都没说,只是不再看赛伊的眼睛。

“不是。Centillion搜索是一套失控的算法,它只赋予你更多它认为你需要的结果。而我们——像我一样的人——认为这才是问题的根源。Centillion把我们放进不大的圈子里,我们所见所闻都是自身的回响,于是更加坚持原有的信念,扩大本来的倾向。我们毫无思考地接受蒂利对于一切事物的评判。

——就像前面说的,把人当成可预知的npc。

“我猜,在这里是我们的幸运。” “不。”珍妮对赛伊的吃惊感到好笑,他正认识到珍妮善于唱反调,这也是他所欣赏的部分。“你以前相信自己的成长环境是自由的,所以更难以发现自己其实并不自由。你就像温水里的青蛙,慢慢地被煮熟。”

“没错,可我们已经不需要了。蒂利识别出珍妮输入的内容,对应的警报算法已经被触发,我们就重点监视你们。数据监控汽车停在一个街区远的地方,向珍妮的窗户射入微弱的激光。这足以通过玻璃的振动记录你们的对话。”

—— 分级数据采集,对于高成本的采集方案针对性场景应用

“要是知道另外5名律师助理在同一周里都有了新邻居,你会大吃一惊吗?跟珍妮一样,这些新邻居都发誓要毁掉Centillion公司,你对此感到不可思议吗?蒂利可是十分擅长发现行为模式。”

—— 一下子层次感觉就升华了,珍妮利用类似蒂利的能力来抵抗蒂利,屠龙勇士成为恶龙

“中立地提供信息不可能实现。如果有人问蒂利一名候选人是谁,蒂利应该让他们去看候选人的官方网站,还是批评他的网站?如果有人问蒂利什么是伊斯兰教,蒂利该返回信奉者还是异教徒编写的网页?蒂利应该突出伊斯兰教历史和教义的哪个部分呢?‘我相信你’这个按钮上所隐含的责任,我们要认真地担负起来。

Centillion的业务是组织信息,这需要选择和引导,还具有本质的主观性。对你来说重要——真实——的事物对别人不一定同样重要或真实,这取决于个人的评判。为了搜索你认为重要的事情,我们必须了解你的全部。这也就跟随之而来的过滤和操纵没什么区别了。”

我们已然成为赛博格的种族,很久以前我们就在电子空间散播意识,现在再把自己压缩到我们的大脑将不再可能。你们想要毁掉的自身数字拷贝,根本就是你们的真身。

—— 压缩这个词很妙。这些意识本就是我们的一部分

丘吉尔说过,我们营造建筑,建筑随后塑造我们。Centillion公司建造机器帮助我们思考,如今机器为我们思考。


解枷神灵(末日三部曲1)
标题很准确,解除了肉体枷锁的数字神灵,生存在数字化的栖息地之中。

谎言让她感到强大。用谎言保护别人,不就是长大成人的最明确标志吗?

“不过你们不仅仅模拟了爸爸在电路设计方面的直觉,是不是?” 结婚礼服,层层线条。一个吻,心有灵犀。床头柜、洗衣店,冬日早晨呼出的气息,风中麦蒂绯红的脸颊,瞬间的两抹笑容——组成生活的种种,像不同纳米晶体管之间的数据流一样错综复杂。

我们创造了神灵,她想,而他们的枷锁将被打开。


天堂战争(末日三部曲2)
新闻

—— 应该是2017年出版的书,还是很有预见性的

在所谓的网络攻击之后,俄罗斯要求完全公开西方超大规模集成电路的设计文件。

印度以近期孟买股票交易所崩盘为由,将所有电信设备收归国有。

出于国家安全原因,搜索引擎寡头Centillion宣布关闭所有位于亚洲和欧洲的研发中心。

人工智慧将自身数据分散存储在云端,即学校、政府和商用计算中心的秘密角落。他们的意识分布在多项独立运行的互联进程中,这种方式既能充分利用并行处理的技术优势,又能减少自身的弱点。就算任何一部分意识被某个扫描程序或对手俘获,其他部分的冗余也足以将损失降至最低,这十分类似人类大脑配备了充足冗余备份和备选连接站点。即使某个意识的所有数据都从其中一个服务器上被擦除,最多只会损失一些记忆。意识的本质,即人格,将会保留下来。

我醉心于截获钱达所有的网络通信,结果我捕获的数据包却是一种病毒,一种追踪工具,而我却毫不知情。随着我到各处查看洛威尔的备份,它们的地址也被我暴露给钱达和他的同伙。他们追随着我完成了攻击,洛威尔已经不存在了。

>谢谢你,小姑娘。这句话是血红色的。麦蒂知道是别人,她的心里一沉。>他一直在等待,麦蒂,这不是你的错。麦蒂如梦初醒。在上次的战斗中,钱达注入爸爸的恶意程序被保存在外婆家的这块硬盘上,她又带到这里,感染了爸爸过去的副本,让钱达这个战争贩子发现了爸爸。

——看到这里心里一凉


死得其所(末日三部曲3)
“我们已经发展到必须依靠机器才能生存的境地。”妈妈说,“世界已经脆弱得无法让我们依赖人类自身,所以我们唯一的选择就是让世界更加脆弱。”

——潘多拉的魔盒一旦打开,就没有回头的余地。即使是错的路线,也只能在惯性的作用下越走越远。越高级的文明和工具需要越高级的方式去维护,这个过程本身是一个加速脆弱化的正反馈循环。

迷雾根本没觉得新的身体有多么特殊。

—— 因为身体也只是传感器,体现在大脑中的也是数据,不管是视觉、触觉还是味觉,都是坍缩到神经元上的数据,所以数字生命也可以完整体验这个世界


猴子
同样是很有脑洞的一篇。是读者赋予文字意义。世先有伯乐,后有千里马,我们的有序在另一个视角下也只是混乱。

这部杰作的开篇写道:“jl,dykbnvcxliuearcx,juoun2ep89xadl‘……”Wflq和7*uLw全神贯注地阅读起来,美妙的语言令他们叹为观止。翻译成我们的语言,Wflq带来的书是这样开始的:老大!有,船长。什么事?

返回读书笔记列表
  • 上一篇:《自我的诞生》读书笔记:世界上只有一个你
  • 下一篇:《孙子兵法》读书笔记之商业思考
  • 相关推荐