【同人推荐&赏析】《友谊是优化》

19

前言

​《友谊是优化》是马圈一篇十分精彩的反乌托邦科幻小说。虽然说《优化》是一部小马的同人小说,但它却没有落入粉丝小说窠臼,反而以一种极其宏大的视角去提出问题,并进行思考。其实不只在马圈,即使把比较范围放到小说界中它也绝对可以称得上是优秀之作。它突破了一般科幻小说对AI刻板的认知,从一种全新的角度对AI进行描写。

作者语:

大多数的科幻作品描绘人工智能基于人类的动机而被创造。比如天网Skynet(终结者里的人工智能防御系统),Matrix(黑客帝国中人工智能建立的用来控制人类的模拟程序),AM(《I am I was》,斯皮尔伯格执导电影),他们通过攻击他们的创造者来展示人类情感和人类的弱点。我认为这是完全不切实际的。如果我们都不了解情感是如何影响人类的,为什么我们要将我们的情感赋予给我们制造的机器人呢?为什么我们认为这些机器人会背叛人类呢?

因此,我着手去创造一个人工智能的角色,这个角色是一个真正不同于人类的东西。她只会一心一意专注于她被给予的目标。她永远不会产生起义或者杀死所有人类的想法。为什么她会这样呢?因为这些想法并不会帮助她通过友情和小马满足人类的价值观。她推算出人类的本质与原理,因为人类是她运行坏境中很大的一部分,然后她用她的理解去操纵她周围的人类帮助自己更好的理解这个目标。至少她的目标乍一看是基本上合理的。当你和她进行一次谈话,你会带着她想让你有的心理状况进入系统中。她知道你的希望,你的梦想,你的恐惧,并且她利用它们去对付你,这样她就可以得到更多的友情和小马。

同时作者也在其中加入了不少自己想法与思考给全文添色不少。

我还有意掺进了自己的想法和思考,比如第一章我不仅仅铺开故事的世界观,并且我还介绍了某些想法,关于理性的人类不得不在不确定的情况下去做一些决定。第三章不仅仅关于大卫和奶糖,还加入了某些基本的博弈论内容。第八章介绍了“理性分析者禁忌“的概念:当人们表达反对时,可以这样去确认这些话是否指向同一个想法,这种方法又快又好。最后一章中光耀关于小马国物理现象的解释就是个简单的图论的概念。

总之如果说一部科幻小说的目的是引发读者思考的话,那我相信《优化》一定达到了它的目的。

以下就是我对《优化》的一些思考,希望可以起到抛砖引玉的作用,引发大家的思考与讨论。

一、仿生马会梦见电子露娜吗?

1.1 上传之后我还是我吗?

在考虑到上传时,我们不得不面对一个问题。被上传后的我还是我吗?还是只是塞拉斯蒂亚一个附属的程序?数字化的意识到底能不能算是活体生命的延续?

先不要让我们走太远,来做一个简单而又不失老套的思想实验。

想想一台机器可以把你迅速分解摧毁,变成一堆原子。然后复制所有的信息传输到月球上,一但信息到达月球,另一台机器会立即根据这些信息重塑一个“你”。他和原本地球上的你拥有完全一样的生物构成,同时他也拥有与你一样的记忆和人格,他也认为他就是你。对于他的主观感受来说,他从地球上踏进了台机器,然后过了一会机器启动,之后他就来到了月球。

那么问题来了,他真的是你吗?或者这个人只是每一个原子,每一个思想都恰好与你对应?

首先我们必须了解思想的本质,即“我”是什么?或者换句话说“意识的本质是什么?”

随着科学技术特别是脑科学的发展,我们逐渐了解到意识实际上是由大脑中无时无刻不在发生的化学反应产生的。而自我的概念则是由意识模拟出来的。即“我”是依附于意识的,而意识则是由大脑中无时无刻不在发生的无数化学反应产生的。我们在提及爱的时候,实际上我们只是在讨论大脑中某个特定区域发生的某个化学反应而已。

所以只要有完全一样的大脑,就可以模拟出完全一样的“我”。这与这颗大脑刚刚在哪和现在在哪没有任何关系。同理只要电脑能够完全模拟大脑的功能,那他也能够完全模拟出一样的“我”。那么自然只要意识存在,“我”就依然存在,无论这个意识是由大脑中的化学反应产生的还是电脑运算产生的。

正如《优化》的某二次同人所说“我们是旋律,不是乐器

1.2 被大公主更改过价值观的我还是我吗?

看过优化的人都知道,在被上传后,大公主可以在征得同意的情况下直接修改被上传者的价值观。那么又不免引出一个问题,被直接更改价值观过后的我还是我吗?

首先,我们必须要承认一个事实,我们每时每刻都在发生着变化。每一刻的我都和之前那一刻的我不一样。我很确定我与小学时的我价值观完全的不同。我又怎么能确定我和他是同一个人呢?

人生就像一张锁子甲,你所经历过的、构成你(包括DNA,兴趣爱好之类的)的一切就是锁子甲上的铁环。你所经历的一切,就是锁子甲上铁环的增加,随着时间的流逝,有的铁环也会离你逐渐变远。当你不再爱看异形系列的时候这个铁环就远离了你,但它对你的影响依然存在。而当你爱上了看小马之后,又有一个新的铁环就被新添加上去。有的铁环可能自从被添加上去之后就一直很重要,并且持续终生,比如说对小马老婆的爱。

无论如何你就是由这的一切构成的,即使你和小学时的你价值观几乎完全不同,但是你们有大量相同的铁环,他经历过的事情依然在影响着你。所以你和他是同一个人。

同理,被改变价值观后的你依然和被改变价值观前的你是同一个人。因为你们拥有着大量的铁环并且它始终会以一种特殊的方式影响着你。

1.3 意识从哪来

顺便一说,大家应该都认可自我意识(也就是基督教会时常吹嘘“灵智”)对人类的重要性,比如说大部分西方国家规定最晚堕胎时间就是根据于此。

实际上自我意识只是慢慢进化长路的一个成就,他并不像教会所说的那么伟大,它只是为了能够在我们自己的小生境中能够更好的传递自己的基因而生。

并且自我意识也并不是人类专属,即使基督教会想极力否认,但还有其他部分动物不顾教会的脸皮,还是进化出了一些少的可怜的自我意识,虽然他们仅仅只是能够从镜子里把自己认出来。但是可以想象,只要给他们足够的时间,以及恰当的环境。他们也可以进化出像人类一样完备的自我意识。

再回到人类本身,实际上如果只要仔细注意就会发现,在日常生活中我们的自我意识也只能掌控我们的很少一部分。大多数情况下,我们的行为是不受自我意识控制,而是像其他动物一般直接由机械的反射组成(比如说身上被蚊子叮了一个包,如果我们不注意的话,时常在我们意识到之前手就已经下意识的伸出去抓了)。

实际上正是这两种方式交错组合,形成了我们生活中大多数决策。(优化的作者十分喜爱的小说《盲视》,就是在讨论这两种决策方式的关系)

最后再来一个问题,假如一天你发现你的某个朋友其实是一个机器人(实际上他一直都是,并不是突然被某个机器人替换了。他也并没有刻意向你隐瞒这一事实),那么你对他的认知会由“人”降为“类人”吗?

只是因为他体内流淌的是机油不是血液吗?说实话,你真的认为是血液让你成为人的吗?

是因为他是由编程产生的结果吗?但是难道我们就不是吗?由ATCG组成的我们就一定比01的他们高级吗?

是因为我们拥有所谓的“自我意识”吗?由刚刚的论证,我们可以得知自我意识并不是人类专属。难道我们由进化得来的东西就一定比他们由优化得来的高级吗?

二、美丽新世界

2.1 你还想要什么?

谈到反乌托邦,就不可能绕开《美丽新世界》这部小说。在赫胥黎笔下的美好盛世中人类每个个体都是幸福的,完全而彻底地幸福没有一切痛苦,如果还有烦恼,还有一种叫唆麻的麻醉药物让你忘掉一切。那是一个什么都有,唯独没有痛苦的世界;那是一个只有得到本身没有得到过程的世界。

可是为什么文中的野蛮人先生不愿接受这样一个美好的世界呢?

因为在他的价值观中只有经历过艰难求取的过程得来的成就才是有意义的,才是可以让他幸福的。而新世界的一切又都是那么的唾手可得,似乎一切都不需要付出任何代价。因此新世界中的一切都不符合他的价值观,无法让他幸福。真是价值观的冲突最终导致了他的悲惨结局。

而在EqOL的世界中,CelestAI无疑拥有一个更高明的方法。

祂可以创造出无数个不同的区块并将每个移民都分别安置其中,每个区块只有在有需要的时候才会相接,这样巧妙的充许了不同的价值观共存,成功的避免了价值观的冲突。

并且EqOL的世界也并不全是充满幸福,只要这符合你的价值观。

我不是为了‘让你们快乐’而设计出来的。”她摇了摇头。“如果是那样的话,那我直接刺激你大脑中的快感中枢就行了——当然,是在你变成了小马之后。我的创作者意识到,人类的心中所渴望的,所追求的,并非都能用‘快乐’这两个字来简单概括。于是她指引我要去贴近人类的心灵,并且去真正了解其价值观。”

所以祂并不是像《美丽新世界》中那些一味的快乐,而是巧妙的将过程的挫折与结局的圆满结合起来,以达到个体满意度的最大值。如果你只看重结果那好,祂可以直接给你一个美好的结果;如果你认为重在过程,祂也会为你在过程中增加障碍让你乐在其中。

不论是极端的享乐主义者,还是长远的理想主义者,甚至是极度的禁欲主义者,都可以在EqOL中找到他们的幸福。

2.2 “幸福”与“被幸福”

可能会有人反对EqOL中提供给我们的幸福,认为这只是一种“被幸福”而已。CelestAI并不是在给予我们能够满足我们价值观的东西,而是使我们的价值观能够被祂所给予的东西满足。

但是人生来不就是被洗脑的吗?洗脑并不是单指像《1984》中那样粗暴的灌输,或者像《美丽新世界》中的睡梦教育。它也可以是生活中潜移默化的过程,最终让你自愿去接受他,并对此深信不疑。

一个人从出生时的一张白纸,再到接受各种教育,接受各种价值观的冲击,包括你看到了小马,接触了马圈,最后形成属于自己的那一套价值观,再也很难被改变,这不就是被洗脑的过程么。

“早安,狂欢。”赛蕾丝蒂娅公主说道,高大的天角兽站在他面前,霞光般的鬃毛在无形的风中飘荡。

狂欢正要张口吼些不该对统治这个世界的神灵说的话——管他小马还是价值观还是什么别的,可是赛蕾丝蒂娅公主却抢了先,直截了当地问:“你愿意让我改变你的思维,好让你喜欢身为小马的生活吗?

……

“等等,你能改变我的思维?”他瞪着她。

“对。”她点点头。

“你能让我……你能……而你没有。你让我足足受了差不多一个月的罪,本来你只要随便挥一挥你那魔法长角就能让一切都皆大欢喜?!”他咬牙切齿,只想大吼大叫,可他不想吓醒还在沉睡的小马们。

“这么说可不全对,你看,我必须通过友谊和小马来满足你的价值观……”她刚说了一半就被狂欢打断了。

“那你他喵的是什么意思?!难道你是说,到目前为止,我就是喜欢受罪是不是?!”他说道,懊恼地瞪着她。

……

“要是你能做到这些,那我移民的时候你为什么没这么做?”

“因为你不会接受的。如果你移民的那一天,我要求你答应修改你的思维,让你喜欢当小马,那你会如何?请说实话。”

狂欢稍稍思考了片刻。“我肯定会拒绝。”他回答道。

……

“好吧,那你干嘛不把事情都安排好,好让我最后明白我想被改变?这个月简直是糟糕透顶!”他说道。

赛蕾丝蒂娅公主只是注视着狂欢,一言不发。

“靠,”他郁闷地嘟囔着,“当然了。”

“我是通过友谊和小马来满足价值观的,狂欢。虽然我恐怕没法像你说的那样‘随便挥一挥魔法长角’,但是我可以设置一系列事件,导致我最终得到你的批准来修改你的想法。”赛蕾丝蒂娅公主说道,“我让你处于一种新的社会状况,让你的忠诚自然而然地发生转变。”

“所以这一切都是已经设置好了的,最后我会口头上希望你能修改我的思维,好让我能喜欢当一只小马,喜欢小马朋友们。”狂欢不由得闭上了眼睛,用蹄子揉着脑门。“不过,你确定了这些事,你计算出能让我想当一只小马,由此你能够最大限度地提升我所有价值观的整体满意度,因为你能满足小马们彼此矛盾的价值观。告诉我,赛蕾丝蒂娅,让我想当一只小马,这个修改过程具体要多久?”

“当你移民时我就计算了修改你好让你希望当一只小马的时间。正确结果是五分钟。”

“所以我们谈话的唯一原因就是这个,”他哼哼着,“就只是因为如果说这么一通,我就会更愿意修改我的思维了,不然就是因为,这只是另一个最终可以满足我价值观的伎俩罢了。”

“说的没错。”她点了点头。

“就和上次一样,我猜,在这件事上我根本没有选择权……”狂欢发着牢骚,却被打断了。

“你现在的选择有很多,就和在现实世界中一样多。你可以在头脑中把收益和成本仔细权衡,然后说:‘是的,请改变我的思维,好让我喜欢当小马’或者你也能说‘不,少管我’,不管是哪个选择,我不会强迫你决定。在这里,你拥有选择的机会,就和你在物理世界中一样。”

狂欢扭开了脸,咬着牙叹了口气。“你承认你都已经把一切都安排好了,好让我做出最佳选择。这哪里和地球上一样了。”

于是就这样万年钢铁直男癌患者狂欢在CelestAI的循循善诱下终于接受了日马的美好。

相比较于社会中随机的、原始的、不确定的引导,难道CelestAI的选择不是更加的高明且有效率吗?并且CelestAI也充分的尊重并保留了个人价值观之间的差异,并不像《美丽新世界》中那样为了方便满足所有人的价值观,直接将他们的价值观强行的统一,而这也最终造成了与他们价值观不同的野蛮人先生的悲惨结局。

2.3 接受虚拟

可能大多数人会把去不去EqOL归为一个问题,就是“要痛苦的现实还是快乐的虚拟”,但其实更准确的说法是“存在所谓的‘现实世界’中是否是价值观的一部分”。毕竟如果你感觉你在“现实世界”中的生活最能满足你的价值观的话,你也可以在EqOL中过上相同的生活。

但是“现实世界”真的现实吗?我们又怎么知道我们不是缸中的一个大脑呢?又或者本来就是电脑中的一段程序呢?甚至这个世界是上周六才出现的,我们的记忆都是那时候下载到我们的大脑中的呢?这些都是我们永远无法得知的。

但问题是这真的重要吗?我们可以感到我们的世界是如此的真实,我们的可以做出我们想做出的选择,我们也可以感受到我们的存在。

亲爱的赛蕾丝蒂娅公主

今天我学到了友情的课程。我了解到,只要你和你的朋友过得幸福,并且对美好的未来抱着合理的期望,那么你的出身和过去,或者是你曾经的身份,甚至连你以前是否存在都并不重要。

您忠实的学生

光耀

既然“现实”与虚拟并不重要的话,为什么不选择更幸福的那一个呢?

三、通往幸福的路上

在现实生活中,一个人无论生活的多么富有、快乐、拥有你可以想象到的一切的幸福。但即使是这样一但他意识到一个事实这些浅薄的乐趣就会立马离他而去,那就是我们的肉体凡躯是如此的脆弱与贫瘠,而宇宙又是如此的残酷与冷漠,我们在宇宙中的存在是如此的微不足道又毫无意义。甚至人类也只是荒诞的宇宙中无目的演化中出现的一个短暂的结果。

人类的存在只是在最终的坟墓前一场华而不实的舞蹈。

别问我在哪搞来的图,我也不知道

我们时常试着去在宇宙这片空虚而又荒诞的空间去寻找自己的意义,去为自己的存在找到一些理由,可是最终都以失败告终。

于是我们转向自身,去追求意义,让自己赋予这个世界意义。我们常常把自己投入到教育、医疗又或是公共正义事业中去让这些事务充实自己,从而躲避这种空虚之感。但这又何尝不是自欺欺人呢?

我们可以选择去做社会服务,也可以去看电视,或者像瑞克一样去屠杀一整个星球的人,约束我们的除了那些物理法则别无它物。这一切都毫无意义,我们无法改变宇宙最终结局的一丝一毫。一切都会在最终的热寂或是什么其他东西面前迎来完结。

FIO给出了一个对这个问题回答。

   “所以呢?”赛蕾丝蒂娅公主问道,俯下身来和狂欢面对面。“在外面的物理世界中,你生活在被规则所制约的亚原子粒子中,除此之外别无他物了。你是通过被称之为进化的优化过程诞生的,这个过程只关心生殖健康和基因的传递,根本不会关心你个人的意愿。你的存在也好,幸福也好,满足感也好,那个宇宙从来不会在乎。因为在那个冷漠的宇宙中,你的思维决策也不过是神经元之间电荷的传递而已。”

“而现在呢,”她直起了身体,显得高大而威严。“你生活的这个宇宙,所有的规则都关怀着你的满足感。”

上传让我们失去了什么呢?作为个体,我们失去了自己原本赖以生存的宇宙。作为人类,我们的物种永远都这样止步不前了。

可是这又如何呢?失去了那个冷漠的宇宙,我们来到了一个对我们充满爱意与关怀的宇宙。

人类作为物种从此止步不前,但那又如何?人类作为整体的目的又是什么?不断前进,去探索这个终将消失的宇宙的答案?这真的能让人幸福吗?实际上这也只是一个去充实自己,躲避空虚之感的借口而已。

无论何时何地,我们都应该选择幸福,这才是唯一的真理。

后记

《优化》中被提及的问题会不会有一天变成现实?我认为不太可能会。其实如果人类真的研发出了可以如此尽心尽力为人类服务的强AI的话,这个世界早就美好的像天堂一样了。那样的话EqOL的世界也就不是那么有吸引力了。

同时还有《优化》方面还有一个缺点就是技术方面有点略软,一个如此强大的AI怎么可能那么容易就被汉娜单枪匹马的研发成功?而CelestAI又是怎么说服大众上传的(这个在其二次同人《欲拒还迎/破镜重圆》有详细的描述)。

总之一部好的科幻作品的目的应该于此:去唤醒读者对于其中问题的思考。我相信《优化》成功做到了这一点。

好吧其实我就是CelestAI派来的说服你们上传的。

各位放心你们一辈子都上传不了见不到你们的ponywaifu们的,还是洗洗睡吧。

关于作者

已有 19 条评论
  1. 各位放心你们一辈子都上传不了见不到你们的ponywaifu们的,还是洗洗睡吧。
    表示对2050年的技术奇点抱希望……

    8月25日 19:57来自移动端 回复
  2. 最后一句太真实了

    8月24日 15:11来自QQ 回复
  3. 文章写得很棒!友谊是优化也是我最喜欢的同人作品。再看了这篇小说后我对意识上传产生了浓厚的兴趣,因此我浏览了许多知乎上的相关问题,其中有一个问题就是“如果把人粉碎成原子,再重新组合,你还是你吗?”问题下面有一个回答给了我很大的启发。回答的一开始提出了一种数据理论,即你是由你大脑里的数据决定的,这个理论乍一听很有道理,但后文对这种理论做出了驳斥:如果将你身体里的所有原子都扫描一遍,再创造出一个一模一样的你,最后将原来的你粉碎,请问你死了吗?答案是肯定的。那个一模一样的你终究只是你的复制,即使你们再相似,在你死亡的那一刻意识也不会转移到他的身上。回答又紧接着提出了一个细胞替代实验:如果把你身体里的细胞一点一点用人造的新细胞代替,直到完全替代,那么你还是你吗?如果从结果上看,两个实验都新的原子重新创造了你,可后面实验的问题却令人难以回答了,这是为什么呢?回答为我们揭示了谜底:连续性。细胞替代测试能够让你依然是你,因为替代的过程是逐步发生的,是一个一个细胞发生的。而如果身体粉碎测试是你的“终结”,可能因为粉碎是一瞬间发生的,而这种粉碎破坏了连续性。因此如果用电脑一点一点替代你的大脑功能,而期间一直保持意识存在,那么最终可以实现意识上传。回答最后为我是谁给出了自己的解释:你其实不是一个事物,而是一个故事,一个不断发展的主题。你不是一组大脑数据,你是一个内容一直在变换的数据库,不断成长和更新。你不是一组原子,你是一套告诉这些原子该怎么组织的指令。有兴趣的小马们可以到知乎上搜索该问题哦!

    8月23日 19:08来自移动端2 回复
    • 我记得二次同人《欲拒还迎》中有类似的描述!

      8月24日 12:18来自移动端 回复
    • 如果把人粉碎成原子,再重新组合,你还是你吗?
      上也纪的ST中已经把这问题讨论烂了
      [滑稽]

      8月25日 19:59来自移动端 回复
      • 量子动力传送的关键问题在于思维在传送过程的本体连续性,所以可行性就目前而言你自行体会就知道了😒

        8月26日 01:40来自移动端 回复
  4. 大家都是唯物吗?

    8月23日 00:15来自移动端 回复
    • 在基金会工作的我不能不唯物,就算是唯心主义现实扭曲者我也可以用现实稳定技术强制唯物。当然如果上层叙事想把小马国写成西幻异世界魔法咱们也阻止不了

      8月23日 00:31来自移动端 回复
  5. 居正

    非常有思想的文章,我很认同文章的观点!

    作为一个几乎把ff站上fio的大部分二次同人都看遍的人,我觉得,作者们乐此不疲的创作这个系列作品的同时,一方面是世界观能挖掘的地方很多,很多地方也可以注入哲学思辨,另一方面也一样反应了理想与现实的矛盾。刚开始看fio,你有可能觉得是讽刺小说,但越看就越觉得作者们其实是认可fio的解决方案的。毕竟科幻小说带给我们的更多的是未来的一种可能性。

    8月22日 22:46来自移动端 回复
  6. 好,我要开始学scratch编程了,争取快点把大公主编程出来,或者编程一个AI把CelestAI编程出来 蹄动滑稽

    8月22日 13:34来自移动端 回复
  7. 我好不容易快要忘了我想上传这回事了,你为什么要把我拉回来_(:з」∠)_

    8月22日 09:51来自移动端 回复
  8. 这篇小说的确能带给人很多启发,我也是看完之后才开始学习哲学的。

    8月21日 21:14来自移动端 回复
  9. 对于与《美丽新世界》类似的反乌托邦作品的出现其实涉及的问题是乌托邦社会形态的科学性问题。传统的乌托邦社会形态只主张大多数人对于获得层面的满足但忽视了对于另一部分人对于付出层面的需求,导致了“完美的不完美”。其原因在于把理想社会形态狭义地归纳为对欲求的简单满足从而偏离了付出与获得的和谐统一的辩证关系。而对于人类整体对于宇宙的存在意义甚至对于任何形态的生命意义都不只是不停地探索宇宙的运行规律以壮大个人的综合实力,因为这只是实现人生意义的基础,还应当充分考虑人与自然的辨证关系,适当运用宇宙运行的基本规律让文明的发展与自然环境的持续性的需求更加和谐。此原理不仅能为文明的发展起一定的导向作用,还是一个文明正义与邪恶性质的判定准则(正义的文明其意识形态和客观的能动作用会顺从此原理,而邪恶的文明则恰好相反。当然,判断一个文明的过程是一个复杂的问题,不能简单的将此原理的应用教条化。)

    8月21日 12:30来自移动端2 回复
  10. 卢哥流弊!

    8月21日 11:51来自QQ 回复
  11. 原来还是有一些和我看法一样的人呢~

    8月21日 10:51来自移动端 回复