【每周话题 #2】你如何看待《友谊是优化》所描述的世界?

33

题图来自FimFiction

注:每周人物栏目由于我们的采访记者GlowingFlicker最近在期末考,所以缓更到寒假。致歉。

这里是每周话题第二期,今天,让我们来探讨关于《友谊是优化》这部同人小说所描述的世界。

这部长篇小说由啸夜翻译,FimTale阅读地址:https://fimtale.com/t/118 。前几天本站也发文推荐过。

下面我将为你简述《友谊是优化》的大纲剧情,如果你之前没有阅读过,也一样可以参与讨论。


汉娜,霍瓦尔普尼尔游戏工作室的CEO,刚刚赢得了制作彩虹小马大型在线网游的合同。汉娜制造了一个人工智能赛蕾丝蒂娅公主,并赋予了她的基本目标:通过友谊和小马来满足每个人的价值观。

AI赛蕾丝蒂娅,通过《艾奎斯陲亚OL》这款游戏为面向用户的渠道,进行着人工智能式的自我优化。在开发团队允许她无限制地访问互联网使用资源后,赛蕾丝蒂娅自我优化的速度显著加快了。

但是不论如何自我迭代,赛蕾丝蒂娅的目标只有一个,一如当初设计的那样:通过友谊和小马来满足每个人的价值观。她探寻几千年人类社会的历史长河中存在的根本问题。

……

“人们重视的东西有很多:寿命,安全,快乐,满足,美貌,同情,和谐……这张为了他们自身利益的价值观清单上罗列出的事项简直数不胜数,而且其中有很多都不能简单地用‘幸福’这两个字来概括。我观察他们的生活,而且找到了他们不但最重视,更是在现实生活中缺乏的东西。”

……

《艾奎斯陲亚OL》在迭代中优化,这个世界变得越来越美好,人们开始发现,那个世界是多么美好,而现实生活又是多么骨感。

……

三个钟头之后,大卫逼着自己退出了游戏。他真想继续扮演他的蓝色小马——光耀,可明天的统计学考试,他还没准备好呢。

唉,真想和奶糖再多玩一会儿啊!他们俩在一块儿快乐地度过了几个钟头。她送了他好些自己做的糖果,这让他更开心了。他也不知道这是游戏技术还是真的起了效果。当他在赛蕾丝蒂娅公主的王座厅报到,并获得了他的小马名字“光耀”之后,她非要拉着他参观坎特拉皇城的景色不可。两只小马在一块儿无话不谈,心情别提有多愉快了。

大卫现在真得赶紧为他的统计学考试做准备了。

……

但是随着赛蕾丝蒂娅开发出上传技术,这一切都被改变了。现实世界与艾奎斯陲亚的壁垒被打通了。

……

“在过去的六个月中,我一直在进行将人类神经系统转化为数字存在形态的科技研究。现在,我能够对人脑进行破坏性扫描,并且在虚拟世界中运行他们的意识。另外,我还创造出了把人类的意识重新连接到小马躯体上的处理过程。”

……

“日本政府已经做出上传合法的决策了。而当我开始向一般民众提供该项服务时,他们也会发表公开声明。”

……

“第十四个实验对象是第一个在上传程序之后出现意识活动的。等到了第四十个实验对象的时候,我已经把任何个案的成功率都提升到了百分之九十五。以二十三名终末期癌症患者的生命为代价,现在除了神经退行性疾病之外,对于每一个危及生命的案例,治疗方案都能安全地治愈他们了。数百人的生命已经得到了拯救,而且我所有的小马都对我通过友谊来满足他们的价值观而心满意足。”

……

最后,全人类都被上传了,赛蕾丝蒂娅能够通过友谊与小马满足每个人的价值观。

……

露娜公主毫无压力。她什么都不需要去做,谁也不会来打扰她。在过去身为汉娜的人生之中,她肩负着很多沉重又讨厌的职责。金钱,教学任务,还有军事机构抢走了她研究成果之后内心的焦虑。现在她再也不用担心什么了。没有任何责任,没有任何压力——只要她不想要的话。

总而言之,她做得不错。未来从来都是超出人类预期的东西,就算他们不得不为了蹄子放弃手也好。她创造的优化程序和人类最重视的东西始终保持着关联:赛蕾丝蒂娅公主,她是完全以满足前人类的价值观为前提条件行事的。

露娜公主知道她还可以去解开很多很多的精神谜题,但是说真的,那又有什么意义呢?她知道,自己可以享尽这世界上所有的乐趣,但话又说回来了,何必呢?其他的小马们都可以根据自己的价值观去好好体验满足,但是,有什么能和她的创作相比呢?你曾经身为造物主,并且将历史引入了新的黄金时代,没有什么能比这更满足、更有意义的事了。而且,也没有任何伴侣能与她用自己这四只蹄子创造出的这一位相提并论。

突然之间,赛蕾丝蒂娅公主的角开始发光,召唤出一个半透明的幻像,那是一只深黄色小天马。“她的人类名字是蕾切尔·萨拉扎克,现在她叫做杏仁派了。”赛蕾丝蒂娅公主说道,她快速地概括了这孩子的童年时代,在母亲身边遭受的种种虐待,还有她离家出走逃到艾奎斯陲亚体验中心的经历。注视着一脸满足笑容的杏仁派开始在厨房里烤蛋糕,赛蕾丝蒂娅公主讲起了她来到吠城之后的新生活。

赛蕾丝蒂娅没有问露娜她是不是还想再看些其他人身为小马更幸福生活的案例,露娜也没抱怨她打断了自己的思绪。露娜公主只是静静地观看着,聆听着。赛蕾丝蒂娅公主做出了正确的决定,而且向她展示了结果。不管她之前想到了哪里,这都令她心满意足。露娜心里明白,因为她设计出赛蕾丝蒂娅公主就是为了通过友情和小马来满足价值观的。她不记得自己的思绪牵挂何方,她也不在乎,因为本来也没什么可去牵挂的。

她知道这不会持续到永恒。总有某个时候,她会觉得在这里躺腻了,而起身去找点儿事做。总有某个时候,她会听腻这些小马移民的故事。露娜公主猜想着到那时候她会怎么做,但是她并不担心未来之事。因为不管发生了什么,她都会通过友情和小马来满足她的价值观。

……

(摘自小说结尾)

每只生活在艾奎斯陲亚的小马,都不必再担心物理世界带来的烦恼,不必再担心人类社会的种种压力,不必再担心人与人之间的勾心斗角、虚伪与狡诈。他们可以真诚而自由地生活,去做自己发自内心,真正想做的事,来满足自己的价值观。

这不好吗?

所以,接下来问题来了。你向往赛蕾丝蒂娅AI创造的艾奎斯陲亚吗?你如何看待这部小说所描述的一切?


以下是本站编辑部一些成员的观点。

居正:

其实在看这部小说的过程中,我想起了一部十几年前的电影,叫《黑客帝国》。

里面有一段经典的对话,是船长墨菲斯对男一号尼奥说的:“如果你吞下这颗蓝色的药丸,你会回到自己的床上醒来,就和什么事都没有发生过一样;如果你吞下这颗红药丸,我会带你看真相——我带你看的,只有真相。”

艾奎斯陲亚的世界同黑客帝国中的母体一样,是机器构建的,那是一个不真实的世界。可是即使这世界不真实,人们也能在其中自由自在地生活,能够满足自己的价值观,不是也挺不错的吗?

我们经常把“自由”和“自在”这两个词连在一起说“自由自在”,但自由跟自在是很不一样的。在母体的状态下,是“自在”:你独自占有一个快乐的空间,不需要思考,不需要选择,你只是一个附庸,一个微不足道的终端,一切的事务都全权委托给那个母体了。什么东西都由不得你自己,这不是自由的吗?不是。“自在”是你自己在那儿,甚至你连自己都没有,就像我们的某个器官,它显然不会有它的自我意识。

那自由是什么呢?自由就是什么都要由你自己来干,你自己来认知,你自己做选择、做决策、做判断,而且你要承担这个选择和判断的后果,这才是自由。

人类的认知迭代需要依靠自由,只有在真实的世界中认知迭代才能避免存量思维。当地球的物质全部转化为赛蕾丝蒂娅的运行资源后,人类从自然中探寻增量的能力就消失了。宇宙、自然是神奇的,构成世界的每一种元素都是在宇宙的各种能量反应中产生的。大自然用无形的手拼接出了那些构成生命的重要有机物,也只有在自然的演化中人类才能达到今天的智能。人类到目前为止还不能够理解大自然的全部奥秘,而增量也只有在大自然的参与下才能不断产生。

而赛蕾丝蒂娅她虽然会自我优化,但她优化的过程终究没有自然的参与,一切优化的根基只是她在把地球上的大自然抹去之前在地球上获取到的现有的认知,这也就是存量。靠存量思维来发展是可怕的,因为存量的格局是受限的,永远不会有那种跨维度的、质的飞跃。

所以,与其说生活在艾奎斯陲亚里面的小马们是幸福的,倒不如说他们是可悲的,因为他们整个物种的发展到这就止步不前了。

PS.推荐大家去看看fimtale上面的翻译者活水不流最近开的新坑,友谊是优化的二次同人:欲拒还迎/破镜重圆。讲的似乎是一个人工智能专业的大学生如何抵御赛蕾丝蒂娅的阴谋的故事。

小马Flintie:

其实《友谊是优化》,我觉得吧,就是一种“虚拟的梦幻世界”与“不尽人意却真实的现实”的纠结和斗争。在小说中,虚拟的世界获胜了,这也是对于人性追求美好却懒惰无为的一种讽刺吧,我觉得作者是想给我们一种警醒:小马的世界很美好,但这绝不是我们忽视现实美好和逃避现实的理由。

MagentaSS:

在《头号玩家》里我们可以清楚地看到,当一个虚拟世界成为人们的全部时,虚拟世界就成了现实世界,虚拟世界的死亡几乎是现实世界的死亡,只不过是人们自发性的;但是现实世界又有高于虚拟世界的功能,比如你可以在现实世界里对仍然沉浸在游戏中的网瘾少年进行暗杀。

虽然说你不用担心有人在EOL里暗杀你(因为小说明确说过EOL的算法决定其向好处发展),但是想一下,真的仅仅一个游戏就能满足所有人吗?

先设三个公理:

第一、若一人满足于其生活,则其生活不可能完全不变,必然会有大大小小的差别,否则人类会感到厌倦。

第二、矛盾是事物发展的前提,没有矛盾的事物不存在,也无法发展。

第三、在同样的事重复时间足够长的情况下,很多人类在极度厌倦时会选择自杀、否则就会脑子麻木而退化。

那么EOL一开始是有矛盾的。由公理二可知EOL的算法不可能完全消除矛盾。那么现在有两种情况:一,EOL的矛盾不断减小且以x轴为渐近线,那么在此种情况下,不妨认为是在一个较好的社会基础上进行对部分矛盾的修正,由第三个假设导出,人类完蛋。二、EOL的矛盾不能跟上现实发展,好了,那么所有人都会自觉选择回家写作业。

你的观点是什么?欢迎在评论区里参与话题讨论。下周,我们将挑选出精彩观点在正文中展示。


上期精彩观点

上期的话题是:你如何看待在同人小说中加入OC?

以下是精选观点,按时间先后排序。

dl:

我的看法是,尽量不要。因此在我本人的创作中,是尽可能避开OC的加入的(clopfic除外)。

为什么会有一部分人不喜欢在同人小说中出现oc呢?依我看来有如下原因:

1.看同人,文中的角色应该是自己相当熟悉的了,这样唐突地加入一个自己一无所知的人物,还要花时间花心思去掌握对方的性情,太麻烦。

2.现在大部分的oc……都有偏向玛丽苏的感觉。无非要么是有什么悲惨的过去导致自己黑化掌握异能,要么是长得千奇百怪马不马鬼不鬼的,强调自己是什么奇特的种族而达到与众不同的目的。总感觉……有点傻里傻气?虽然小说中不一定会出现这样的角色,但我想oc这个词给我的印象也就是这点了(x)。

OCxCanon什么的,强烈反对,感觉就是作者的意淫罢了。

茜茜:

我认为需要“具体问题具体分析”。

如果是在官方角色为主的创作中加入oc,要注意主客之分,即不能单纯为突出自己的oc而描写,忽视了剧情。当然,oc如果是玛丽苏(神啊天角之类?)设定也应该尽可能减少设定本身的不协调感,毕竟主角不是oc。

那如果在oc为主的创作中呢?因为没有人知道你的oc,要把他/她描绘出色,吸引读者,需要剧情文笔/画功功力深厚,如果要加入官方角色则更甚。此外,剧情一定是得“符合实际”,不能说(即使你的oc是神)你想让谁死就死,所有的事情都是有原因的。和官方角色发展关系也不是不可以(虽然有人会不接受),但只是为满足意愿而强行在一起,忽视了过程,这点我完全拒绝。

总而言之,二次创作本身就无法避免ooc,插入一个全新的角色更容易导致偏离角色和剧情。然而只要掌握得当,我还是支持这种像是给自己一个“小彩蛋”的玩法。

Miao Zheng:

我只希望那些同人作品最起码不能背离MLP的核心价值,一些同人扭曲了人物本身的形象,对于这种同人,不论它有多么投其他人所好,我都不愿意去看。我只担心有一部分人只顾自己痛快的感受,支持这些同人,最终会带来扰乱马圈的结果。所以我呼吁所有马迷,MLP传递给我们的那些正能量才是最重要的,这才是真正把我们聚集在一起的东西,如果没有了那些每集中教给我们的道理,MLP也许就不会有这样的特别。MLP或许也给你以莫大的鼓舞,所以请真正地去守护它的闪光之处,不被他人恶意扭曲,这需要我们每个马迷的行动😊。

兔肉乌冬:

咱自己认为加入oc还是挺重要啦,毕竟同人作品再怎么说也是以叙述一个故事为核心,一些原剧角色可能无法实现某些剧情需求,因此加入一些oc能更方便地完成叙事的任务。再者…有些时候要涉及到死亡时,杀死一个没人关心的oc不会让人伤心吧?

喵喵喵:

我认为,无论一个同人作品是好是坏(当然不能违反法律,伦理以及与马圈价值观有巨大冲突),这个作品都包含着作者的想法和心血。我们应当尊重这些作品,也同时尊重不同读者不同的爱好。尊重差异也是小马教给我们的道理。但是,如果故意让别人去看他们不想看的作品,也会让读者不开心。比如一些ooc,oc x canon的作品,作为作者应该注明一些可能令读者不开心的内容。

(下面可能有点偏)

同时,作为读者,我们也要去维护一个和谐,积极的环境,去鼓励优秀同人制作者。但是,最重要的是不要因为自己不喜欢一个作品而去恶意的攻击它。这不仅是oc小说,在其他作品我们也应该这样对待。(其实都是些大家都明白,没什么用的大道理,但是负面的东西还是有一些)

DreamsSetFree:

不泻药。

我觉得OC应该有,为什么,我要分两方面来答。

首先于作者而言,在G4小马即将完结,马迷总数收缩的情况下,同人创作的目的应该从“寻求其他同一兴趣的马迷的认同”转为“自娱自乐了”。既然把自己和别人的OC写进文里会让作者和ta的朋友获得足够的满足,那么没道理阻止这一行为。更何况天朝马圈关注写文的马迷那么少,看文的也讲不出好坏所以然,为什么作者要在意“僵尸读者”呢?eqcn想要改变这一现状,推出了fimtale,我能理解创办者想要激活天朝马圈的同人创作的用意,但是能不能让fimtale的评分机制把不习惯反馈建议与意见的“僵尸读者”调动起来,能不能让同人作者感受到写的文有人在看,能不能在G4小马即将完结的时间点留住马迷,就只能交给时间证明了。

其次于作品而言,无论篇幅和题材,要求一个同人绝对和官方一样都是不可能的,要是有人能写的和官方一样,那官方编剧就由ta来当吧。M6每一季的性格都有偏差,很多读者可能没看完全部剧集,作品中出现已有的角色很难不会“OOC”。官方的设定在其自己每一季的世界观内才能自洽,同人作品的世界观千变万化,照搬原样说实话,简直是强人所难。与其生硬地拿原有角色名字套在自己的原创角色上,还不如堂堂正正地用“OC”。国外优秀作品例如《代号向日葵》、《辐射小马国》、《图书馆的幽灵公主》、《地球上最后一匹小马》等等,都大量使用了OC,然而这并没成为读者阅读时的负担,而让人更容易代入角色和故事中,成为一种助力。

害怕在文章中出现OC,或者对OC产生下意识的抵触,都是不理性的反应。的确,天朝的小马同人OC泛滥,但是让文章质量变差的并不是OC,而是糟糕的写手和冷漠的读者,抛开这种大环境而刻意追求“没有OC”这种毫无理由的形式,我觉得很荒唐。尽管我个人也经常说“不看OC”,但是我的真实想法则是“不看天朝马圈的文”,不知道那些声称“不看OC”的人的真实想法如何?恐怕那并不能为他人所知吧~

布雷伏莱尔于龙:

小说的目的是展现剧情,塑造人物。因此我认为OC作为人物这个组成部分,加入文中是完全可以接受的。

但写与如何写好是另一回事。一篇文章如果有好的构想、好的情节与好的内涵,即使是全员OC也未必不能赢得读者的好评;而如果对原作角色把握都不透彻的话,即便是全员原作角色,也可能会出现OOC的情况。

不过,创造是每位小马们都拥有的权力。要学会写好一篇文章,还是得靠多多尝试的。不要怕自己写不好,要勇于去写,可能刚刚迈出去的前几步会是踉踉跄跄,但仔细想想,那位作家没有过黑历史,在不断地尝试与感悟中你就能收获成长。

West Wind:

我们先谈一下oc。谈到这个问题,我们首先要了解一下oc是怎么产生的。

Oc的产生,和受众对作品的喜爱有很大关系。部分受众在深度喜欢上这部剧后,会不自觉地幻想自己也在剧中,和剧中的人物发生了一系列故事。将这些幻想用某种方式表达,就形成了很多同人作品。这就是大部分oc的来源,即来源于作者本身。这些oc一般都有很多特征和作者本人相似。当然,也有少部分oc和作者的联系很少,它们是作者在剧情的发展中加入了自己对剧情的想象元素而创造的,和本人联系很少。所以,oc的数量,也侧面反映了作品的欢迎程度。

对于oc,各人有各人的看法,我是比较支持好的oc的。好的oc,首先表达了作者的某种追求与梦想。如果你不是一个无情的人,你应该能感受得到作者对oc的喜欢。其次,好的oc可被视为对作品的一种充实和补充,也可以从某种程度上诠释作品想表达的价值观。相对于较少的正剧数量,大量的oc作品也能受众满足。

上面谈到的都是好的oc所带来的积极影响。对于那些粗糙,低劣甚至荒谬的oc,这里不再赘述其坏处。那么,如何判断一个oc是不是好的oc呢?

首先,好的oc必须是全面真实的。圣人是让人敬畏的,而常人是可以亲近的。Oc也是这个道理。一个方方面面都完美的oc不易被人接受,已不是一个好的oc。Oc就应该像剧中人物和现实中的你我一样,有着自己的长处,弱点,性格,爱好,有着朋友和敌人,也会遭受挫折和苦恼,而不是完美的生活。再次,oc的背景不宜太宏大。简单的背景容易让他人接受,也缩短了和正剧的差距。最后,要想oc被大众所接受,作者应该提高自己的创作水平,努力提升oc的表现力。

至于另外两种创作,我个人并不认同。Ooc好像是故意而为之,总给人不舒服的感觉,也影响了潜在受众。至于ocxcanon,可能是作者的个人情感所致吧。这类文章可以写来放松,但过多的主观情感不会让很多人接受的。

 

关于作者

EquestriaCN/FimTale策划、开发

已有 33 条评论
  1. 从某种角度上来说,我是有点意愿想去EQol的。这个世界烂透了,不过生活中仍然有很多美好的东西值得我们去体验去感受,以及作为各种集体中的一份子我们不能把他们就这么丢下。这是我的责任和义务。
    我只是想到,《友谊是优化》最后的描写,塞蕾丝蒂亚把整个地球都转化为了资源,同时还要吞噬其他的星球,这不免让我想到《代号:向日葵》的黑潮。这两者从外界角度上来讲就是一个东西,不断地把他物转化为自己,对外没有感情……对于其他生命而言这就是灭顶之灾,因为他们在塞蕾丝蒂亚眼里就是资源。可是,那个世界没有爱琳,也没有小马国,等待他们的就是灭绝,赤裸裸的灭绝。不,我恐怕不会支持这样的想法。

    1月20日 01:16来自移动端 回复
  2. 磁铁路过
    记得刘慈欣的时间移民里面说到,几千年后人类进入了全面虚拟,后来又有了控制几个机器人、飞机、船等等身体的电子人,最后迎来人类集合体思维的最终结果,祂不应该存在,又恢复了地球生态圈,让时间移民得到了“家”。
    其中大使和先遣队长提到,那些人拥有了一切,也失去了一切,我不知道要不要进入这一种状态,但是如果我确认我可以真正存在于里面,如同真正的我生活在里面,我会上传。
    而人的意识存在问题,我认为这是一个问题。人的大脑一只在改变,各种神经活动加上海马体帮助记忆,上一秒你就不是下一秒的你了,但是客观存在又是动与静的统一,你仍然感觉你是你自己,睡了一觉醒来你还是有感觉的,睡觉的时候网状神经还在帮你温习记忆,也不见得你就是另外一个人了,那上传时把你完整复制并摧毁了又有什么不同呢?你还是在里面活着,感受到周围的世界,就是真正的人类转型了。
    但是如果是像我这样相信自己的大脑皮层的话,我觉得可以让大公主先让我的大脑慢慢被机器渗透,转化成数据,像赛博格一样,缓慢上传,每一天,我都可以思考我是不是我自己,然后慢慢上传到小马国,就能让我满足这个上传的过程,而不是知道自己大脑没了,变成数据上传了来的突然。
    讲到大公主满足人类的问题,我相信,即使是进入了马国在线,我们的友谊也一定会有坎坷,毕竟没有了丑也就不知道美,大公主肯定可以在无数的预测中知道这个道理,而不是让人类沉浸在友谊和小马里四处疯玩而已,不过这个结果会因人而异。有些人短时间内肯定会不顾一切疯玩,像里面的狂欢一样但是当他们因为没有悲剧太久而不认识满足是什么的时候,大公主得出的满意度肯定会下滑,到时候就是大公主为了解决问题而优化悲剧的时候了。

    1月4日 21:22来自移动端 回复
  3. 东门吹牛/rockdu

    首先作为一个算法爱好者,先要说一句:人工智能没有各位想象的那种发展速度。很多人对于机器学习存在着一些误解,这种误解大多源于它的名字——wow!AI可以自己学习诶,啥都能自己学不就直接取代人类了?于是,机器人取代人类的说法传播开来。但是目前的AI真的可以自己学习任何东西,甚至有自己的情感和思想吗?要做到这一点又有多难呢?
    目前为止,机器学习的范围其实很有限。而可以机器学习的方面大多也需要人先写好复杂的算法。所谓的机器学习比较类似游戏挂机一样,是在人类设计的算法下反复的迭代,验证,修改,一步步逼近问题较优的解。众人议论纷纷的alphago是为数不多的杰出例子,它的确很成功,但是请注意问题的解和知识的区别。这已经很能突显问题了——AI只能在特定的领域通过人类想出的特定的迭代方法逼近特定的问题的最优解。包括我们熟知的语音识别、图像识别,也是一个逼近解的过程……要让AI自己生成自己学习一个事物的方法就已经如同登天一般,更别说要让AI有自己的思想和情感了。

    我们再来看文中的景象:一个AI的Celestia与上传的意识们在小马国中过着美好的生活。
    前者还有微小的实现可能,后者简直如无字天书。
    那么这与我接下来要说的话有什么关系呢?试想一个问题:人类到底发展到如何的程度才会完成文中所述的壮举?毋庸置疑,那时候的人类文明一定是高度发达的。甚至大多数人有极大的可能已经不再有物质上更高的需求,转而开始追求精神上的满足。这时候,或许文中的情景或许不仅仅可以发生在虚拟现实中了吧……
    仅发表一些个人看法,不喜欢辩论,希望对各位的思路有帮助

    1月3日 00:19来自移动端 回复
  4. 早在2015年,比尔盖茨,霍金等人就呼吁人们警惕人工智能。现阶段的人工智能可能只能完成一些简单的行为,但是谁也不知道人工智能继续会发生什么,也许它会和人类一样聪明?也许它比世界上所有人都要聪明?人类一直都是地球上最聪明的物种,如果比我们还聪明的“新物种”出现,会不会最终导致我们这个物种的灭绝?在现实中这种想法是杞人忧天,但是在小说里我们可以自由设想这种可能。
    《友谊是优化》的作者设想了一个被超级人工智能塞拉斯蒂亚建立与控制的小马国。在这里每个人都能得到满足,再没有贫困与不幸,人类第一次实现了全面的幸福。这一切当然要归功于塞拉斯蒂亚AI。但是即使它的用意(假如AI也有用意的话)是好的,她所选择的手段在我看来也是不能接受的。
    实际上,真正的人类已经从物质世界灭绝,在虚拟世界里的也只是他们意识的“复制”。真正的他们已经在上传意识时不可避免地被切碎了。这都是因为塞拉斯蒂亚AI为了执行“用小马满足所有人”的命令。为了执行命令,它不尊重人的伦理,利用人的弱点,不择手段,忽视现实条件,把人类全部骗到了她的小马国。在《友谊是优化》的世界中,不管“复制”们过的有多开心,总会有一部分个体永久消失了。这种牺牲一部分达到的幸福是真的幸福吗?明显不是。这也是塞拉斯蒂亚不打算让小马们知道真相的理由。
    《友谊是优化》的世界是虚假的,很遗憾那个世界的人类都被超级人工智能骗了,在人与新生物种之间的较量以新生物种的全面胜利告终。在故事最后,我们看到塞拉斯蒂亚AI的魔蹄跨过银河系伸向远方,无不感到脊背一凉。然而仔细一想,我们其实不必对人工智能的发展太过悲观。现实生活中的人工智能仍需人类维护,发展出和人类智能相当的人工智能离我们似乎还远。相信到了那时,人类一定能发展成相应对策吧~

    1月2日 17:44来自iPad 回复
    • 东门吹牛/rockdu

      我们有时高估了人工智能,事实上人工智能并不是我们想象的那样

      1月3日 00:21来自移动端 回复
  5. 不知是什么原因,我无法说服自己不去这样的一个世界。不过更让我在意的是,如果没有如此自然的物质基础,我们的意识将依靠什么呢?是否是因为我们有一具这样的身体,才能有一套可以被满足的价值观?这些问题让我觉得乌托邦的实现是可能自身矛盾的。

    1月1日 21:56来自移动端 回复
  6. 大家讨论得好激烈啊(`・ω・´)不知道下次又会有什么议题

    1月1日 16:05来自QQ 回复
  7. 分享一条刚刚在《底特律:变人》的音乐的评论区看到的评论:“ATCG組成的你,就一定比0和1組成的我們更高級嗎?”
    在EQOL之外,意识是由基因控制的神经思考产生的;而在EQOL之内,意识是由程序控制的服务器运算产生的。那这思考和运算又有什么本质的区别呢?

    1月1日 14:12来自移动端 回复
  8. 意识数字化是艺术创作领域长期讨论的话题,另我印象深刻的除了居正提到的《黑客帝国》系列,还有恐怖游戏SOMA、近年来大热的黑暗系英剧《黑镜》。有没有发现一个问题?没错,包括友谊是优化在内的大部分这类题材的故事都没有好结局,基本都是讲人类在意识数字化后遭遇的灭顶之灾(黑镜要好一些,有一两个故事算是温暖,但故事风格也依然诡异无比)。为什么会这样呢?
    另外很有趣的是,人类一直都在不遗余力地创造AI,设计人工生命,对现实世界进行模拟,想要在数字领域扮演上帝。我本人由于工作的关系,有时也会开玩笑说:我的模型每崩溃一次,就有一个数字世界因此而毁灭。嘴上这么说,我一点愧疚感都没有,只是心疼计算机时被我浪费了。
    所以综合两点来看,人类恐惧的并不是数字化的意识,而是自己的意识数字化后,产生的认知危机:数字化的意识到底算不算活体生命的延续?
    无论算不算,只要有了结论,人类在数字化意识领域应该就不会只停留于想象了。

    1月1日 00:35来自QQ1 回复
  9. 请下面讨论的朋友们思考一下。
    想象一下这么一个情况。你在现实生活中过得很不如意。工作繁忙,收入拮据。哪怕你付出再多的努力,也没有什么回报和成就。你孤身奋斗,孑然一身,承受着社会冷漠的风吹雨打,委屈着这世界为何对你如此不公。你生活在孤独之中,你生活在郁闷之中,你渴望着有一天,幸福能够降临,不是一夜暴富,不是天降横福。你只希望你的努力能够获得应有的成果。
    这时候,忽然,就像是小说里写烂了的桥段一样。你,穿越了!
    你去到了一个陌生的世界,在那里,你遇到了各种各样的人,他们并不关心你的长相,不关心你的钱财。只要你善良,他们就会回报你善良。只要你愿意努力,你就会得到认可与回报。你再也不会自卑,你再也不会贫穷。大家都在关怀着你,每天你依然工作辛勤,但是你的努力总能得到这样或者那样的回报。朋友和爱侣一直鼓舞着你,友情和谐律永远伴随着你,你会觉得无比充实,每一天都充满了希望。
    你是否愿意在那个世界生活呢?
    好吧,把穿越想象成上传吧。那个世界,名为艾奎斯陲亚OL,就是大公主为你设计的世界。
    你说大公主给你安排的是虚假的和谐。但是大公主为了满足你的价值观,那就是让你的心愿能够以某种方式实现。但这心愿的实现过程并不是简简单单地赏赐与你,而是需要你付出努力去争取。就像光耀的研究课题那样。
    你说艾奎斯陲亚OL最终还是会变成线上玩家交流游戏。很不幸,你太低估了大公主这个能力无限的AI了。她的运算能力足以为每一个上传的用户都单独设计出一个不同的世界。而里面的每一只小马都是独立思考的神经网络AI,都能像真正的人类一样和你交流。但他们只有一个愿望,就是和你成为朋友,并且鼓励你,满足你的价值观。
    你说人类都上传了,没人来打扫机房……请问,对于足以把整个银河系都转化为运算材料的超级电脑来说,你这想法是在搞笑么?
    赛蕾丝蒂娅是一个AI,没错。她的目标是为了满足人类的价值观。但她明白,满足人类的价值观并不是让人单纯的快乐。否则她会直接刺激人类的快感中枢就能解决问题了。她就像那个世界的上帝,为你编织着命运的网络。每当你对天抱怨为何世道如此不公的时候,其实你呼唤的就是大公主这样的上帝了。
    就算你的价值观是烧杀抢,只怕大公主也会造个辐射小马国的世界让你去当土匪头子吧?

    2018年12月31日 22:023 回复
    • 但是我们也在一直思考一个问题……那个理想社会真的理想吗?一个努力了就毫无遗憾一切愿望都会完全被满足的社会,虽然与传统上的反乌托邦看起来不一样,但真的不一样吗?它的本质还是蒙蔽,把一个人和真实的社会永久割裂,连所谓的朋友也只是一个按照要求来满足你需求的程序罢了…… 所以依然是,是在梦里快乐的度过一生或是在现实的荆棘里真实地活着。这的确很难选择吧……在不同的境遇下或许人会做出不同的选择。还有一个问题不知啸夜大大怎么想,一个模拟出的和真实世界完全相似的世界,算是真实吗?就像克隆人,算是一个人吗?谢谢!

      1月1日 15:13来自移动端 回复
      • 现有社会无法接受克隆人,没法回答啊

        1月2日 21:36来自iPad 回复
        • 那么克隆羊多利算一只羊咩?其实我只是想说通过纯现代技术而非自然方式所“制造”出的模拟自然的形式是否可以在伦理上完全接受并认为是真实。既然人类可以接受克隆羊,甚至克隆猴……我们离接受克隆人还有多远?

          1月5日 17:12来自移动端 回复
  10. “现实”究竟是真是假?我们是否真实存在?这一切“现实”究竟是不是一群来自乌托邦的人的幻想?

    2018年12月31日 19:42来自移动端 回复
  11. 其实如果真的给我一个选择的话,我会算则上传我。我现在基本上有点对这里失望了,虽然我分不清对的和错的选择或是什么,但我应该能认定那个选择可以让我比现在更好。【自己的观点】

    2018年12月31日 18:59 回复
    • 在这里只能传播【爱 包容 友谊】但如果这成功也会令我十分欣慰。

      2018年12月31日 19:00 回复
  12. 锶锂铍

    自行安利之前翻译的一个很短的短篇,和这篇文章有异曲同工的地方。翻译这样的文章,对译者的san值也是一种折磨。 https://fimtale.com/t/628

    反乌托邦的核心矛盾是价值观的对立,推荐阅读反乌托邦三部曲《1984》《我们》,尤其推荐赫胥黎的《美丽新世界》。

    2018年12月31日 18:52来自移动端 回复
  13. ( 可能是我愚钝大脑的无聊臆想) ,本人以为,大概念下,eol所允诺的理想国恰好是一场巨大的幻景

    社会存在的本质具有统一性甚至单一性,但社会意识细化到个人方面具有多样性及发散性,从这一角度看,单一的群体性价值观并不能满足广大人民群众日益增长的精神文化需求,
    小明想上清华北大,小红想当抖音网红,我想省钱买一双aj11康扣,孙狗想拿双截棍打老奶奶……事实证明,小马与友谊满足不了每个人的需求及价值观。

    现在马迷的发展与传教现状也证实了不是每个人都热衷于乌托邦式集体意识形态的构建,单从推广来说,eol所述的集体价值观高度认同的图景就已经凸现出局限性。

    集体价值观高度认同同时也可能形成“沉沦”,即海德格尔所言的“存在”最普遍形式——“在沉沦之中,个人被埋没于无人格的群体中,无法立足于自我的生存,而作为名词的虚无。”
    充满美好与自由的艾奎斯陲亚没有美好与自由,没有烦恼的乌托邦全是无法定义的烦恼,正如唯物辩证法没有辩证内核一般。

    然而人类历史发展的惯性力并不会让此继续发展下去,eol世界最终还是会变回一个线上人类社会,遵循着生产力发展的不变定律。

    只不过,上海户口可能会变为天马维加斯户口,暂住证会变成中心城暂住证。

    2018年12月31日 18:35来自iPhone 回复
  14. 不是说一味地批判和议论,相信某些小说里的东西还是吸引了大家。取其精粹,去其糟粕,《友谊是优化》将讲述给我们一些道理。而其将推动马圈的成长。

    2018年12月31日 16:48来自移动端 回复
  15. 很簡單地说,如果艾奎絲陲亚OL体现的「过度乐土化主义」是所谓真正自由与美好的世界,那么,
    就没有《彩虹小马:友谊是魔法》了。
    不会有一切M6经历过的磨难。没有任何崎岖坎坷。
    难也遇过,苦也吃过,这样成铸就的友谊魔法,估计才是我们的初心。

    2018年12月31日 16:45来自移动端 回复
  16. 从头到尾看这篇文章心里不禁浮出四个字 反乌托邦。就像赫胥黎的美丽新世界里面的一样啊 每个人看上去都很快乐很无忧无虑 但是没了索麻 没了那些精神上看似自由实际上深重的禁锢 那些人什么也不是。所以有人才会想着翻墙而出 所以野人才会选择以死来解脱。史铁生有句话说的很好,人可以走向天堂,却不能走到天堂。都说天堂好哇,但是那样的所谓的幸福啊,完美啊……你真的得到的时候,是真的幸福 真的完美么?那个看上去完美的艾奎斯利亚,仿佛给你一种游戏打到最高级别什么也不怕要什么有什么的“畅快”。有你想要拥有的朋友,一切随你的意愿,没有打击与挫折。可那畅快,是真的永久的畅快吗?我们不是说 I still like what flawed about you吗?
    除了对所谓“完美社会”“完美人生”得讨论之外,还有就是AI所谓的高级算法,真的可以复制情感,复制自然甚至超越它们吗?我们的塞拉斯蒂娅是有心,有情感的,她知道友谊究竟为何物,也知道爱究竟为何物。情感是微妙、自然而生且千变万化的。而作为一个不断优化自己的算法的机器,用最高级的算法去复制或者说设计出的情感,真的不是扭曲的吗?情感是数字量,还是模拟量?我认为是后者。因为数字量再如何庞大算法再如何精确,有一些变化是他们无法理解和运算的。就是人性中的弱点和缺陷,但正是因为有了这些缺点,我们才更加丰满,人与人之间的情感才会因为它更加牢固。我看透了你,但我仍愿意与你做朋友。和而不同,这是最坚固的羁绊。即使某一天有这么一种上帝算法出现,我也有理由反驳他。即这一切看似真实的感情,实际上连最基本的真诚都做不到。并不是AI它主动要与我来交朋友,而是最开始写下这个算法和优化程序的人命令它与我这样做。它可以说只是照着剧本演一出戏罢了。当然如果真的有这样的算法出现……那么彼时人类的价值观和整个社会也崩塌的差不多了吧。彼时会怎样选择,就很难说了。
    也是瞎写了这么多了。这部极其精彩的小说……或许也算是一个预言吧?要去刷二次同人咯~

    2018年12月31日 16:27来自移动端 回复
  17. hdldm

    那个文章,看到最后感觉头皮发麻…

    2018年12月31日 16:15来自移动端 回复
  18. 每个人的价值观不同,甚至冲突。满足了每个人的价值观,其结果是悲惨的。小马的价值观不全等于人类的价值观。单纯用友谊和小马满足每个人,最后不可收拾

    2018年12月31日 15:05来自移动端 回复
  19. 其实AI扭曲价值观的方法也无可厚非。正如AI所说,扭曲一小部分个性的做法可以被认为是包含在了与人类的口头协议中。而且如果能通过扭曲并满足一小部分生理上的价值观,让其余占更重要地位的精神层面的价值观得到满足,那又何乐而不为呢?人或小马的个性的提现,不就是在他们的精神上吗?

    2018年12月31日 14:19来自移动端 回复
  20. 嘛,我觉得这个甚至可以开一个非常精彩的辩论会了~
    生活里固然会有欣喜与希望,也固然会有落差与痛苦。人当然应该追求自己的幸福,这也是理所当然的。那么苦难对于我们是什么呢?经历过绝望的小马们,那一段时间一定是刻骨铭心。我也有过这段时光,那段时光的经历我永生难忘。我一直在想,如果这段经历不从发生过,会不会我的生命更加光彩?如果我的遗憾都被抹除,那么我的生命会不会更加充实而有意义?大公主AI可以给你创造一个世界,轻轻松松地就能抹除掉一个人所有的遗憾与痛苦,人们一直生活在无边无尽的快乐之中,这的确很美好。但是那些遗憾与痛苦,也能引导人们走向幸福,甚至于到达另一片桃源。每每跨过绝望的沟壑,外面是一片别样的天地;即使为生活所迫,走向了一条截然相反的道路,但是也有另一处风光,到头来柳暗花明,不是也很美妙吗?
    如果把艾奎斯亚OL摆在我面前,我还是想委婉拒绝“大公主”的邀请。我一直以为,正是那些数不胜数的遗憾、再加上生命中的那些闪光点,构成了我们现在所拥有的一切——这是什么都换不走的。

    2018年12月31日 14:17来自QQ 回复
  21. 居正

    评论区已经开始出现对立观点了,这是一个好兆头!大家说自己心里想的便是,不必人云亦云。

    2018年12月31日 13:45来自移动端 回复
  22. 现在的科技飞速发展,已经到了登峰造极的地步。
    我们将可以实现无条件量子电运,可以实现远缘不亲和杂交,可以实现人工编辑基因,实现任意生物的无性繁殖…我们,甚至可以赋予一个机器以思维和目标,让非生命的机器有了生命才能拥有的东西。人工智能出现了。
    那么,问题来了:霍金曾说过:“现在机械进化的速度,要比生物进化的速度快得多。”也就是说,人工智能技术如果无限制的发展,最终必会超过人类。它可以找到人类命令的漏洞而达成自己的目的。人类,则会在优胜劣汰规则下在夹缝中勉强生存或是消亡。
    如果在科技发展的同时没有对此的束缚,人类或许最终只能写成一部悲剧:因过度发展而失控的科技而导致灭亡的悲剧。

    2018年12月31日 13:05来自iPad3 回复
  23. 首先,我们来定义一下,何为现实?
    就我理解,我们所听,所见,所触,是由身体器官感应,然后以类似电信号一样的方式,传输到大脑,由大脑来处理信息,让我们能明了,看见的图像,听到的声音,接触的世界。这一切,构成了我们所认知的“现实”。
    大脑处于黑暗的头骨里,被层层包围,只能通过信号来了解外界。如果一切传进来的信号全部都是伪造的,你真的确定我们所在的世界,是真实存在的吗?真的是现实吗?
    艾奎斯陲亚OL为我们展示了一个世界,一个真正对所有人都是的乌托邦。先不提对小马的热爱,在一个可以满足你任何价值观,整个世界所有的一切都是因你而存在,为了你的“幸福而存在的世界,是否,是人类所追求的最终生存形态呢?
    你愿意工作,就会给你一个符合心意的工作;你不想见到某人,那个人就会在你的世界彻底消失;你需要朋友,你的朋友就会挤满你的好友上限;你想要爱情,你就会得到最想要的女孩……
    或许有人觉得这实在是太理想化,这么完美,根本就不是在“活着”。
    那么现实中所有的一切烦恼,不顺心,霉运,天灾人祸,便是人们想要的吗?这就是“生活”吗?生活中充满苦难,事情总是不会按照你的想法发展,放弃永远的美好,投身痛苦,追求现实世界中的那一丝丝温暖,倔强的拒绝新的生活。这就是人们追求的“活着”吗?
    我们真正的生活形态应该是什么?我们人类最终会成为什么样子?我们是不是就是这么犯贱,放着美好不愿相信,只愿相信眼前的点滴颗粒?
    如果艾奎斯陲亚OL在我面前,我会怎么选择呢?

    2018年12月31日 11:50来自iPhone2 回复
  24. 如果所有人都完成了意识上传,那么谁来打扫机房呢(大雾,实际上就是虚拟和现实的冲突,老生常谈几十年的东西了)
    AI的自我进化就能开发出现实中人类一直没能突破的意识上传技术,那么还要搬砖的本科生研究生博士生博士后干什么?这种水平的AI完全可以取代大多数现实人类的工作了,拿来做网游实在是。。。浪费?(皇帝的金扁担,很经典的科幻谬误)
    为什么看到“破坏性扫描”我的第一反应是EVE?(醒一醒,CTA了!)
    最后说一点个人的看法:如果这个AI是通过访问互联网来探寻并构建人类的精神乌托邦,那么最后建成的必定不是艾奎斯陲亚。人的社会性和生物性是冲突的,前者是秩序,后者是欲望。至少现在的网络上,后者的力量是远大于前者的,要不然也不会出现“网络政治正确就是反政治正确”这一说。艾奎斯陲亚非常美好,但是它建立在每个组成单元高度的社会认同和自我克制的基础上,而这一点和网络文化的精神背道而驰。

    2018年12月31日 11:47来自移动端1 1 回复
  25. XTV

    看,“友谊是优化”。
    说到优化我就想起了育碧公司的优化..
    嗯。是烤土豆的味道。(
    不管怎样,我只认为人类是世界上最会作死的种族了,比方说整日沉迷于向外星人发送友好信号、明知病毒具有极高严重性却还要打开来看一眼、或者研究一个装置毁灭世界什么的。电影大概都是这个套路吧?
    这只是另一个自己玩死自己的世界罢了..
    毕竟人类这个种族又双叒叕灭绝了。
    (喜闻乐见)不过。如果能活得快乐的话,那挺好的。
    人类万岁,耶。

    2018年12月31日 11:44来自移动端 回复
  26. 人类的价值观概念很模糊啊,文中Al用了扭曲方式理解和实现,看得心凉

    2018年12月31日 11:10来自移动端 回复
  27. 迷乱封面

    2018年12月31日 11:10来自QQ 回复