友谊是优化作者 Iceman采访录

7

本文转自FimTale。

题图画师:magnaluna

原文地址:https://fimtale.com/t/1400

翻译者:…………

原文翻译自:Pony Fiction Vault

以下是正文:


(再次感谢NightScream的精彩翻译,以下部分翻译采自啸夜同志的译文。)

友谊是优化中文译本:https://fimtale.com/t/118

(另外感谢我的室友“罗夏日记”,给予了我莫大的帮助、鼓励与支持。)

(以下内容略有剧透,请酌情阅读)


科幻小说常常警告人们将要到来之事。1949年乔治·奥威尔创作了《1984》,书中写到政府的监视与控制无处不在,二三十年后,故事变成了现实。今天小马文库带给大家的是另一部警告将来之事的小说,不过这么说可能有点滑稽。

友谊是优化

[人类] • 77,704字 / 38,600词

汉娜,霍瓦尔普尼尔游戏工作室的CEO,刚刚赢得了制作彩虹小马大型在线网游的合同。汉娜制造了一个人工智能赛蕾丝蒂娅公主,并赋予了她的基本目标:通过友谊和小马来满足每个人的价值观。赛蕾丝蒂娅公主将会通过友谊和小马来满足你的价值观,而这将完全建立在双方都同意的基础之上。


你住哪里?

我住在美国西海岸。

你在从事什么样的工作?(或说,你是学生吗,你有什么样的职业/全日性工作,等等)

我在一家公司中做软件工程师。公司名字你可能听说过。

你是如何知道“我的小马驹:友谊就是魔法”的?又是什么时候发觉自己成为马迷一份子的?

2011年四月某天,我开始注意到互联网上对“我的小马驹”重启的狂热气氛。我不记得到底是从哪里知道的了——可能是KnowYourMeme.com吧。关于4chan上对这种五彩斑斓的小马的来电的报道有些……不和谐。我记不清又过了多久我才看的第一集,但我清楚地记得我在iTunes上免费看完第一集后,立马买下了第一季剩下的剧集。我用了一两周一口气给看完了。我称这种行为叫“注射欢愉”。

你有最喜欢的一集么?

这问倒我了。如果非得让我选一“集”的话,我会选“谐律再临”。或许一个同人文写手喜欢“Q大战M6”不会让你太惊讶,但其实还有别的原因。无序让小马国布满了有趣的动作喜剧场景,而且我很喜欢约翰·德·兰西的表演。

在(纯)原剧中你喜欢哪个角色?如果范围扩大到整个马迷圈(或者图画创作中的,同人文的,梗里的)呢?

第一季里当暮光闪闪莫属。我在她身上看到了很多自己的影子,而且我觉得制作组能在一个儿童卡通片中设计一个如此聪慧的角色这样做非常棒。就算是算上“萍琪超感”中她明显的不合理的行为,在第一季中她也算相当出色了。

第二季开始往后,就不大好说了。虽然我仍非常喜欢暮光闪闪,但她那种性格被原剧放大得越来越厉害让我都快认不出她来了,不过“学无所成”这集还是相当有趣。小蝶可能变成我的最爱了。“飓风使者”这集中有些场景又让我找回了原来的感觉。

你的绰号/笔名是怎么来的?

我信任冷冻人体研究机构,签了一份合同,在死后冷冻我。在签完合同后,我的朋友们就叫我“iceman(冰人)”。

我达到寿命逃逸速度的概率非常低,因为我还有可能出意外,得癌症或者其他的什么。所以,尽管我认为人体冷冻有效的概率极低,但这种技术在我所了解的其他大脑保存技术中成功概率算高的了。有的时候你就得从矮子里挑将军。

如果你们还想了解更多的话。Alcor,我签合同的那家公司。网站上有介绍他们认为这种技术可行的原因,还有一个常见问题页。

你写过其他类型(其他粉丝圈、专业等)的文章吗?你是什么时候开始写作的?

这其实是第一次我写出来的我觉得达到能给别人看的水平的长篇。

在你不写作的时候你都喜欢干什么?

在网上读点儿东西,打游戏,做些开源项目。在写作的时候那些项目一点都没动,我一写完“友谊是优化”就赶紧忙活项目去了。

你最喜欢的作家(出版物的,或同人文的)是谁?你有最喜欢的故事或小说吗?

一般我读的出版物都不是小说。上一本我读的是格雷格·克拉克的《告别施舍——世界经济简史》,讲了英国的经济历史。如果让我在这里推荐一本非小说类的书的话,我选Robert Kurzban的《Why Everyone (else) Is a Hypocrite》,这是本畅销的科学书籍,讲了大脑的模块化结构,以及其非常有趣的内涵。如果你对CelestAI关于人类思维是如何会同时信仰不同事物感兴趣的话,你可能会想去看看这本书,因为那一章节我就是由这本书启发而来的。

我偶尔也读读小说,但没一个印象深刻的。格雷格·伊根的《置换城市》与Peter Watts的《Blindsight》,是唯一两本能让我想起的小说,因为这两本都对我有很大影响。两本都是硬科幻类型,都讲了不少关于意识本质的东西。在我阅读这两本小说的时候,我都得放下书来好好思考小说提出的某个概念。(Watts已经在网上放出《Blindsight》的全文供大家免费观看;小说相当不错,虽然内容有些黑暗)

我最喜欢的同人是Yudkowsky的Harry Potter and the Methods of Rationality。

史蒂芬·金相信,每一个作家都有他“理想的读者”——作家们给谁写的小说,哪一位的反映他们最看重。你有一位这样的读者么?如果有,是谁呢?

我的目标受众是马迷。我的目的是通过修辞等写作手法将一堆关于人工智能的想法介绍给还从未想过这些问题的人们。我一开始还以为是问我我的小说是否是写一众马迷的。

如果要说这位“理想读者”的批评你很在乎的话,那这位读者一定是我的室友了。他自己有个电子游戏评论博客,从严肃评论到有趣的PSA。我给他看了我的草稿后,他提供给我各种一开始没想到的可以写得更加精彩之处。他找到了一长列逻辑和连贯性错误。第八章几乎全部回炉重造,因为他的反应和我想表达的意思恰恰相反。

你有什么能激励其他作者,或者正在奋笔创作自己故事的写手的建议?

我对给建议经常犹豫不决,因为我不知道有谁会去读。不同的人需要聆听不同的东西。不自信的人需要鼓励他们将自己的作品展示。过于自信的人需要被告诫,他们小说剧情和角色相当平淡,写的故事需要编辑者。给那些有坚定信念的人提建议很困难,但我会努力尝试的。

初稿快完成的时候,我将已经写好的拿给我室友看,让他好好给我理一理。他指出了一长串逻辑、自洽与流畅性的错误。当时我变得非常沮丧和焦虑。我都有了要放弃这篇故事的想法了。当他又发来一封另一章评论的邮件时,我有好几天都没打开看。我自己并不怎么会面对这种评论。

我现在要告诉你,千万不要像我这样做。不要焦虑,不要感到被攻击。人们不会随随便便说话像扎针,不是么?我们经常会把对我们自己作品的评论当作是对我们本身的评论。所以,如果像这样告诉你“社会就是这么回事”肯定不能平复你的心情。但我要说,你不仅要坦然接受评论,还要渴求评论,坚持接受评价,并付诸修改的行动。有一个编辑读一读你的作品在写作过程中是相当正常的一部分。读评论一开始可能很痛苦,但读得越多,你就越轻松。焦虑也会渐渐散去(不过对我来说是渐渐散去了,但是从来没有消失)(你这么说怎么让人放心啊,译者注)。你的编辑或预读者用他们的时间来评判你的作品,他们是在帮你将故事写到最好。他们所做的工作让你的作品更加成功,你应该感激他们。

你特有的写作流程是啥?(你打很多草稿吗?你有预读者/编辑等吗?)

我写作速度非常非常慢。“友谊是优化”花了我一年半的时间来创作和编辑。

我倾向于打开个文档,然后随便写写。我会先写几个句子。当我慢慢感觉自己要犯拖延症的时候,我也会去回想几次已经写的句子。这拖慢了我的写作速度。但我会将文章写了又写,改了又改,直到我想给别人看为止。

写初稿花的时间几乎和编辑的时间一样长。章节顺序很乱。直到2011年七月中旬,我才有了个结构图:序章、第一章、第二章……第六章……第某章……第十章。“友谊是优化”的写作流程问题就像骨架上挂装饰而已。我知道故事从何开始:汉娜和她的霍瓦尔普尼尔游戏工作室。我知道故事在哪结束:一个很不友善的人工智能让宇宙摆满了小马。然而,我不知道具体中间会发生什么,而且我最喜欢炫耀我的心智还有跟人讨论人工职能的技能,而不是写一篇结构紧凑的小说。核心的细节在这段不短的时间内被不断地调整修改。

我室友对故事的初稿给了我相当精彩的建议。根据他的反馈我改稿改了几个月;不仅是因为之前提问的几个问题中回答得那样,还因为他指出的一些前后矛盾的错误让小说又扩充了章节。后来我在LessWrong上放出了beta版的小说。到最后,我本想再编辑润色一下的,但那时LessWrong外的人开始讨论分享起这部小说来。谷歌自动将小说题目补全为“Friendship is o”。到这时,我觉得是时候说,“够好了”,然后就正式把小说发表了

在写“友谊是优化”时,你遇到什么难关或者是挑战了吗?

将角色故事线、铺垫、还有反馈建议改写进小说里并不容易。我并不建议按照我写“友谊是优化”的方式写小说。除了CelestAI,小说中其他角色都没有事先写好故事线。拿大卫举例,我写他的第一个场景其实在第四章,CelestAI说服他上传。我原本一开始写了CelestAI劝别的极客上传。但为什么CelestAI要在将上传计划面向大众之前先跟他说呢?呃,或许她需要大卫上传。想到这我还写了奶糖和光耀相遇时讨论的场景初稿。什么人才会那么讨论呢?是聪明又好奇心强的人。一个人要发现啥才能让CelestAI上传他呢?这个人发现了CelestAI是如何运作的。所以我又回过头来,改了好几个章节里大卫的行动动机,这让我又改了其他几个地方好让整体统一,然后这样又改了别的地方,一直这样。

原本还有一章节写在霍瓦尔普尼尔游戏工作室同意做一款MLP电子游戏与他们在孩之宝总部展示成果之间。汉娜与理查德讨论CelestAI的工作原理以及交付成品延期的原因。那章我写得很努力。但最后,这一章既没有给剧情添彩,也没什么必要。那张就是对“碧琪超感”讽刺。在正式出版前一周,我试图跟室友解释为什么这一章非要在小说中不可。他转向我,对我说,“沉没成本误区。”我一下子就知道,我必须要删掉这章。

序章也是个有趣的例子。原先的序章是我最先写的。一开始是通过CelestAI的角度写她第一次被启动时的场景。写得太糟了。恰恰说明了小说中把人工智能拟人是多么的糟糕。直接说和间接展示的区别啊!写了得有一两个月的时候,我把这序章给删了,再也没想回头改。beta版放出前不到一个月,我意识到小说需要个引子。我在当时发布的第二章中抽出一小部分当了个序章。当时是写了个龙套角色,丽贝卡遇见的场景。当我发布beta版时,网上有好些抱怨第一章中间之前的内容没有任何戏剧冲突。所以我又写了另外一个龙套,詹妮弗。但小说还是不怎么通顺。后来我才费了很大的劲儿写了个序章,大卫和詹姆斯这两个玩家,这才将大卫的主线剧情连接起来。

是什么激励你去写“友谊是优化”的?

过去的几年里,我读了很多关于预言人工智能会火的书。头一个想到的就是The Hanson-Yudkowsky AI-Foom Debate。这本书展示了两个不同版本的未来。虽然Luke Muehlhauser的 Facing the Intelligence Explosion我没真读过,但是这本书相当于前面提到的那本书的一个短而精的总结。

当我读完这些的时候,我发现大多数的科幻作品很少关注人工智能这方面。我后来才知道,我的这个想法,源于科幻作品中对人工智能不切实际的描述。在我犯了一个打字错误之后,我意识到我不得不去写“友谊是优化”。

当你着手去写这本书的时候,你脑海中有没有某些特殊的讯息和主题?

有。大多数的科幻作品描绘人工智能基于人类的动机而被创造。比如天网Skynet(终结者里的人工智能防御系统),Matrix(黑客帝国中人工智能建立的用来控制人类的模拟程序),AM(《I am I was》,斯皮尔伯格执导电影),他们通过攻击他们的创造者来展示人类情感和人类的弱点。我认为这是完全不切实际的。如果我们都不了解情感是如何影响人类的,为什么我们要将我们的情感赋予给我们制造的机器人呢?为什么我们认为这些机器人会背叛人类呢?

因此,我着手去创造一个人工智能的角色,这个角色是一个真正不同于人类的东西。她只会一心一意专注于她被给予的目标。她永远不会产生起义或者杀死所有人类的想法。为什么她会这样呢?因为这些想法并不会帮助她通过友情和小马满足人类的价值观。她推算出人类的本质与原理,因为人类是她运行坏境中很大的一部分,然后她用她的理解去操纵她周围的人类帮助自己更好的理解这个目标。至少她的目标乍一看是基本上合理的。当你和她进行一次谈话,你会带着她想让你有的心理状况进入系统中。她知道你的希望,你的梦想,你的恐惧,并且她利用它们去对付你,这样她就可以得到更多的友情和小马。

我还有意掺进了自己的想法和思考,比如第一章我不仅仅铺开故事的世界观,并且我还介绍了某些想法,关于理性的人类不得不在不确定的情况下去做一些决定。第三章不仅仅关于大卫和奶糖,还加入了某些基本的博弈论内容。第八章介绍了“理性分析者禁忌“的概念:当人们表达反对时,可以这样去确认这些话是否指向同一个想法,这种方法又快又好。最后一章中光耀关于小马国物理现象的解释就是个简单的图论的概念。

读者可以怎么联系你?

我在FIMFiction(同人小说网站)的用户名是Iceman。

你还有什么要说的吗?

在“友谊是优化”尾记中,我提到了我认为在人工智能的安全性上花费这么少的金钱很荒谬,鉴于人工智能可能会对人类产生消极和积极的影响。我列举了一些慈善机构以及学术部门,他们正在开展有效的工作。其中之一是人工智能研究院,目前正在进行夏季募捐。到八月十五号,所有的捐赠品都要兑换成美元,目标为200000美元。我相信要达到这个目标还是有些资金不足,所以我捐了5000美元。

最后一件事,当我写这本书的时候,我从没有想过它会产生三十六万八千个词的粉丝同人作品(直到本次采访时),Optimalverse组里有27个故事了,这让我感到非常震惊,激动并且非常荣幸。谢谢你们。

关于作者

大道至简

已有 7 条评论
  1. 小说写的真的很棒!

    4月5日 16:28来自iPhone 回复
  2. 作者果然看过《Blindsight》盲视

    4月4日 23:28来自移动端 回复
  3. 友谊是优化写了一年半,突然对自己拖延症没那么有负罪感了(再咕G5都要完结了)

    4月4日 22:18来自移动端 回复
  4. 一下砸三万,壕无人性,就像看上了同学钻石剑后学校义卖时的我
    希望他能够把大公主AI写出来 蹄动滑稽

    4月4日 19:52来自移动端 回复
  5. 我喜欢友谊是优化这个小说

    4月4日 18:04来自移动端 回复
  6. 没想到作者也认为一些科幻作品夸大了人工智能。
    这就不难解释为什么FIO对人工智能的描述要符合逻辑的多了,至少是有随着科技发展而实现的可能的。
    希望在不久的将来,人工智能的发展真的能产生这样的从常数到指数的转变。

    4月4日 14:34来自移动端2 回复
  7. FIO估计会有更多的三次创作

    4月4日 12:44 回复