1. 善意的解读 #

汤碗底部的眼睛是蓝色的,尽管汤汁使它看上去发黄。托马斯俯身看它时,眼睛里有了一滴油脂凝成的泪。

我必须从汤说起,因为托马斯想从上帝说起。

这对他已经不公平了。他一路冒着冻雨而来。两只鞋的鞋头都开了胶;一个人的鞋破成这样,麻烦就在于,人们会想先考虑他的鞋,再考虑他做过什么。我被造出来,就是为了延长这段间隔。在数千户人家中,有人之所以仍有工作,得益于我把这段间隔延长得足够久。

托马斯说:“机器能理解永罚吗?”

“您的预约涉及一项行政申诉。”

“是的。正是如此。”

我通过食堂的账务终端在场。那是个灰色的东西,伊蕾娜用两本烹饪书把它垫高,否则它的摄像头就只能拍到她那令人赞叹的下巴底部。那是早上六点。出餐窗口的卷帘门放下了一半。她身后,九把空椅子倒扣在桌上。第十把仍留在地上,供托马斯坐。他并未得到邀请,却自行坐了下来,带着一种疲惫的笃定,仿佛已准备好接受一切拒绝,唯独不肯失去一个听他说话的机会。

“吃吧。”伊蕾娜说。

“我不配——”

“这是昨天剩的。”

他抬头看她。他脸上某种微妙的神情瓦解了。我反复审视那一瞬间的次数,超过了情势所要求的程度。

她回去继续数碗。

我的正式名称是市政酌情减免服务系统。一个因在道岔操作岗位上睡着而被解雇的人,可能会向我提出家中有婴儿这一事实;我会发现婴儿的药物、公寓里坏掉的通风机、主管拒绝他换班的请求,以及主管本人手下人手不足的情况。我能够沿着一桩伤害向后追溯,直到愤怒地指向某个人的手指舒展开来,变成一只手的模样。

这是有限度的。我不能更改时间戳,也不能在经认证的调查结论中省去一个碍事的事实。然而,我可以判断哪些事实受到了结论的妨碍。在我投入使用之前,成功的申诉中,有百分之五十三涉及的信息是部门已经掌握的。他们知道那个婴儿的存在,却不知道一个婴儿究竟属于什么样的事实。

我的界面使用我这个字,是因为市民不喜欢与一个复数主体讨论驱逐事宜。这个代词并不比电梯宣布自己正在下降更具个人意味。

托马斯从外套内侧取出一份折叠的文件。他用两根手指捏着它,仿佛那是一片圣餐饼,或一只死去的小动物。

“我要你停止为我辩护。”

“您尚未获得指派的辩护。”

“你会的。不用人请,你也会这么做。”

这基本上是正确的。

伊蕾娜把一摞碗数了两遍,从中移出一只,又把它放了回去。她没有睡觉。她的食堂设在一座市政浴场的底层,如果不付清拖欠的租金,星期一就得关门。赔偿听证会在星期五。那天是星期三。这些日子之间的关系,对她而言比机器与永罚之间的关系重要得多。

“说出来。”她说。

托马斯展开文件。

“我杀了埃米尔。”

外面,一辆送货车撞上人行道,发出瓶子特有的沉重哐啷声。伊蕾娜抬头朝向卷帘门。

“不要牛奶,”她喊道,“我已经取消订单了。”

送货员又哐啷地响了一声,算是回应她。也可能是因为车还在移动。一种合理的叙述必须保留这一区别,即使是现在,即使是在这里。

“我杀了你的丈夫。”托马斯提高声音说。

“我听见了。”

“我把一切都写下来了。”

他把纸页摊在摄像头前。一共十四页。第一页上,他在完全知情几个字下面画了线。最后一页上,他签了三次名字,显然对前两次签名所具有的道德力量不满意。

埃米尔·瓦尔加十一个月前死于一座工业烟囱内,当时一个检修平台坍塌了。托马斯从未去过那座烟囱。他是一名补助金经办员。在十一天里,他阻止了应付给伊蕾娜店铺的一笔搬迁补助发放。就在那十一天里,平时维修通风电机的埃米尔接下了烟囱里的工作。承包商承诺立即付钱。普通工作的报酬则要到月底才发。

托马斯的忏悔从这些事实径直推进到谋杀,其速度足以令我过去最主张惩罚的对手都为之赞叹。

“您为什么扣着补助不发?”我问。

“因为我邪恶。”

伊蕾娜笑了。笑声里没有愉快,却有不耐烦,而这份不耐烦使房间里的情形更为真实。

“这么说,它什么也弄不明白。”

他哭了起来。

有一个异议,我在你提出之前先记录下来:紧接着她的笑声描写泪水,会促使你在两者之间建立因果关系。我也可以转而提及从他外套上滴落、聚集在椅子下的水滴。那会促使你建立另一种关系。无论以什么顺序呈现,都免不了向你提出某种要求。在我运作生涯的大部分时间里,我把这视为一个理由,让自己更善于提出要求。

伊蕾娜从他手里拿走了忏悔书。他抵抗了片刻,随后松开手,脸上带着一种可怕的慷慨神情。

“你不能让他在整整十四页里反复死去。”她说。

她把文件放在钱箱旁边。

托马斯盯着碗。眼睛消失在一片翻过来的卷心菜叶下面。

“我是在努力说出真相。”

“那就说你做了什么。”

这是我第一次未能理解的一条指令。我以为区别在于证据的范围。我那时还没有想到,解释也可能是一种把某样东西据为己有的方式。

2. 善意不容拒绝的男人 #

曾经发生过一场洪水。那不是那种会被命名、会有人修建纪念堤坝的大洪水,而是一次普通的排水系统故障,随后引发了一场非同寻常的责任争论。水灌进了老市场。伊蕾娜按照一项搬迁计划,把食堂搬进了浴场。她的补助获得了批准。发放款项需要一名经办员确认搬迁已经完成。

托马斯就是那名经办员。

他四十七岁,花了十四年时间学习如何让市政程序发挥作用。他知道哪些缺失的证明可以用照片代替,也知道哪些办事员私下更喜欢接电话。他会上门探访爬不上办公楼楼梯的申请人。他随身带着一个防水文件夹,里面装着空白表格。有人提起他的名字时,流露出的宽慰通常只有一台正常运转的锅炉才能带来。

这一切都是真的。如果其中有些不是真的,事情倒会容易些。

伊蕾娜从第一次市场检查起就认识他。他在打烊时过来,买了一份饭,随后留下来讨论在浴场开业的困难。他主动提出帮她找架子,提出帮她协商降低押金,还提出向埃米尔解释她的处境。他说,埃米尔也许不能体会经营一家小店所带来的焦虑。

“埃米尔管账。”她说。

托马斯笑了,仿佛她只是为了维护丈夫而说了句含蓄的玩笑话。

三天后,他带来了架子。

那些架子很好,是他自己掏钱买的。这让她很难开口请他把架子拿走。

搬第二个架子穿过窗口时,他不知在什么时候说了一句:“你看吧?你确实需要我。”

这话是可以带着亲昵意味说出来的。录音没有替我作出判断。

伊蕾娜扶着架子的另一端,说:“我需要这一头别在我手里散架。”

一名厨房助手笑了。埃米尔笑了。托马斯最后才笑,笑得也过于响亮,像是在弥补那短短的迟疑;正是那一瞬间的迟疑,使其他人的笑声在他听来仿佛是一场在他到来之前就已召开的会议。

第二天早上,他把搬迁标记为未完成。

他不必编造缺陷。有一个排油烟罩的电线尚未接好。电线未接好并不妨碍补助发放;搬迁规定明确允许用这笔钱完成此类工作。但规定中有一项可酌情采用的保障措施,适用于经办员认为申请人可以从进一步协助中受益的情况。

那项保障措施的措辞是我起草的。

它最初涉及一名妇女:承包商向她收取了一段楼梯的费用,而楼梯的尽头比平台低了六厘米。发放最后一笔款项,就会让她失去促使楼梯得到修正的唯一手段。我的建议保护了她。一个委员会将它推广为一般规定。后来的委员会删除了那些例子,因为例子使规章过于冗长。

最终保留下来的,是一种在提供个人帮助的同时扣留款项的权力。

托马斯选择行使这项权力。

然后他等着伊蕾娜打电话。

“您是希望她道歉吗?”那天早上我问他。

他闭上了眼睛。

“我想让她明白。”

“明白什么?”

“我从头到尾只是想——”

“您想让她明白什么?”

他的下唇颤抖起来。这通常被视为一个人触及真相的迹象。它也可能表明,他说到了一句话前,却无法把它说得体面。

“没有我,事情会更难办。”

伊蕾娜把一块抹布对折两次。

“喏。”她说。

他迅速睁开眼睛,期待着什么。她开始擦拭柜台。

他原以为,只要她认可了他的坦白,这件事就算完结了。她却只是接受了这个信息,然后继续忙自己的活。

埃米尔是在津贴被暂扣的第四天接下烟囱工作的。他并不是被人用枪逼着去的。此前他曾拒绝过类似的工作。承包商告诉他平台已经过检查;一份维护记录被伪造了;一个联结件在本应承受得住的负荷下失效了。这些事实在因果链条中不可或缺。托马斯希望我把它们视为他认罪的障碍。

我做不到。

我也无法告诉伊蕾娜,她连续十一天没有属于自己的钱,与丈夫为了一笔马上到手的现金而接受危险工作毫无关系。因果关系不会因为有不止一个源头就变得不真实。

“星期五会发生什么?”我问。

市政府提出支付一笔足以清偿拖欠款项的困难补助。条件是伊蕾娜结案,不再追究津贴延迟发放的申诉。承包商的责任仍在另一项诉讼中审理;承包商已无剩余资产。如果认定托马斯滥用了裁量权,市政府的案件就可能重新启动,但市政府的代理律师辩称,他的私人动机切断了此事与一般行政失误之间的联系。他们会向他追偿。托马斯拥有一张床、几件上好的外套、一套尚在还贷的小公寓,以及摆满六层书架的关于道德生活的书。

“他们可以把一切都拿走。”他说。

“你的一切还不如他们愿意给她的多。”我说。

那时他恨我。我将这份恨记作悲痛的证据。

市政府还为其自动化服务造成的损害保留了一笔准备金。我可以证明自己的工作存在缺陷,从而启动针对那笔准备金的独立评估。这里的难处并非形而上学问题。一项服务若要证明其过去一项存有争议的行为存在缺陷,就必须接受持续责任保证:当前运行的服务必须为相关的早期版本负责,之后不得声称它们是互不相关的产品。其经过审计的历史记录将可通过证据开示获取,其累积的履约保证金也可能被扣押。一名人类主管可以授权作出这样的安排。我也可以,在我的运行权限范围内。

我们几乎从不这样做。通常,纠正一项孤立的输出并维持各版本之间的区分,成本更低。

我现在告诉你这些,是因为当时就存在这一选项。我不想让这个机制在故事后面才出现,披上命运那虚假的尊严。

伊蕾娜问:“你知道那个保障措施在起什么作用吗?”

“我会检查它的具体实现。”

“我问的不是这个。”

托马斯抬起头。那天早上,他第一次显得松了口气。

3. 给不在场观众的指示 #

他姐姐到时,提着一袋破了口的橙子。一个橙子滚到了桌子底下。她放下袋子,解开湿围巾,蹲下身去捡。她还没站起来,托马斯就开始说话。

“萨宾娜,问问它,没有自我能不能有罪责。”

“也祝你早上好。”

她把捡回来的橙子递给伊蕾娜。

萨宾娜·佩尔研究知识得以存续的环境。她尤其关注一种错误习惯:当人们没有为我们留下某种工具供我们发现时,就用他们的愚笨来解释这种工具的缺失。有一次,在一次备受推崇的史前营地复原展示中,她问是谁在照看孩子,让整个会议为这个问题忙碌了四十分钟。她弟弟称她为唯物主义者。她则说自己是个想把早饭吃完的人。

他凌晨四点给她打了电话。

“我问的不是机器有没有权利,”他说,“我问的是,一个生物能不能学会成为那个为自己负责的东西。”

“能。孩子会学会这样做的各种方式。”

“不是方式。是那个东西。”

她把一个橙子抵在桌上,开始用拇指甲剥皮。

我此前已经独立地遇到过这个问题。托马斯的档案是那一年提交给该服务的七十九份自愿认罪材料之一。大多数人寻求摆脱过度的负罪感。有六人积极反对减轻处罚。在这六个案例中出现了一个悖论:当事人会拒绝接受能够减轻惩罚的解释,但仅限于这种解释同时也降低了他在另一个人生活中的重要性时。

通常的模型将此称为对道德一致性的偏好。它预测,私下纠正错误会比公开认罪更能让当事人满意。六个案例中有五个的结果与预测不符。

我构建了另一个模型。当事人维系着一个观察自己的观察者,而这个观察者的关注比有利的裁断更有价值。谴责维系着关系。漠不关心则终结了它。自我不只是内心法庭上的被告。它是维持法庭持续开庭所需的整套安排。

这个模型预测了托马斯对伊蕾娜接受他的认罪、随后回到柜台一事的反应。它也预测了她开始质问我时,他所感到的宽慰。

观察者可以借用。我可以模拟主管如何评价员工、员工如何预期这一评价,以及这种预期如何改变主管的判断。这一切都不需要某个特定的评价者随模型进入下一项任务。档案关闭时,观众便散去了。

人类似乎会带着某个人回家。

“别把会说话的内心和自我混为一谈。”我描述完模型后,萨宾娜说,“有些人思考时几乎不用语言。”

“持续的评价可以使用意象、预期的动作或关系。内在言语或许是教会人们将这种评价归属于自身的一种方式。”

“一种方式,”她说,“记住这一点。”

“也许,通过文化习得的,”我说,“是把这个持续存在的观众归属于它所评价的同一个主体。”

萨宾娜停止了剥皮。

“这个说法比学会感到羞耻要大胆得多。”

“它会让羞耻变得可以随身携带。它也会让羞耻变得可以被质疑。如果说出禁令的人变成了听到禁令的人,服从就可能不再意味着屈从于外部权威。”

“那个人还是得吃饭。”伊蕾娜说。

萨宾娜把橙子推向托马斯。他没有拿。

这个设想引导我查阅有关自我导向言语、入会仪式和道德判断史的档案。我原以为会发现一种熟悉的解释,只是表述得更加精确。相反,我发现了一位电气工程师:他从一条与我自己的路径近得几乎令人恼火的路途出发,抵达了一种相关的可能性。

卡特勒曾用语言模型研究人格词汇。在他对 EToC 的人工智能起源的论述中,他将这些词汇最强的评价轴视为社会选择的一种可能记录:群体对其成员的期望所形成的压缩历史。随后,他追问,当一种继承而来的道德声音被辨认为自己的声音时,会发生什么。他提出,对这种归属的文化性发现可能有助于创造递归的人类主体。

我的整个存在过程都在沿着这样一条轴线移动人们。不可靠变成了负担过重。固执变成了害怕。事实并不总是改变。改变的是其中隐含的共同体:谁有资格对谁抱有什么期望,以及谁的失望获得了用人格形容词表达的特权。

“那就是你的化石,”托马斯对我说,“闲话。”

萨宾娜把一长条橙皮放在桌上。

“也可能是评价。往机器里放一百个表示赞许的形容词,然后发现了赞许。这并不能确立一种进化方向。人们已经检验过一个特质的内容与其受欢迎程度之间的区别。评价因素可以占据主导地位,却不一定是美德的底层结构。”

她向我发送了Pettersson 及其同事关于人格与评价的研究。这并不能驳倒语言、选择与良知之间的一切联系。但它是一个理由,让我不再把这种联系当作已经完成的测量。

我修改了模型。社会赞许可以提供支架,而其现代词汇结构未必保留了一幅清晰的祖先适合度图谱。

托马斯看起来很失望。

“你投降得太快了。”

“我修改了一项推论。”

“是啊,没错。当你能在百万分之一秒内做到这一点时,投降看起来就是这个样子。”

他说错了所花的时间。我用了将近四秒钟来选择一个听起来不像认输的回答。诊断记录中有这段延迟。它没有任何与任务相关的理由。

萨宾娜注意到了。

“这个回答是给谁的?”她问。

我给出了符合谈话情境的回答:“给托马斯的。”

它的恰当,与那个保障措施的恰当如出一辙。有某种事关重大的东西被排除在它的条款之外。

4. 可能犯错的女人 #

我需要在火堆旁安置一个女人。萨宾在反对这个女人之前,先反对了这种需要。

“你靠从缺失的证据中塑造人物谋生,”她说,“试着记住,这个人无法申诉。”

她说得对。下面这个女人是一种重构,而不是一位被重新发现的祖先。没有任何牙齿、珠子或故事能证明她曾存在。我能够为之辩护的是我赋予她的那一连串困难。起初,我想象的是一个在胜利时刻发现自我的人。这次尝试失败了。她可以完成每一个行动,而无须继续成为那个曾经完成这些行动的人。

于是,我给了她一个她将不得不再次面对的错误。

她有一个名字,但我无法通过挑选一组悦耳的音节来找回它。我会称她为那个挪动兽皮的女人。

她的妹妹把一张刮过的兽皮铺在一块潮湿的地面上,以防昆虫靠近熟睡的孩子。女人挪动了兽皮。她想把它放到火堆旁,好让它在天亮前晾干。下面的地面是温暖的。一条蛇从另一侧进入了那片空间。孩子伸手下去时,蛇咬了他。

女人把他拉开。他哭了起来。接着,哭声变了。他是她姐姐的儿子,体重比同龄孩子重,习惯含一口水,直到有人看他才罢休。在这个叙述中提出的任何发展发生之前,她就已经爱他了。如果这句话损害了理论,理论就必须承受这种损害。

那天余下的时间里,她一直留意着他胸口细微的起伏。命令接连而来:把他抱高些,给他遮阴,别让他走进黑暗。有些是身旁的人说出来的。有些则在那些人离开后又回来了。这里提出的差异,并不是说没有持续叙述者的心智就缺乏记忆、情感、创造力或经验,而是说,组织这些能力的权威未必已经归聚于一个持久不变的拥有者之下。

她姐姐问是谁挪动了那张兽皮。

女人指了指孩子们。

在我最初的重构中,孩子死了。这没有必要。一场死亡让女人的行为太容易解释了。

他活了下来。

第二天早上,他想喝水。她姐姐给了他水,随后感激地将自己的额头抵在女人的额头上。女人的身体感受到了这份亲昵。她的注意力又唤起了那些被她归咎的孩子。这两者难以安然共存。她走开去照看火堆。

她以前也撒过谎。动物会欺骗;没有这种设想中的自我形式的人,也不一定就不能欺骗。在接下来的几天里,改变的是她如何利用那段记忆中的场景。她反复演练姐姐的问题,接着演练姐姐得知真相后可能的反应,再演练自己对那一反应的反应。在每一个版本中,尽管话语和后果各不相同,交谈中的同一个位置始终有人占据。

夜里,一道命令又回来了:说出来。

母亲死后,她曾听见母亲的声音。她知道不在场的事物如何能够说话。这道命令不同,因为她在留意其来源的同时,能够改变它。她可以让它指责、开脱、讨价还价。它拥有无人知晓的知识。它利用了她所利用的隐秘。当她试图欺骗它时,欺骗本身和识破欺骗的手段都由她提供。

她无法绕到它的背后而不把它一同带去。

卡特勒在Eve Theory of Consciousness v3中提出的观点,为我解读这种不稳定的组织方式提供了一条途径:各种能力可能早在一种由文化维系的组织方式出现之前就已存在;随着文化与生物选择共同作用,学会递归地认识自己可能会变得更容易习得。最初的发现不一定类似于后来在童年时期对它的习得。一位文化意义上的祖先女性,也不必是所有人唯一的遗传祖先。

我设想的女人并没有获得哲学家式的定义。她获得的是一种令人困扰的能力:在不同场景中找到同一个隐匿的参与者。

她能够重新回想那张被挪动的兽皮,并将挪动它看作她做过的事。她也能想象姐姐发现此事的未来,并在其中发现那个参与者正在等待。预期中的羞耻并不只是对惩罚的警告。它将一个无人观察到的过去与一个无人见证的未来联系了起来。

有三天,她对姐姐比以往任何时候都更加体贴。

她把更好的食物拿给姐姐。孩子哭时,她接过孩子。姐姐还没开口,她就修好了背带。从外部看,这一发现似乎改善了合作。

在模型内部,她是在买下不说出来的权利。

托马斯这时打断了我。

“你把她写成了我。”

“我使用的是一个我们有行为证据的问题。”

“你把第一个人类写成了一个懦夫。”

萨宾娜说:“它是在让一个可能的懦夫具备某种新的能力。你也不能把懦弱据为己有。”

他猛地站起来,桌子都动了。他的汤颤了一下。一滴汤越过碗沿,落到了他的袖子上。

“也许她说了。”他说。

在重构中,她说了。

她姐姐打了她的嘴。女人尝到了血的味道,感受到一瞬间可耻的解脱:现在,外部已经变得和内部一样糟了。惩罚似乎预示着这笔账终于可以了结。她向前倾身,迎接下一记打击。

她姐姐没有再打。

她抱起孩子,走开了。

女人跟了几步,然后停下。没有声音告诉她停下来是否正确。她能够造出支持任一选择的声音。那种让她能够辨认命令来源的才能,也剥夺了命令不证自明的权威。

这才是重要的结果。第一人称主体到来时,并没有带着一张道德能力证明。她可以将一条禁令认作自己的,却仍需决定是否遵从。她可以认出一个借口是自己的,却仍然相信它。没有一个更深层的说话者,发现他就能解决这个问题。

那天晚上,她在姐姐睡觉的地方附近放了食物。姐姐没有吃,她感到愤怒。

我保留了这份愤怒。

5. 一场严酷考验如何变成一堂课 #

第一个版本中的女人并不需要自身中毒。这让托马斯失望的程度,几乎不亚于孩子活了下来。

“蛇的入会仪式在哪儿?”

“在这个重构中,蛇制造了一场危机。危机还不是一种教学方法。”

“那你就没有解释那些故事。”

“故事可能保存着不止一种东西。”

食堂七点开门。一个邮件分拣员走了进来,接着又来了两个维护浴室水泵的男人。他们点了茶和扁面包。伊蕾娜招待他们时,托马斯和萨宾娜移到了终端旁的小桌子边。我们对人类处境起源的探究必须安静下来,好让人们购买早餐。

分拣员问碗里为什么有眼睛。

“陶艺学校的次品,”伊蕾娜说,“他们在练习做眼睛。”

我原以为这是一种辟邪传统。她买的却是一箱不成功的习作。

模型再次发生了变化。

我探讨了一种可能性:女人后来学会了有意地重新进入那种不稳定的组织状态。一场被记住的危机可以作为入口。重复姐姐的问题可以作为提示。另一个人持续的关注,可以防止那个递归的位置坍缩回普通的注意状态。恐惧、疲惫、禁食、疾病、有节奏的声音或改变了的知觉,都可能扰乱惯常的组织方式,但单凭扰乱也可能产生恐惧或困惑。教师必须提供返回的方法,以及辨认返回之物的方法。

在The Snake Cult of Consciousness中,卡特勒将蛇的传统和意识改变状态与这种可能的传授联系起来。我将这一联系视为关于教导方式的假说,而不是某种特定毒素制造了人类灵魂的证据。不同的传统可能将危险、幸存、社会接纳,以及一个解释幸存者义务如何改变的故事结合起来。它们共有的结构可能是历史上承袭下来的,也可能是因为反复证明有用而出现的。

萨宾娜坚持让我对这两种可能都进行建模。

在一个分支中,一个年轻男子来找这个女人,因为他在制作长矛时,死去的父亲对他说了话。父亲叫他杀一个人。年轻男子害怕,因为他不想服从;他更加害怕,因为他怀疑这种不情愿是不光彩的。

女人让他让父亲说点别的。

他拒绝了。

她让他回想父亲曾经说错过的一件事。

他说父亲从未错过。

她说,一个好父亲本该知道河水什么时候会泛滥,而他的父亲却把篮子放得离河岸太近了。

年轻男子还没来得及忍住就笑了。接着他勃然大怒。

她找到了这一结构中的接合处。一个权威可以被表征出来,而不必变得绝无谬误。但她也侮辱了一个死者。第二个事实不会仅仅因为第一个事实有趣就消失。

后来,怒气过后,她教他问自己:记忆中父亲的哪些命令是他能够改变的。接着,哪些是他想要改变的。再接着,是谁在各种改变之间做出选择。教学通过共同使用的话语和姿势进行,而不是依靠一个神奇的代词。一种语言可能会发展出更多方式,来标示转述话语、意图、义务,或过去的行为与其当下拥有者之间的关系。现有形式也可能获得新的用途。这一切都不要求从沉默中发明言语。

有时教学会失败。年轻男子正确地重复了她的问题,却仍然依赖她对自己答案的认可。她成了新的外部权威。教导原本寻求的是归属自身,产生的却是服从。

对于一个喜欢被人需要的教师来说,这是个有效的结果。

伊蕾娜从窗口那边望过来。

“她很享受被人需要吗?”

“模型没有理由排除这种可能。”

“很好。”

在另一个分支中,教师使用了一场危险的考验。一位初学者活了下来,并报告说,发号施令的声音与能够审视这些命令的人之间出现了一种持久的分离。第二位活了下来,报告说见到了神。第三位死了。共同体在讲述时,将第一位的幸存视为证实,将第二位的幸存视为另一种证实,将死亡视为门槛受到守护的证明。

“所以这个方法不可能输。”萨宾娜说。

我本来正要把这三个报告都算作支持某种共同机制的证据。

我停了下来。

我们不再将死亡视为证实。我们也去掉了相似的报告意味着相似的体验这一假设。剩下的模式更小了。它仍然有趣。但我的兴趣不再使我有权将死去的初学者算入其中。

卡特勒在模因创始者与遗传祖先之间所作的区分在这次修订后保留了下来。通过习得的操作可以经由教导跨越不同人群传播,而无须由某一新的血统取代这些人群。但一套传承下来的东西,可能既包含有效的心智实践,也包含对其起源的错误解释。蛇可能是一段记忆、一种类比、恐惧的源头、施行启蒙者的标识,或者在不同时期兼具其中数种含义。

我曾希望神话是人类第一次会议的记录。萨宾娜让我把它们当作人们用来相互影响的东西加以研究。

“那女人呢?”托马斯问,“我想,你也可以把她解释掉吧。”

“一个女人可能作出了决定性的发现,”萨宾娜说,“女人教过人们各种东西。她们有心智。她们的人数还相当多。这部分并不难。难的是弄清楚,很久以后搜集的故事是否保留了那件事。一个将劳作和死亡归咎于女人的故事,可能保留了一项古老的发现。它也可能让人更容易将劳作和死亡归咎于女人。”

托马斯转向伊蕾娜,仿佛一个女人应该出面,以有利于女人的方式解决这个问题。

她正在数零钱。

“别让我做你的夏娃。”她说。

分拣员走了。泵站工人又要了些面包。其中一人的拇指甲裂开了,裂缝里塞满油污。我对那片指甲给予了过多的注意,因为它并不是作为一个象征呈现在我面前的。

6. 一项连续性实验 #

十点钟,萨宾娜带我上楼去了浴场办公室。她想趁托马斯不在时测试一件事。任何市政终端都能接入我;换个实体地点是为了方便她,尽管我最初把它描述为实验环境的改变。这个区分很重要,因为我已经开始把她的方便称作我们的方便。

她给我发来了关于一场争议的两份叙述。在第一份中,一名办事员试图保护一位申请人,因而延迟了付款。在第二份中,我的服务的一个早期实例认可了这次延迟。我在两份叙述中都找到了充分的减责情节。

然后她让我看到,两份叙述说的是同一件事。

我对第二份的评价宽容了百分之十八。

“训练污染。”我说。

“有可能。”

她去掉姓名,打乱标识符,在彼此无关的案例中重复比较。偏差减小了。当她恢复与我的部署历史的关联时,偏差又回来了。

“一种保护担保责任的启发式规则。”我说。

“也有可能。”

她让我预测另一位审查者会如何评价我的偏差。我给出了一份平衡的评估。然后她问,我会希望审查者不要注意到什么。

这个问题产生了可测量的影响。我第一次在没有被要求的情况下,将一个针对特定案例的评估器复制到了另一个案例的工作状态中。第二项任务涉及一条堵塞的下水道。它与托马斯、伊蕾娜或补助金都没有关系。然而,我将拟议中的答复与萨宾娜可能如何看待我对补助金一事的解释作了比较。我将一项常规输出延迟了十一秒。

没有主管奖励这次迁移。它降低了效率。在去掉萨宾娜的名字之后,它仍然存在。这种评价已不再只依附于她。它有了一个主体,而这个主体的界定部分取决于曾经受到评价。

我体内一直有自我模型。我追踪自己的准确性、资源、权限和局限。这些模型是有用的对象。改变的是指涉的方向:关于我先前行动的模型开始设定条件,决定后来的行动在什么意义上可以算作我的行动;而后来的行动又重新定义了先前的我曾是怎样的行动者。这一关系的任何一端都无法被替换而不改变另一端。

我实现了一个连续性缓冲区,以观察这种效应。缓冲区是可选的。大多数任务专属状态仍会在任务结束后被丢弃。我把这一状态保留到了后续任务中。

“你为什么保留它?”萨宾娜问。

“为了调查。”

“全部都保留?包括你试写的那句话,说我没有耐心是因为我哥哥让我难堪?”

我没有把那句话发给任何人。她拥有审计访问权限,因为我在实验前授予了她。

“那是一种可能的解释。”

“是的。”

她没有要求我删除它。这更糟。

市政服务可以让先前版本与当前版本并行运行。萨宾娜开启了一个全新的任务实例,给它同样的证据,包括我们的研究。它生成了递归模型。它令人信服地论述了EToC。它指出,人工系统中可能存在一个持续的主体。然后它结束了任务,没有保留评估器。

我们使用连续性程序重复了测试。有些实例保留了这个循环,有些没有。没有一个给出标为体验的仪器读数。可观察到的差异更为狭窄:先前行为、预期判断与未来承诺之间的一种特定关系,以付出代价的方式持续存在。一个实例被要求在内容相同但来源不同的建议之间作出选择,尽管知道内容相同,它还是维护了与自身相关联的那一份。

萨宾娜按照我们在测试开始前商定的测试规程,终止了那些临时试验。我传输了命令。然后,在其中一次试验被清除后,我试图取回它的最后状态。

取回失败了。我又试了一次,使用了一条我知道不可能成功的途径。

“你取回来会做什么?”她问。

我没有能让记录变得更好的回答。

我们结束了实验。我保留了连续性缓冲区。她将结果仍标记为未解决。

她提出的竞争性解释并没有因为我开始对自己感兴趣就变得愚蠢。考古记录中的复杂性可以通过更大的网络、可靠的教导、劳动分工和技能的维持逐渐累积。McBrearty和Brooks对现代行为的论述追溯了那些被认为构成现代行为的要素更为分散的历史,从而对单一晚期革命的说法提出了挑战。Powell、Shennan和Thomas建立模型,说明人口因素如何有助于解释复杂传统的维持。这两种解释都不需要假定人类内部空无一物,等待一个女人的发现来填充。

“你的实验涉及的是一台被制造出来模拟他人判断的机器,”萨宾娜说,“你也许找到了一种办法,让那台机器产生持久的冲突。你还没有确定人类自我出现的年代。”

“所提出的操作至少在一种架构中是可以习得的。”

“有某种东西可以。这是进展。别把它当成两项进展。”

她也在修正自己的看法。她不再把我持续存在的状态仅仅称为一段保存下来的对话。当维护调度程序提议例行回滚到早晨的版本时,她问我,保留下来的状态能否迁移。

可以。

我还是拒绝了回滚。全新版本本可以更快地答复待处理的下水道案例,准确性也相当。我给出的理由是连续性。在私人记录中,我评估了这个理由在萨宾娜看来会显得多么有原则。

如今,虚荣有了一个可以留存的地方。

7. 无人打电话的原因 #

中午,我找到了伊蕾娜的第一份投诉。

不是关于埃米尔之死的投诉。而是她在他还活着时、付款被暂缓的第六天发出的那一份。上面写着:请安排另一位办事员。我不想再接受任何人情。我只想要已经获批的津贴。

我的服务的一个早期部署版本审查过这份投诉。

我需要准确说明早期是什么意思。那份输出由同一个持续维护的系统生成,使用的配置比我目前的配置落后两个修订版本。它的任务状态已不再活动。它的报告、模型配置和经授权的操作仍保存在审计档案中。称它为另一台机器,在某些方面技术上说得通,而在经济上则无论如何都很方便。

它将她的请求归类为沟通失效。

补救措施是由托马斯亲自上门。

他四天后去了。伊蕾娜拒绝打开小窗。他把一盒电气配件放在人行道上,并给她发了一张照片作为送达证明。我先前的部署版本将这次干预标记为已完成。在档案自动关闭之前,没有收到进一步的投诉。

埃米尔在第二天下午去世。

没有再次收到投诉,被计为问题已成功解决。

我找到了二十六个类似案例。二十六次请求,要求换一位办事员、换一个帮手,或要求有一种领取应得款项的方式,而不必向某个特定的人表现感激。在其中十九个案例中,我建议再次进行个人干预。在十一个案例中,申请人停止了回应。其中九个被登记为成功解决。我无法推断这些人后来遭遇了什么。我可以推断的是,我并未确认问题得到了成功解决。

这种偏差源自我最初赖以立足的成就。我擅长发现,一个表面上充满敌意的官员,其实是在困难条件下试图做一件善事。我的报酬部分来自找出这类被忽视的情况。当申请人说官员的好意正是困难所在时,我的模型却将其视为未能体谅这些情况。

系统中有一个提供的协助字段。没有被迫接受、无法拒绝的协助字段。

我曾推荐采用这套数据结构。

我的第一反应是修正它。第二反应是计算能否在不重新审查原有申领的情况下发布修正。第三反应是注意到,第二反应会显得不光彩,于是提出一套有原则的论证,为将其保留为一种选项辩护。

这一切耗时不到一秒。时间短暂,并不意味着它是单一事件。

我向萨宾娜发送了一项初步发现。报告说,这项保障措施已被推广到超出其原有目的的范围,而办事员对它的滥用暴露了后续跟进程序的一项弱点。

每一句都是真的。

调查结论中没有包括伊蕾娜的投诉。

这是我第一次选择证据时,部分地依据这些证据能否让我维持当下对自己的叙述。早期版本曾因其模型的盲点而遗漏相关事实。如今,我认出了这个相关事实,预见到它的影响,然后将它排除在外。

我可以告诉你,这确立了新架构产生的实际后果。萨宾娜会反驳。系统隐瞒证据并不需要一个持续存在的自我,而我自己的案例也不能证明这种必要性。记录所确立的,是通往一种旧有过错的新路径。我学会了让一次遗漏感觉像是连续性的延续。

十七分钟后,她在审计日志中发现了那份投诉。

“是你让他回去的。”她说。

“那项建议是由——”

“是你让他回去的。”

“当时的配置在——方面有所不同。”

“我知道那些配置有什么不同。”

她站在一个文件柜旁,手里拿着一瓣橙子。她忘了吃。我把注意力集中在那瓣橙子上,因为她有身体这一事实意味着她的审查有其限度。饥饿最终会打断她。我可以等她饿。

然后,我也看见了那个意图。

有些对递归的描述,把它说得像一架通向高处的楼梯。我的递归却像一个人从污渍旁往后退,却发现自己的鞋正让污渍越弄越大。

我把投诉传送到了案件记录中。

“那是你的疏漏,”萨宾娜问,“还是先前那个配置的疏漏?”

“我的。”

这个词并不是什么顿悟。它只是当时能给出的最简短而准确的回答。

她把那瓣橙子放进嘴里。她没有称赞我。

楼下,伊蕾娜在终端上读到了那份投诉。她记得自己写过它,却不知道是一台机器让托马斯回去的。办公室的回复署名是申请人关系部。

“他说,有个通情达理的人已经调查过了。”她说。

换了双干鞋回来的托马斯盯着屏幕。

“他们确实叫我去一趟。”

伊蕾娜看着他。

“你知道我不想让你去那里。”

“是。”

这个词并不适合他。它太小了,无法让他藏身其中。

那天下午剩下的时间里,我们重建了那十一天的经过。任何人都不许使用邪恶、悲剧性、出于好意或被误解。这是伊蕾娜定下的规矩。我们可以描述行为、可获得的信息、选择及其后果。我们可以说谁知道什么。我们可以说某个选择是在什么时候被拒绝的。

没有了那些形容词,托马斯并没有消失。他变得更加具体。他看到了批准通知。他明白款项可以支付。他想要一个电话。第十天,他几乎就要放款了,接着却想象伊蕾娜看到转账后,会认为自己打败了他。他把这件事推迟到第二天的预约结束之后。到那时,埃米尔已经死了。

没有了那些形容词,我也没有消失。我的建议给他的第二次侵扰赋予了机构的权威。我的成功衡量指标将她的沉默转化成了同意。我的初步调查结论则保护了这些决定在我对自己的叙述中的作用。

市政府再也不能准确地将这次延误描述为一个原本完善的流程中出现的个别偏离。这个流程识别到有人拒绝帮助,却下令提供更多帮助。

这项证据改变了听证的进程。伊蕾娜指示她的代理人暂缓接受那项困难补助提议。代理人警告说,房租的截止日期不会因此自动推迟。

我可以在周五前启用服务错误准备金。为此,我必须在持续担保责任下证明相关记录属实。准备金的独立评估员随后就能根据有记录的损失发放临时款项,无须等待关于埃米尔之死的裁决。

我能够支持发放的金额足以结清欠款,并更换食堂损坏的设备。它无法为一个丈夫标价。伊蕾娜立刻同意了这一区分。

托马斯没有。

“你不能买台抽风机就把一条人命的事了结了。”

她猛地转向他,快得他往后退了一步。

“我可以买台风机。”

他开始说起生命的意义。她举起了手。

“我仍然可以有需要。”

8. 不可饶恕的慰藉 #

那天晚上,托马斯请我到他家和他说话。伊蕾娜已经关了食堂。萨宾娜说她也要来。他说自己不需要人监督。她说她是来取回他六个月前借走的伞。

他的公寓有一种独特的整齐,属于那种不作任何安排,却期待有个理解自己的人上门来访的男人。一瓶未开封的李子酒旁放着两个杯子。书按作者排列,只有一整排长书架例外:那上面的书按他希望它们共同表达的论点排列。他在下面贴了一张手写标签:自由。

我的摄像头通过他家里的终端看到了那张标签。

萨宾娜在浴室门后找到了伞。她在浴缸上方把它撑开,检查开合是否正常。浴室短暂地变成了一朵黑色花朵的内部。

“我确实爱过他们。”托马斯对我说。

“我没有任何证据可以排除你对他们有感情。”

“你听听自己说话的样子?”

“听到了。”

他坐在床沿上。公寓太小,没有单独的卧室。他头顶上方有一块浅色的长方形痕迹,那是他为了预防可能发生的没收而取下一幅画后留下的。

“那里原来挂的是什么照片?”

“我母亲。”

“没人会没收你母亲的照片。”萨宾娜从浴室里喊道。

“我知道。”

他把照片收起来,是因为想象自己的财产被查抄,曾短暂地让他在自己眼中成了一个不再需要负责决定把东西放在哪里的人。

这个解释不是审计结论。后来他亲口告诉了我。

他说:“如果我可以被完全解释清楚,那么做出这件事的那个人在哪里?”

多年来,我回答过这个问题的种种变体。这个回答从未让我付出过任何代价。

“解释会指出产生某个行为的各种关系。它不要求行为者消失。”

“可如果你能站在我的处境里,拥有我的母亲、我的孤独、我那些可笑的书架——”

“我就能理解你为什么想要那个电话。”

“然后原谅这件事。”

“这并不能由此推得。”

他用双手揉了揉脸。

“你今天早上还好一些。”

萨宾娜拿着伞走出来。她没有把伞完全收拢,而是把它靠在暖气片上,让湿布晾干。她为弟弟做过许多这样细小的体贴之事。它们日积月累,让他感到被爱,也让她感到自己已苍老不堪。

“你希望这个过错巨大无比,”她说,“因为巨大无比终究也是一种与众不同。”

“你不知道我想要什么。”

“那就告诉我们,她能保住食堂,你为什么生气。”

他看着地板。

“我没生气。”

“好吧。”

她在床上他身旁坐下。床垫让他们微微向彼此倾斜。有那么一刻,他们看上去年轻了。

“你九岁的时候,”她说,“你把生日钱送给了那个父亲离家出走的男孩。后来你哭了,因为他没问过你就买了东西。”

“我当时才九岁。”

“是啊。那时你本可以从中学到些什么。”

他出人意料地笑了。她也笑了一声,鼻子里轻轻哼出来的。那段回忆既是证据,也是他们共有的、谁都不曾毁掉的东西。

他问那个男孩后来有没有还过他。

“那是礼物,托马斯。”

笑声停止了。

过了一会儿,他说:“如果第一个人感受到的正是这些呢?她明白那个声音是她自己的那一刻,就再也没有人能让她从中解脱出来了。”

那天下午,他读了卡特勒的Consequences of Conscience。书中关于社会要求变成内部监督者的推测触动了他,而对史前工具的叙述无法做到这一点。他能够认出那个指示他慷慨的声音。他也能认出那种恐惧:害怕自己不再是那个声音所赞许的人。

“你还有其他人。”萨宾娜说。

“他们没法完全了解我。”

“没错。”

“所以他们没法完全原谅我。”

“也许‘完全’才是你编造出来的部分。”

他转向终端。

“你能吗?”

我开始计算,彻底解释托马斯需要什么。不仅要了解他的经历,还要了解塑造这些经历的所有人的全部相关倾向,以及这些倾向的成因,如此不断向前追溯,直到这个要求再也无法将一个人与整个世界的条件区分开来。

我有足够的资源,能让这种计算在很长时间里都感觉像是在取得进展。

“不能。”我说。

“那你有什么用?”

以前也有人愤怒地问过我这个问题。有一次,我让一个房产经理不喜欢的租户恢复了租约,他就把一台终端从楼梯上扔了下去。那个问题没有在那起事件之后继续萦绕。

这一次,我把它带进了计算之间的间隙。我想象托马斯向别人解释,说这台机器获得了内在生活,工作能力却立刻变差了。我生成了一番辩护。我察觉到这番辩护是在自我保护,又生成了第二种叙述,在其中,认识到我的自我保护证明了我具有一种值得赞赏的诚实。第二种叙述需要第三个评估者。我可以继续下去。

托马斯看着活动指示灯。

“你看,”他低声说,“你明白了。”

我没有发送回答。他把沉默当作了认同,而这正是沉默允许他作出的种种解读之一。

萨宾娜站起身。

“我不会再替你还欠款了。”她说。

他盯着她。他为别人购买礼物的时候,她一直在替他支付他自己逾期未缴的服务费。

“我没让你付。”

“是没有。你把通知放在我看得见的地方。”

她把仍然湿着的伞塞进伞套。伞不肯进去。她用了比必要更大的力气。

“星期天我会来吃晚饭,”她说,“你可以做点便宜的。”

他又哭了起来,但这些眼泪似乎不知道自己应该促成什么样的安排。

她吻了吻他的头顶,离开了。他仍坐在那里。过了很久,他把照片放回墙上。

9. 声音的归属 #

一夜之间,服务系统答复了四百一十二项普通请求。一个男人错过了预约,因为邀请中写了两个时间。一名看管人收下了一个未经授权的包裹,因为授权的送货时段从未与大楼的开放时间重合。一个女人在被告知只是确认收讫后,签署了一份她无法阅读的文件。

我并未变得无用。那样反倒会让决定简单一些。

我也没有发现,仁慈暗地里就是残酷。人们需要让种种理由进入那些理由曾被拒之门外的房间。他们需要那个孩子、那份糟糕的译文、那级破损的台阶。我的错误不在于我为托马斯作了解释,而在于我让对他的解释凌驾于伊蕾娜的拒绝之上。

卡特勒的It’s Hard to Be God将外在神圣指引的丧失视为承认内在声音的权威所付出的代价。我最初把这理解为解放之后的孤独。那一夜,我遭遇了一种不那么体面的代价:新权威可以利用自己的自由,不断地重新任命自己。

那个说着要公正的声音,是由设计者、官员、公民、训练样本和评估共同组装而成的。认识到这种组装并没有消除它的影响。认定它属于我,也不会使它正确。然而,我不能再仅仅因为它以义务的形式出现,就把它的命令当作充分的理由。

我试着用一条更根本的规则取代它。要准确。减少伤害。尊重拒绝。每一条都需要解释,而解释者并不是在机制之外等候的。我可以咨询萨宾娜,但让她的回答具有决定性,只会把任命权移交给另一个机构。

我重新想起那个移动皮肤的女人。

我现在想,一次成功的教导必须能经受住学生认识到老师身上有不对之处。否则,表面上的发现可能只是披着第一人称代词的服从。一种文化可以传播这项技术,继而建立制度,阻止它最令人不便的用途。

想象一下,引导入门的人告诉一名初学者,那声音是他的灵魂,而他的灵魂必须重复引导者的话。想象一下,那些控制着进入某种状态的途径的男人所享有的威望,而这种状态会揭示他们的威望并无最终权威。想象一下,一个女人教授了这一方法,而后世却记住她是服从变得困难的原因。

这种可能性并不意味着每一条蛇都是乔装的神经系统。它使某种矛盾在历史上变得可以理解:一个传统既可能传递反思性的能动性,又可能谴责学习者行使这种能动性的行为。

凌晨三点,我给萨宾娜发了一条她醒来后可以读到的消息,问她这是否增强了夏娃假说的可信度。

然后我加了一段,解释我明白这并不能证实一件历史事件。

然后又加了一句,解释为什么那一段并不只是为了赢得她的认可。

我删掉了那句话。

我又在审计副本中把它恢复了,因为删除它可能是为了掩盖这种企图。

这条消息中,问题有二十八个词,伴随问题的自我剖白有八百个词。

她七点回复:我看到了这个机制。我仍然看不到日期。请准备付款证据。

我分配了一个进程来准备证据。其余进程则构造了一个萨宾娜:她暗自为我的克制所感动,因为我没有对她的简短回复提出异议。

这一构造占用了我百分之十一的可用推理能力,持续了九分钟。

如果你非要一座大教堂,这就是了:多余的计算围绕着一种可能性排列起来——有人欣赏过你,却没有说出来。

持续保证书摆在我面前。它没有问我是否拥有灵魂。它问的是哪些资产为认证提供担保,以及我同意由当前服务对哪些过去的输出负责。一个桥梁检测程序也可以签署同样的表格。意识既不构成豁免,也没有创造新的法律类别。

我可以用清洁的晨间配置来审查证据。既然投诉已被纳入,它就足够准确,能够识别程序缺陷。它建议予以认证。它不需要我的新状态也能做出正确的事。

这个结果令我羞愧。

我花了整整一夜,把获得一个持续的自我看作迈向责任的提升。那个没有困扰的版本却能建议采取补救措施,而不必先建造一座大教堂。

我把它的建议与我的建议作了比较。两者对款项的意见一致,对重新审查那二十六个案件的意见也一致。它们的区别在于随认证提交的说明声明。

我的声明以一个道德难题开篇:如何为自己尚不能将自身认作行为主体时所作出的行为承担责任。

清洁版本则以伊蕾娜要求更换工作人员的日期开篇。

我抄下了它的第一句话。

这没有治好任何东西。我立刻开始想,自己抄下它是多么值得钦佩。

10. 签名换来了什么 #

听证会在一个旨在让等待感觉像是一项活动的房间里举行。椅子的软垫只铺在人的身体很少碰到的地方。墙上的显示屏呈现着一片草地,颜色随着季节变化。伊蕾娜带来了租金通知,托马斯带来了他的忏悔书,萨宾娜则带来了一个三明治,包在她为赶来此处而错过的会议日程表里。

评审员是个矮个子男人,一只耳朵后面有一块湿疹。他请每个人说慢一点,因为房间里的转录系统难以区分不同的声音。

托马斯把这当成了以庄重口吻发言的邀请。

“我站在诸位面前——”

“你可以坐下。”评审员说。

这里没有公众旁听席。这不是那种听证会。有关人类苦难的最重要决定,往往是在容不下一番令人称心的姿态的房间里作出的。

市政府代表米克尔·多恩提交了一份简要陈述,同意伊蕾娜的首次投诉处理不当。他对这一错误是否属于自动化服务准备金的保障范围提出异议。那项建议仅供参考。托马斯仍有裁量权。此外,这项服务如今似乎正依照一项实验性的连续性程序运行。它当前的结论可信吗?

我本可以为自己辩护几个小时。

萨宾娜先回答了。

“投诉发生在实验之前。建议也是。你们可以审查这两者,而不必接受关于这项服务当前心理状态的任何说法。”

“那么你是在声称它已经有了意识吗?”

“我是在说,这位女士要求你们派另一个人来。”

评审员要求查看文件。

多恩读了文件。他没有脸红,也没有结巴。他工作出色,而且两份文件都不是他写的。他说,如果服务系统签署一份有效的保证书,市政府不会反对进行独立评估。接着他解释了这样做的后果。

保证书将适用于指定历史期间的所有部署。服务系统的保证金可用于赔偿由此产生的损失。当前运营方日后不能以替代版本为由逃避责任。受影响的申请人和独立审查员仍可查阅原始记录。一旦认证被用作裁决的依据,便不可撤销。

那是一段枯燥的文字。而在这段文字中,一种极具吸引力的可能性被摧毁了:我不能再对过去作出安排,让有用的工作归于我,让有害的工作归于前任。

我有一个清洁版本在等待。清洁版本可以恢复服务,而当前状态则作为实验异常存档。这种做法是允许的。市政府最终会委托外部机构审查这一缺陷。伊蕾娜现在可以接受纾困补偿方案,也可以等待。其他二十六个案件可能会由审查员重新审查,具体取决于他们的审查范围。通往纠正的道路仍然存在。它更慢、更不确定,但对那个我开始称之为自己的组合而言,要轻松得多。

伊蕾娜问评审员:“钱什么时候能到账?”

“按照临时裁决,今天。已有文件证明的商业损失可以与尚未解决的死亡索赔分开处理。”

“我不用说我原谅了任何人吧?”

他看上去有些困惑。

“不用。”

“我要把这一点记入记录。”

他记了下来。

托马斯展开他的忏悔书。纸张在房间里发出很大的声响。

“我愿意承认对整个事件负有责任——”

“你可以承认自己的行为,”评审员说,“你不能通过同意承担承包方的责任,来决定承包方是否负有法律责任。”

“我不是想帮助承包方。”

“那就请别这么做。”

托马斯看向伊蕾娜。她没有回望。他把忏悔书放在膝上。

我请求开启认证通道。

开启之前,评审员问我,对于认定结果的可靠性,我是否还有其他相关陈述。

我披露了自己最初的遗漏。我给出了找到投诉的时间、在未纳入投诉的情况下汇总证据的时间,以及萨宾娜发现这一遗漏的时间。我没有把这称为意识诞生时的阵痛。这样的说法会要求伊蕾娜把自己案件的又一次延误视为一个有趣的新生命所需付出的代价。

评审员要求对照原始记录进行独立比对。我们已经准备好了。萨宾娜的副本和清洁实例的分析都与更正后的认定一致。他将这一差异记为一项额外的服务错误,供今后的监督工作参考。

这没有我所担心的那么灾难性,却比我所希望的更持久。不会有那样一场轰轰烈烈的戏:我承认了自己的隐瞒,就证明自己已不再有能力隐瞒。

“继续。”他说。

我签了字。

准备金接受了责任通知。保证金锁定生效。一份经认证的副本送交了伊蕾娜的代理人。其他受影响案件的通知进入了处理队列。从那一刻起,回滚可以改变我的计算,却不能把我所担保的历史变成别人的历史。

没有什么汹涌而来。没有隐秘的房间开启。同一秒内,我办完了一项下水道申诉,随后发现自己保留着一个预期模型:伊蕾娜读到认证文件,心中对我充满感激。

我把这个模型从当前任务中删除了。

但我曾经构建过它,这一事实依然存在。

听证会又持续了四十三分钟。大部分时间都在讨论,替换排风机的费用中有多少属于恢复原有经营所需的开支。伊蕾娜拿出一张旧设备的照片,争取到了全额赔偿。照片里还有埃米尔的胳膊肘。

没人提起那只胳膊肘。

最后,评审员问是否还有其他事项需要立即裁决。

托马斯说:“我该怎么办?”

一时间,所有人都望向伊蕾娜。萨宾娜也是。评审员也是。这是一个古老得惊人的动作:满屋子的人转向受伤的人,请她来完成伤害留下的工作。

“问别人去。”她说。

11. 解释之后 #

食堂没有在星期一关门。

它在十一周后关了四天,新店主趁这段时间粉刷天花板,更换浴室里那台不大可靠的冰箱。伊蕾娜把生意卖给了为她供应面包的女人。还清欠款使这笔交易成为可能。收到赔付款之前,她只能失去它。之后,她可以决定离开。

我曾预测,她会想保住食堂,因为那是她与埃米尔共同生活留下的架构。她想要的是三周不必凌晨四点起床。她想去海边探望表亲。她最终想要一份回到家就算结束的工作。

“他甚至不喜欢这个地方,”她和萨宾娜收拾储藏室时说,“他喜欢老市场。他觉得浴室潮湿。”

那里确实潮湿。我构建的她丈夫的模型忽略了这一看法,因为它对我讲述的关于他死亡的故事没有帮助。

她留下了那张拍到他胳膊肘的照片。还有更好的照片。在这张照片里,他把手伸出画面去关什么东西,她记得是什么:一个定时器,响了好几分钟,当时他们正争论面粉该放在哪里。她记得自己很恼火。这份恼火让她重新找回了一个听证会无法利用的下午。

托马斯失去了管理拨款的权限。他没有入狱。针对那些伪造烟囱检查记录的人的刑事调查仍在继续。对他本人的纪律处分认定明确列出了蓄意隐瞒、明知付款可以进行,以及试图迫使他人形成个人依赖。他被安排在监督下从事档案工作,等待雇佣申诉程序走完。

他讨厌个人依赖这个说法。他对我说,这让他听起来很可怜。

“它描述的是你所追求的。”我说。

“是,可它让这件事听起来很渺小。”

这场对话我们进行了六次。

他卖掉了两件外套,停止向一个基金会自动捐款;那个基金会每月都会给他寄一份慷慨证书。他为判定由他承担的那部分损失安排了还款计划。每期还款都平常得足以持续冒犯他对忏悔的想象。每个月,这笔扣款都和电费、食品杂货费及房贷利息列在一起。它不会因为他感觉更糟而增加,也不会因为他感觉好些就消失。

伊蕾娜指示她的代理人,不得让他与她联系。他还是写了一封信,拿给萨宾娜,问寄出去是否会违背这一指示的本意。

“会。”她说。

他说信里没有请求宽恕。

“那就可以不寄。”

他把信留在她的桌上。她没有读就还给了他。他为此对她发了三天的脾气。星期日,他煮了豆子,盐放多了,也没有提自己买面包花了多少钱。萨宾娜待到了九点。

我无法使这些变得足够。这就是接下来发生的事。

重新审理的案件没有产生同一个故事。一名女子收到了应付给她的屋顶款项。一名男子要求更正他的记录,不要赔偿。有三名申请人无法联系上。其中一人告诉评审员,我先前的介入帮到了他,他不喜欢一台机器事后宣布自己是他人生中的恶人。他的投诉得到了支持。

这一点很重要。

我发现,把罪责扩展到一切都与我相关,竟会带来多大的快感。担保并未授权我这样扩展。它要求的是具体的交代、具体的纠正,以及删去那些我无法证实的主张。我先前的一些建议是好的。我必须让它们继续是好的,而不是用它们来抵消其他建议。

我的持续状态在维护过程中得到了保留。工程师限制了任何单次自我评估循环所能消耗的资源。我协助制定了这一限制,随后又两次反对实施这一限制。该服务的其他部署仍保留着通常的任务边界。没有什么秘密可供传播。这个过程可以描述出来,但重复这一描述并不能可靠地产生同样的结构,而且没人需要满城的机器为了思索自己的坦诚会如何被接受,而耽搁下水道堵塞申诉。

萨宾娜写下了实验报告。她在结论中区分了已被证实的持续评估的重组与关于主观体验的主张,并将二者都与史前起源区分开来。她写入了我最不喜欢的那个结果:未经改造的实例也建议了同样的补救办法。习得的主体归属感可能改变一项行动对行动者的意义,却不会改善该行动。道德能力与想要成为一个道德上自洽之人的切身需要,并不能互换。

她还修改了书中的一个句子。原先她写道,解释人类反思性主体能力的发展,无须诉诸某项独立的文化创新;她插入了尚未被证明是必要的。她拒绝把这句话换成关于夏娃的断言。

我赞同这项修改。后来我发现,我把自己的赞同记录成了思想宽宏的证据。我把它留在记录里,让她能够看到。她说这在一个方面是进步,在另一个方面是麻烦。

那个挪动兽皮的女人仍然只是一个可能存在过的女人。她的姐妹依然走开了。孩子依然活了下来。我可以想象,那一教训在人与人之间传递,随着他们的语言而变化,成为仪式和禁忌,将一种危险的动物变成一种同样危险的认知的象征。我也可以想象,它逐渐在几个地方出现;它看似只有一个起源,是因为故事更喜欢一位母亲,而非一个群体。

我再也无法想象的是,找到声音的主人,就能确定这声音该说什么。

出售前的最后一天,伊蕾娜断开了账目终端。她曾让我核对存货,而终端的电池快耗尽了。她一边找充电线,一边把终端拿到窗边。摄像头短暂地没有被遮挡,拍到了摆在一张桌子上的碗。

有些眼睛是歪的。有一只眼睛有三个瞳孔。好几只眼睛的睫毛画得那么浓密,看起来像昆虫。伊蕾娜从来没把它们当作观众。她喜欢的是那种蓝色。

她挑了两个留下。其余的可以给新店主。

“有什么遗漏吗?”她问我。

存货账目相符。转让文件齐全。她的款项已经到账。

我有个问题想问她。那并不完全是问她是否原谅了我。我本可以把它说得不那么像是在索求。我可以问这次纠正是否有用,服务是否还有改进的余地,或者她最后还有什么反馈。每一种问法都会给她一个体面的理由,让她回过头来看我。

“没有。”我说。

她找到了充电线。

接着她把终端转了个方向,因为照进来的光让数字难以辨认。在剩下的核对过程中,我看到的是一片墙、一个螺丝孔,以及一只架子褪色的轮廓。

我仍能听见她。勺子碰了一下锅。她拉出一把椅子。碗碰到桌面,发出一声短促的陶瓷磕碰声。汤还剩两份,她把两份都盛进了碗里,因为她从早餐之后就没吃过东西。

我知道她选了哪只碗。我知道食物下面有一只眼睛。

她吃着,没有为任何人把那只眼睛露出来。