照护可以交给机器吗。这是一个陪人说话、察看情绪状态的AI伴侣服务以月费商品出售的时代。石黑一雄的《克拉拉与太阳》(民音社,2021)是一部让人重新审视这种商品实际出售什么的小说。
推动故事的声音不是人。为成为孩子的朋友而被制造出来的人工存在克拉拉观察世界,连同这种观察的局限也原样传达给读者。石黑一雄以把叙述者视野限定住的方式制造张力。每当读者察觉到克拉拉看不见的东西,故事的温度就会改变。
这种方式对技术领域的读者有用。如今的AI伴侣大多保存对话记录,学习使用者的喜好与情绪模式。与其说学习是理解人,不如说更接近以概率猜中接下来会出现的反应。
克拉拉的观察也沿着这一脉络。诚实地收集,诚实地推论,在关键处出现偏差。
小说并没有把这种偏差只写成失败。它同时也表现出,克拉拉所给出的陪伴对某些人来说确实成为安慰。照护的相当一部分由重复的应答和持续的存在感填满,这本书不偏袒好坏地把这一事实呈现出来。而那一部分,机器可以做得比人更好。
无法替代的一侧是什么。这部小说点出的是责任的归属。守在身边的存在对于对方的未来承担什么,关系结束之后又去往何处,人会追究,机器不会追究。商用服务条款里有解约条款而没有离别条款,原因也在这里。
这本书的力量在于不解释情感、以情境呈现的克制。处理人工智能的小说常常落入的威胁叙事或觉醒叙事,这本书没有选择。局限也很明显。
它对技术的运作原理或社会制度的设计几乎不加关注,期待政策或产业的语言而翻开的话会觉得单薄。这不是一本可以代替非虚构的书。
因此这部小说对系统设计者有用处。在企划书上写过"情感纽带"一词的人、编写照护机器人应答脚本的人、评估老年人对话型设备的人读过之后,会掂量出自己所做的功能能承担到哪里。文句不难,速度也不慢。
由于是不处理技术与制度的小说,对于照护的现实能承担到何处这一提问,它没有给出答案。AI伴侣会变得更便宜、更像样,早晨的问候、服药和夜里的回顾将由机器承担。如此空出来的时间人要怎么使用,留给各人自己。这本书留下的,是在机器可以替代的照护与不能替代的照护之间悄悄划下的一条线。
