普丽娅加入了对话:“在工厂也是。如果系统只算产量,不算工人的健康和尊严,那就不是完整的账本。”
这个“多维度账本”的比喻在下午的讨论中不断被提及。它提供了一个简单的框架,帮助不同背景的人们理解彼此的关切:不是反对技术或进步,而是要求更全面的价值计算。
傍晚,对话会结束时,莫雷诺博士没有做总结,而是提出了一个问题:“如果我们同意需要更全面的‘账本’,那么谁来定义这个账本的科目?谁来计量?谁来审计?”
没有答案,只有思考。
林一回到酒店房间时,收到了林曦发来的加密消息:“爸,需要你的建议。一家大型娱乐集团想用我的算法开发‘沉浸式情绪体验’产品——根据用户实时情绪生成对应的虚拟环境。听起来很美,但他们的商业计划书里提到了‘情绪引导’和‘体验优化’,这意味着他们想操纵用户的情绪状态。我该拒绝还是尝试影响他们?”
几乎同时,宋清从北京发来消息:“茶室来了一位特殊的客人,回声系统前CEO理查德·科恩,他说想‘喝一杯安静的茶’。我该接待吗?”
两个问题,两个选择。林一站在酒店窗前,看着日内瓦湖的夜色。湖水平静,但深处有暗流。他知道,真正的挑战往往不在公开的冲突中,而在这些微妙的、私人的、需要即时判断的选择里。
他先回复林曦:“问他们三个问题:一、用户是否完全知情并控制自己的情绪数据如何使用?二、系统是否设计有‘情绪避风港’——用户可以随时选择不被分析、不被引导?三、他们的商业模式是否依赖用户的情绪成瘾?如果答案不令人满意,就拒绝。但可以把我们的‘自主性架构模式’介绍给他们,作为合作的前提。”
然后回复宋清:“接待他。茶道没有敌人,只有未理解的客人。听听他想说什么。”
接下来的两天,林一在日内瓦参加了几场小范围的技术治理讨论。一个明显的趋势是:各国政府开始从单纯的“技术监管”转向“技术治理”,认识到需要多方参与的、适应性的治理框架。
但分歧依然深刻。在一次关于AI国际标准的闭门会议上,美国代表坚持“创新优先,监管跟进”的原则,主张轻触式监管;欧盟代表强调“预防原则”,要求高风险AI在部署前证明安全性;中国代表提出“发展与治理平衡”,主张分类分级管理;非洲集团代表则指出,现有讨论大多基于发达国家的假设,忽视了发展中国家的能力和需求。
“就像四个医生在争论如何治疗病人,”会议休息时,一位来自新加坡的观察员私下对林一说,“但他们对病人的体质、病史、生活环境一无所知。”
林一想起了日内瓦湖——同一个湖,瑞士人看到的是旅游景观,渔民看到的是生计来源,生态学家看到的是脆弱系统,房地产商看到的是湖景价值。技术治理也是如此:同一个技术,不同的人看到不同的层面,赋予不同的意义,期待不同的结果。
周五下午,就在林一准备离开日内瓦时,一个意外的消息传来:回声系统董事会宣布,理查德·科恩辞去CEO职务,由首席技术官玛丽亚·陈接任。新闻稿中特别提到,公司将“重新审视技术发展路径,在创新与责任之间寻求更佳平衡”。
几乎同时,林一收到了宋清的消息:“理查德喝了两小时茶,说了很多,也听了很多。最后他说,他在公司推动变革时,最大的阻力不是技术困难,是‘我们一直这样成功’的思维定式。他说茶室的安静让他意识到,有时候进步需要停顿,需要倾听,需要从不同的角度重新看问题。”
林一回复:“茶道的力量。”
回北京的航班上,他翻阅着会议资料,但脑海中不断回响着那些对话片段。技术治理的复杂性不在于技术本身,而在于技术嵌入的社会复杂性。就像一滴墨水落入水中——技术是那滴墨,但墨会如何扩散、形成什么图案,取决于水的温度、流动、成分,以及容器的形状。
他打开笔记本,开始起草一份给联盟的思考文件。不是行动计划,而是一系列问题:
1. 我们是否在创造技术的同时,也在创造理解和使用这些技术的能力?
2. 我们的开源框架是否足够“可塑”,以适应不同文化对“好技术”的不同想象?
3. 在追求“负责任创新”时,我们是否无意中制造了新的门槛,将那些最需要技术的人排除在外?