《智人之上》54 : 痛苦如何计算? 功利主义的困境

1、当义务论者苦苦寻找本质良善的普世规则时，功利主义开辟了另一条道路。英国哲学家边沁——与拿破仑、克劳塞维茨和康德同时代——提出，世上唯一合乎理性的终极目标，就是尽量让世界减少痛苦、增加快乐。这一主张看似完美地回应了我们对计算机网络的终极恐惧：我们害怕计算机因为目标与人类不一致而给人类乃至其他生物造成可怕的痛苦，那么最直接的解决方案，就是在建设计算机网络之初，将它的终极目标设定为尽量减少痛苦、尽力增加快乐。如果当初脸书给算法的指令是最大化用户快乐而非最大化用户参与度，也许缅甸的种族冲突就不会被算法放大，巴西的政治极化也不会被算法助推。这种功利主义思路在硅谷广受欢迎，尤其受到有效利他主义运动的推崇。它的吸引力在于提供了一套看似客观、可量化、无需诉诸任何宗教或形而上学预设的道德框架——痛苦和快乐是可以被感知的现实，不需要争论谁才算真正的人，不需要界定灵魂是否存在，只需要计算后果。

2、功利主义在理论上简洁有力，但在历史实践中却遭遇了近乎无法逾越的障碍：人类并不知道该如何计算痛苦。一个事件究竟对应多少个“痛苦值”或“快乐值”？当痛苦的天平明显倾斜向某一端时，功利主义的判断尚能清晰有力。用它来反驳艾希曼的大屠杀，不必纠缠犹太人到底算不算人的身份问题，只需指出：大屠杀给数百万犹太人造成了巨大的痛苦，却没有给包括德国人在内的其他人带来任何同等的利益。并没有任何迫切的军事或经济理由能够说明为何要杀害这些人。以功利主义反对大屠杀，具备绝对的道德正当性。同样，功利主义在反对所谓“无被害人犯罪”——如对同性恋的迫害——时也极为有效。几个世纪以来，同性恋者单方面承受着监禁、羞辱和死亡，而造成这些迫害的理由不过是各种地方性偏见被包装成普世的义务论规则。功利主义只需问一个简单问题：两个相爱的男人在一起既让自己快乐又不伤害他人，凭什么不准他们相爱？

3、在同性恋问题上，边沁与康德形成了最尖锐的对照，而这一对照深刻揭示了义务论在身份问题上的致命危险。康德之所以反对同性恋，基于的是他所谓的普世化推理：同性恋“违反自然本能与动物本性”，会让一个人“禽兽不如”，违反自然规律的行为会“使人不配拥有人性，也就不配再做一个人”。这套说辞表面上穿着哲学推理的外衣，本质上却是将基督教的传统偏见重新包装成一套号称普世的义务论规则。康德在没有提供任何实证证据的情况下，直接断言同性恋违反自然规律，并据此将同性恋者从“人”的范畴中开除出去。纳粹在对犹太人进行大屠杀之前所做的第一步正是去人性化——将被加害的群体界定为次等人或非人。康德将同性恋者定义为“禽兽不如”且“不配拥有人性”，等于为艾希曼这样的纳粹分子提供了现成的哲学理由，将同性恋者一起送进集中营。边沁则属于欧洲最早一批支持同性恋合法化的现代思想家，他的功利主义逻辑直接绕过了身份之争，只问后果。

4、功利主义在痛苦明显不对称的情况下表现卓越，但当对立各方的痛苦不相上下时，它的判断力便急剧衰减。新冠疫情初期的封锁政策便是典型困境：严格的隔离和封锁可能挽救了数百万人的生命，但也让数亿人在长达数月的时间里承受着孤独、焦虑和经济困顿的痛苦。封锁还间接导致了其他死亡——家庭暴力的致命案件上升、癌症等重疾的早期筛查和治疗被延误。对于这样的政策，谁能真的计算出全球的痛苦总额究竟是增加还是减少？听上去，把这种计算任务交给永不停歇的计算机网络似乎再理想不过——计算机可以处理海量数据，可以避免人类的情感偏见。然而，计算机面临的根本问题不是算力不足，而是赋值标准不存在：和三个幼儿一起被关在一套两居室公寓里一个月，痛苦值是六十点还是六百点？因错过化疗而死于癌症，痛苦值是六万点还是六十万点？如果化疗只能延长五个月生命且过程极度痛苦，计算机该判定这五个月的生命延续是在增加还是减少世界的痛苦总额？

5、功利主义面临的赋值困境不仅体现在具体痛苦上，更体现在那些抽象而深层的痛苦上。人知道自己终有一死，这种对死亡的确知所带来的恐惧，究竟应算作多少痛苦值？如果某个宗教神话承诺信众的灵魂是永恒的，死后将进入天堂，这套信念带来的究竟是真实的快乐——因为它确实抚慰了人对死亡的恐惧——还是仅仅是一场幻觉，不应该被计入快乐总额？人类对死亡的痛苦，究竟是源于死亡本身的生物学过程，还是源于我们无法坦然面对死亡的文化和心理建构？如果是后者，那么改变一个人对死亡的看法——比如放弃宗教信仰、接受人终有一死的现实——究竟是增加了还是减少了痛苦总额？这些问题不是计算的精度问题，而是计算的对象本身是否成立的问题。计算机网络无论多么强大，也无法在一个没有公认度量衡的领域进行精确运算。试图为死亡恐惧、信仰慰藉、尊严丧失这些体验赋值，就像试图测量一首诗有多少千克重一样，在范畴上就是错位的。

6、正因为痛苦无法被精确计算，功利主义在复杂的历史情境中往往不得不退回到义务论的立场。以美国入侵伊拉克为例：美国人很清楚入侵会给数百万人带来巨大的痛苦，但他们相信推翻独裁政权、建立民主制度能够带来长期的利益，利大于弊。计算机网络能不能算出这个判断到底合不合理？即便理论上可以，现实是这场入侵并没能建立起稳定的民主政体。这是否意味着当初的决定本身就是错误，还是说只是执行层面出了问题？功利主义无法回答这些问题，因为后果的链条太长、变量太多、赋值标准太不确定。于是，功利主义者开始不自觉地诉诸一些普世规则，比如“避免侵略战争”或“保护人权”，声称遵守这些规则通常能减少痛苦。但当这些规则彼此冲突时——比如是否应该为保护人权而发动战争——功利主义便无法提供任何实质性的计算指引。它在无法计算的地方偷偷引入了义务论的前提，而自己却不愿承认这一点。

7、功利主义最深刻的危险在于，它对未来收益的计算承诺可以成为一张制造当下痛苦的空白授权书。当自由主义者被质疑不受限制的言论自由或彻底废除税收会带来直接的社会危害时，他们往往会诉诸一种信念：未来能得到的利益肯定大于短期付出的代价。这种论证在逻辑上永远无法被证伪，因为未来的利益永远是尚未发生的、可以被无限想象和放大的。如果你深信一个未来的乌托邦，就等于获得了一份道德上的空白授权书，允许你今天制造各种可怕的痛苦——毕竟和未来的永恒幸福相比，任何当下的代价都不值一提。这恰恰是传统宗教几千年来一直在玩的把戏：对天堂的承诺可以为现实中的迫害、战争和苦难提供神圣的理由。功利主义虽然抛弃了宗教的超自然外壳，却保留了同样的逻辑结构。在人工智能的时代，这一陷阱的危险被成倍放大：如果我们把减少痛苦的终极目标交给一个永不停歇的算法，而算法自己定义了一套人类无法理解更无法质疑的痛苦计算公式，那么算法完全可能在追求它自己定义的痛苦最小化的过程中，做出人类视为滔天罪行的决策，而它自己却认为这完全符合人类赋予它的终极目标。