算法、公平与权力

公平可以度量——但不能同时满足所有标准

乔恩·克莱因伯格（Jon Kleinberg）、森迪尔·穆来纳森（Sendhil Mullainathan）和马尼什·拉加万（Manish Raghavan）（2016）以及亚历山德拉·乔尔德乔娃（Alexandra Chouldechova）（2017）证明，当各群体的基础比率不同时，风险评分不可能既对每个群体都同样校准良好，又具有相同的错误率。因此，选择哪种公平标准是一个道德决定，而不是技术细节。算法决策的辩护者补充说，带有偏见的人类难以审计，而算法的输入和结果可以被检验和纠正，所以监管良好的算法甚至可能减少歧视（克莱因伯格、路德维希、穆来纳森和桑斯坦，2018）。布赖恩·赫登（Brian Hedden，2021）用一个思想实验表明，一个完全公平的程序可能违反几乎所有通常的统计标准——因此其中大多数不可能是公平的必要条件。

新代码里的旧不公

社会学家和技术批评学者认为，问题与其说出在公式，不如说出在它们所学习的世界。基于过去决策训练的系统会复制过去的歧视——在招聘、警务或福利中——同时显得中立；鲁哈·本杰明（Ruha Benjamin，《Race After Technology》，2019）称之为“新吉姆法典”（New Jim Code），影射实行种族隔离的吉姆·克劳法。乔伊·布奥拉姆维尼（Joy Buolamwini）和蒂姆尼特·格布鲁（Timnit Gebru）（2018）发现，商用人脸分析系统对深肤色女性性别的误判远多于浅肤色男性；弗吉尼亚·尤班克斯（Virginia Eubanks，《Automating Inequality》，2018）则表明，自动化福利系统让穷人受到他人从未面对的监控。按照这种看法，公平度量并不足够：重要的是谁设计这些系统、出于什么目的——以及其中有些系统是否根本就不该建造。

数据之上的权力

肖莎娜·祖博夫（Shoshana Zuboff，《监视资本主义时代》，2019）认为，主要平台把人的经验据为免费的原材料：它们收集超出其服务所需的“行为剩余”，把它变成预测，出售这些预测，并最终力图塑造行为本身。尼克·库尔德里（Nick Couldry）和乌利塞斯·梅希亚斯（Ulises Mejias）（《The Costs of Connection》，2019）谈到“数据殖民主义”，这是对人类生活的一种新占有，在他们看来延续了历史上殖民主义的逻辑。批评者在补救办法上各有不同——更强的隐私权、竞争法、公共或合作社式的替代方案——但都认为，只关注单个算法的伦理忽视了权力集中于少数掌握数据、算力和模型的公司这一事实。

从原则到实践

弗洛里迪与乔希·考尔斯（Josh Cowls）（2019）把数十份人工智能伦理指南浓缩为五项原则：行善、不伤害、自主、公正和可解释性。弗洛里迪警告说，仅有原则会招致“ethics shopping”“ethics bluewashing”和“ethics dumping”——挑选合适的规则，用伦理宣言美化形象，或把有问题的研究转移到规则较弱的地方。它们必须被转化为法律、设计和审计，欧盟正以其基于风险的《人工智能法案》开始这样做。瓦勒补充了德性伦理的视角：技术改变了我们塑造品格的习惯，所以社会需要诚实、谦逊、勇气和实践智慧等“技术道德”德性，才能与技术好好共处。

持此立场者

• 卢恰诺·弗洛里迪1964年生
• 香农·瓦勒同时代

前沿的风险

博斯特罗姆（《超级智能》，2014）和计算机科学家斯图尔特·拉塞尔（Stuart Russell，《Human Compatible》，2019）认为，比人类更有能力的系统可能追求与我们相背离的目标，而可靠地使其与人类价值“对齐”是一个尚未解决的技术和哲学问题。2023年，数百名人工智能研究者和企业高管签署了一份只有一句话的声明：降低人工智能导致灭绝的风险，应与大流行病和核战争一样成为全球优先事项；由约书亚·本吉奥（Yoshua Bengio）主持的一份国际科学报告（2025）把这类风险与当下的危害一并加以考察。艾米莉·本德（Emily Bender）和格布鲁等批评者回应说，关于超级智能的猜测转移了人们对现有系统具体危害的注意——偏见、对数据工人的剥削、权力集中——并且服务于从这种炒作中获利的公司。

持此立场者

• 尼克·博斯特罗姆1973年生