关于使用计算机做出决定——从招聘到贷款批准再到设定刑期——影响人类的担忧激增。 许多人指出,使用计算机程序为决策提供信息可能会导致偏见的传播或以其他方式导致不良结果。 许多人呼吁提高透明度,而其他人则呼吁调整算法以产生更加种族平衡的结果。 随着计算机在我们的日常生活中做出越来越重要和复杂的决定,这个问题可能会引起越来越多的关注。 本文借鉴了关于算法公平性的计算机科学和法律文献,对辩论做出了四个主要贡献:首先,它通过证明法律规则通常适用于算法决策者,对将“公平”纳入算法决策者的论点提供了法律回应。边约束,而不是可以优化的公平函数。 其次,通过从歧视法的角度看待这个问题,本文认识到计算决策者提出的问题与歧视法已经演变为控制的历史性、制度性歧视非常相似,这是对这个问题真正新颖的说法的回应因为它涉及计算机化的决策。 第三,该论文通过展示透明度对于提供问责制是不必要的,以及歧视法本身为如何处理不公平的算法歧视案件提供了一个模型,无论是否具有透明度,以此响应对计算决策透明度的呼吁。 第四,本文解决了一个在该主题上存在分歧的问题:如何纠正算法产生的歧视性结果。 我没有将问题视为二元问题,而是提供第三种方法,将纠正算法决策者的过程分解为两个单独的决策:拒绝旧过程的决定和采用新过程的单独决定。 这两项决定受不同法律要求的约束,为寻求避免最坏类型歧视结果的公司和机构提供了更大的灵活性。 最后,当前的歧视法为可能与“公平”相关的各种主张提供了大部分答案出现在计算决策者的背景下,而不管他们背后的具体技术如何。
1