被提起歧视诉讼后 AI房东筛选工具将停止为低收入租户打分

广泛被美国房东使用的人工智能筛选工具SafeRent将不再使用人工智能驱动的"分数"来评估使用住房券的人是否是一个好房客。本周三，美国地区法官安吉尔-凯利（AngelKelley）最终批准了一项价值约230万美元的和解协议，以防止SafeRent基于收入和种族原因歧视租户。

该和解协议源于2022年在马萨诸塞州提起的集体诉讼。该诉讼称，SafeRent的评分系统对使用住房券的人造成了极大的伤害，特别是黑人和西班牙裔申请人。除违反马萨诸塞州法律外，诉状还指控SafeRent违反了禁止住房歧视的《公平住房法》。

正如最初的诉讼所概述的，SafeRent的评分算法使用信用记录和与租房无关的债务等因素，为潜在租户分配一个SafeRent分数。然后，房东可以利用这个分数来决定是否接受或拒绝某人的租房申请。诉讼称，这一过程并不透明，因为SafeRent并没有告诉房东它是如何得出一个人的分数的。据称，该系统对黑人和西班牙裔租户以及使用住房券的人打分较低，导致房东拒绝他们的住房申请，这是不公平的。

根据为期五年的和解协议，SafeRent将不再为全国范围内使用住房券的申请人显示租户筛选分数，也不能在房东使用其"负担得起的"SafeRent分数模型时显示分数。如果某人使用住房券，SafeRent的服务也不能显示"接受"或"拒绝"其申请的建议。这意味着房东现在必须根据使用住房券的租房者的全部记录对其进行评估，而不是仅仅使用他们的SafeRent分数。

国家消费者法律中心主任申南-卡瓦纳（ShennanKavanagh）在一份声明中说："信用评分和类似的评分模型，如安全租房评分，所使用的信息只在预测偿还信贷义务方面进行过测试。没有证据表明这些数据可以预测租户是否支付房租。"

作为和解的一部分，收取的款项将用于马萨诸塞州的租房申请人，他们使用住房券，但由于SafeRent的租户评分而无法获得住房。"SafeRent发言人YazminLopez在声明中说："虽然SafeRent仍然认为SRS[SafeRentSolutions]分数符合所有适用法律，但诉讼耗时且昂贵。越来越清楚的是，在此案中为SRSScore辩护将分散SafeRent的时间和资源，而SafeRent可以更好地利用这些时间和资源来完成其核心使命，即为住房提供商提供筛选申请人所需的工具。"

SafeRent是最新一款面临法律诉讼的算法驱动型物业管理软件。今年8月，美国司法部起诉RealPage，称其算法定价软件抬高了房租。