中心研究丨纽约市立法规制自动化雇佣决策，预防算法偏见

译者：

覃新元（同济大学法学院硕士研究生，上海市人工智能社会治理协同创新中心研究助理）

苏苗罕（同济大学法学院副教授，上海市人工智能社会治理协同创新中心研究员）

译者按：纽约市议会（New York City Council）2021年12月11日通过了《纽约市行政法典》（New York City Administrative Code）的一项修正案，在该法典第20编第5章中增加第25分章，补充作出有关自动化雇佣决策工具的规定。[1]该法将在2023年1月1日生效。

该法要求雇主或就业代理机构（employment agency）证明自动化雇佣决策工具在使用之前的一年内通过了独立第三方的偏见审计（bias audit），亦即评估自动化雇佣决策工具是否对个人产生差别影响（disparate impact）[2]。雇主或就业代理机构应当在该软件的部署之日（distribution date）在网站上公布审计报告的内容摘要。该法还要求，雇主或就业代理机构为了决定招聘或者晋升职位之目的而使用评估或者评价工具之前，应当告知前来求职或者等待职位晋升的纽约市民，同时告知该自动化雇佣决策工具将要使用的职位资格或者特征信息。违反这一告知义务的，将被处以行政罚款。

该法全文如下：

第25分章 自动化雇佣决策工具

（Automated Employment Decision Tools）

§20-870定义

在本分章中，下列术语的含义如下：

自动化雇佣决策工具。“自动化雇佣决策工具”是指通过机器学习、统计建模、数据分析以及人工智能将问题简化输出的计算过程，输出的内容包括评分、分类及推荐，这个过程实质性地帮助甚至替代裁量性决策，作出影响自然人的雇佣决策。“自动化雇佣决策工具”不包括无法自动化、帮助、实质性支持或替代自由决策过程以及未对自然人产生重大影响的工具，包括但不限于垃圾邮箱过滤器、防火墙、防病毒软件、计算器、电子表格、数据库、数据集以及其他数据汇编。

偏见审计。“偏见审计”是指由独立审计员作出的公正评估。此种偏见审计应包括但不限于检测自动化雇佣决策工具，以便评估该工具对一类报告所涉及人员（persons of any component 1 category）[3]的差别影响，根据42 United States Code（《美国法典》）§2000e-8(c)并由29 Code of Federal Regulations（《联邦规章汇编》）1602.7细化的规定，需要由雇主报告此类差别影响。

雇佣决策。“雇佣决策”是指在纽约市内筛选职位应聘人员和待晋升的雇员。

§ 20-871自动化雇佣决策工具的要求

a.在纽约市，禁止雇主或就业代理机构采取自动化雇佣决策工具筛选应聘人员或雇员，除非：

1.该工具在使用的前一年已通过偏见审计；

2.在部署该工具前，雇主或者就业代理机构应当在其网站上公开最近一次偏见审计结果的内容摘要。

b.告知的义务。在纽约市，雇主或者就业代理机构通过自动化雇佣决策工具筛选雇员或应聘人员的，应当告知居住在纽约市的此类雇员或者应聘人员：

1.自动化雇佣决策工具将被用于评估或者评价居住于纽约市的雇员和候选人。在这种情况下应当至少在使用该工具的十个工作日前告知并允许候选人申请替代性的选拔程序；

2.自动化雇佣决策工具在评估候选人或雇员时会使用到的职位资格或特征信息应当在使用工具至少十个工作日前告知雇员或者应聘人员；

3.如果雇主或者就业代理机构没有在网站上披露，雇员或者应聘人员可以通过书面方式申请获取自动化雇佣决策工具的数据收集类型、数据来源，以及该雇主或者就业代理机构的数据保留政策的信息。雇主或者就业代理机构应当在收到书面申请后三十日内提供相关信息。如果此类信息的披露将会违反地方、州和联邦法律，或者妨碍执法调查程序的，不得披露。

§ 20-872罚款

a.任何违反本分章规定以及违反根据本分章内容制定的规则的人应当受到处罚，对首次违法和与首次违规同日发生的每次额外违法行为处以最高500美元的行政罚款（civil penalty），对此后发生的每次违规行为处以500美元以上，1500美元以下的行政罚款。

b.违反本节规定使用自动化雇佣决策工具的，每日计算为违反§20-871(a)之规定的一次违法行为。

c.违反本分章§20-871(b)1-3的规定，没有通知应聘人员和雇员的行为构成单独的一次违法行为。

d.对于根据本分章授权作出的行政罚款的决定，起诉要求收取（recover）行政罚款的诉讼，可以转由纽约市行政审判和听证局（Office of Administrative Trials and Hearings）[4]设立的法庭（tribunal）或纽约市指定处理此类案件的机构受理。

§ 20-873执法

公司法律顾问或由法律顾问代表公司指定的其他人可以在任何有管辖权的法院提起必要、合适的诉讼，以要求根据本分章规定发布纠正作出的违法行为，包括责令遵守本章的规定，或者提供适当的其他救济措施。

§ 20-874解释

本分章中的规定不得被解释为限制雇佣决策中的应聘人员和雇员向任何有管辖权的法院提起诉讼的权利，也不得限制纽约市人权委员会（the Commission on Human Rights）执行《纽约市行政法典》第8编之规定的权力。

注释

[1] 该法的单行本（slip law）是2021/144 A Local Law to amend the administrative code of the city of New York, in relation to automated employment decision tools，https://legistar.council.nyc.gov/LegislationDetail.aspx?ID=4344524&GUID=B051915D-A9AC-451E-81F8-6596032FA3F9；编入《纽约市行政法典》的版本为20 New York City Administrative Code §§870-874, 网址：https://codelibrary.amlegal.com/codes/newyorkcity/latest/NYCadmin/0-0-0-135598。
[2] 差别影响，是指政策或者规则表面看是中立的，但是其实施效果对某个人或者某群人产生不公平的影响。根据42 US Code § 2000e–2(k)的规定，基于种族、肤色、宗教、性别、族群（national origin）等因素，或者雇佣实践与所涉及岗位的工作要求无关，也不符合商业需要，则可以认为构成违法的雇佣行为（unlawful employment practice）。
[3] 根据Title VII of the Civil Rights Act of 1964, 42. U.S.C. 2000e的规定，雇员人数在100人以上的私人部门雇主，或者雇员人数在50人以上的联邦供应商每年必须报送EEO-1 Component 1 Report，具体内容是其员工的人口统计数据，具体包括种族/族群，性别和工作类型等信息。

[4] 该机构是纽约市集中、独立的行政法院，下设两个分支机构，负责纽约市各类事务的裁决：OATH Trials Division 和OATH Hearings Division.。https://www1.nyc.gov/site/oath/about/about-oath.page。