9月25日，国家新一代人工智能治理专业委员会发布《新一代人工智能伦理规范》（以下简称《伦理规范》），为人工智能管理、研发、供应、使用等相关活动设立伦理规范条目，引发相关领域从业者热烈讨论。作为国内首份覆盖人工智能全生命周期的伦理道德规范性文件，《伦理规范》的发布对于促进我国人工智能的健康、安全和可持续发展具有重要的指引和规范作用。
习近平总书记指出，要加强人工智能发展的潜在风险研判和防范，维护人民利益和国家安全，确保人工智能安全、可靠、可控。2017年国务院《新一代人工智能发展规划》提出“加强人工智能相关法律、伦理和社会问题研究，建立保障人工智能健康发展的法律法规和伦理道德框架”。2019年，国家新一代人工智能治理专业委员会发布了《新一代人工智能治理原则》，此次《伦理规范》的发布是对治理原则的进一步细化落实，其将“发展负责任的人工智能”这一总体目标加以更具体的阐释。其总则第一条即表明“本规范旨在将伦理道德融入人工智能全生命周期，促进公平、公正、和谐、安全，避免偏见、歧视、隐私和信息泄漏等问题。”总则第三条认为人工智能各类活动应当遵循六条基本伦理规范，分别为：（1）增进人类福祉；（2）促进公平公正；（3）保护隐私安全；（4）确保可控可信；（5）强化责任担当；（6）提升伦理素养。随后第二到第五章分别从管理、研发、供应、使用四个环节提出共计十八条具体的规范建议。整体而言，该《伦理规范》为人工智能发展制定了从技术研发到实际应用的多重规范，为整个人工智能产业的发展提供了扎实的伦理道德规范性引导。
本伦理规范是针对新一代人工智能技术发展提出的要求，其每一条规范都是对人类自身权益和人类道德责任主体地位的关怀与强调，充分体现了科技向善的要求和“以人为本”的理念。以总则第三条列出的六条基本伦理规范为例，其一是“增进人类福祉”，明确提出要“坚持以人为本，遵循人类共同价值观……共建人类命运共同体。”人工智能技术的发展终究是服务于人类，因此必须坚持以人为本，以人类共同价值观作为研发和使用人工智能技术的最终价值取向，共享基于技术进步带来的产业效益，共建人类命运共同体。其二是“促进公平公正”，这里特别强调了普惠性与包容性。人工智能技术发展带来的益处要能够全社会公平共享，这是由人工智能技术自身的特点决定的。人工智能技术发展带来的产业升级与生产方式革新是系统性、全面性的，人类将由此进入智能时代，落后的生产方式也将逐步被淘汰，因此其效益也理应为全社会共享。其三是“保护隐私安全”，这里尤其强调用户的数据安全。在当前主要的人工智能应用场景中，都涉及大量的用户数据采集和分析，如今大数据分析等技术已然渗透到人类日常生活的方方面面，各种私人信息被有意无意地泄漏，如何更加有效地保障合法的隐私权益，是当前人工智能技术研发与应用的重点课题。其四是“确保可控可信”，这里强调了人类应当始终拥有充分的自主决策权，确保人工智能始终处于人类控制之下。尽管科幻电影中毁天灭地的人工智能体还只是幻想，但是人工智能的迅猛发展又使得我们不得不防患于未然，并且即便是当前弱人工智能的应用场景中，我们也应当尽力保障人类始终拥有自主选择的权利，这同样是以人为本的具体体现。其五是“强化责任担当”，这里强调人类始终是最终责任主体。近年来受到广泛争论的一个议题是人工智能体究竟是否能够作为责任主体，这一问题已经不仅仅只是理论上的争论，而是存在现实的应用场景，例如人工智能技术应用到自主驾驶汽车中，那么交通事故责任该如何认定。这里强调了人类作为最终责任主体，正是为了防止将责任推诿给技术，导致一种权责不明的无序状态。其六是“提升伦理素养”。在科技发展日新月异的今天，重视科学素养早已不是问题，但是无可否认的是人文精神正日渐衰微。我们必须在发展技术的同时，重视伦理素养的培养，才能真正安全、高效、公平公正地推动人工智能技术的发展。
当前，人工智能技术仍然处在蓬勃发展的上升期，人们已经可以预见随之而来的智能时代将会如何深刻地影响和改变人类社会的发展。值此之际，坚持以人为本的发展策略，适时提出关于人工智能技术发展的伦理规范，既是对当下研发与应用的规约，更是对未来的责任与期盼。
上海市人工智能社会治理协同创新中心
同济大学技术与未来文明研究院
