本报记者 曲忠芳北京报道

    新一代数字技术为社会经济生活带来高效率、智能化与便捷化的同时，引发的一系列伦理问题也日益凸显。为促进科技向善，完善科技伦理监管规则，科技部、教育部、工业和信息化部等十部委联合印发了《科技伦理审查办法（试行）》（以下简称《审查办法》）。10月11日，科技部有关负责人对此解读称，《审查办法》是覆盖各领域科技领域审查的综合性、通用性规定，对科技伦理的基本程序、标准、条件等提出统一要求，为各地方和相关行业主管部门、创新主体等组织开展科技伦理审查提供了制度依据。

    《中国经营报》记者注意到，与数字经济迅猛发展伴随出现的伦理问题已成为全球面临的共同挑战。科技伦理是指科技创新活动中人与社会、人与自然和人与人关系的思想及行为准则，诸如社会生产生活中遇到的数据安全、隐私泄露、算法歧视、人机对立、基因编辑、深度伪造、数字鸿沟等均属于科技伦理的议题范畴。近些年来，包括中国、欧盟及域内各国、美国等都在明显加快数据安全、可信人工智能（AI）等方面的相关立法，更为重要的是，对于科技伦理监管的专门探索与实际行动也愈加频繁。

    制定审查清单率先纳入七类活动

    《审查方法》曾在今年4月初面向社会征求意见，到9月27日成文，10月8日印发试行。上海申伦律师事务所律师夏海龙指出，监管部门在面对新兴的、缺乏监管经验的领域时，往往会通过先制订试行、暂行类规范类文件进行监管，在执法实践中积累经验、逐步完善，待时机成熟后再正式颁布。从实际执行角度看，试行类规范性文件的法律效力与正式颁布的规范性文件具有同等效力，对相关主体具有约束力。

    《审查办法》明确，高等学校、科研机构、医疗卫生机构、企业是科技伦理审查管理的责任主体。被纳入科技伦理审查的四类科技活动包括：涉及以人为研究参与者的科技活动，包括以人为测试、调查、观察等研究活动的对象，以及利用人类生物样本、个人信息数据等的科技活动；涉及实验动物的科技活动；不直接涉及人或实验动物，但可能在生命健康、生态环境、公共秩序、可持续发展等方面带来伦理风险挑战的科技活动；依据法律、行政法规和国家有关规定需进行科技伦理审查的其他科技活动。

    值得一提的是，《审查办法》还制定了“需要开展伦理审查复核的科技活动清单”，率先纳入清单的共七项，简要来说，涉及新物种合成研究、人造子宫研究、遗传改变基础研究、侵入式脑机接口、人机融合系统、舆论算法模型及应用和系统研发、高度自主的自动化决策系统研发等。

    对此，科技部有关负责人解释：“制定清单的主要目的是为了有效应对生命科学、人工智能等新技术加速突破和应用所带来的伦理风险与挑战。纳入清单管理的科技活动主要考虑三个方面的因素：一是科学技术自身的伦理风险，包括科学知识和安全信息的充分程度，技术的成熟度、操作难易程度、安全性、有效性和可控性；二是科技活动伦理风险发生的可能性、风险种类、严重程度、影响范围等；三是科技活动的必要合理性、目标人群或目标应用场景等。”

    夏海龙认为，《审查办法》重点围绕人工智能、生命科学、医学三大领域，是因为这些领域的科技发展更为迅速，国内很多企业、研究机构等都有进行相关研究的迫切需求，对这些领域的研究、实验直接关乎社会伦理价值观、行业规范等。综合来看，在对待关乎重大伦理问题的科技发展方面，当下监管层面很明显采取了非常包容的态度，主要依托相关机构、企业自行设立科技伦理（审查）委员会主动履行科技伦理责任，通过对重大科技活动增强决策程序、扩大决策人群、科技部统筹监督的方式偏向柔性监管，实际赋予了科研主体较大的自主权。另外，后续的监管措施或将由试行办法施行期间的具体情况来决定。

    伦理监管成为全球议题如何保障“科技向善”

    记者了解到，我国在数字科技伦理监管方面已经形成了一些法律法规及相关管理制度、政策文件。2019年10月，中共中央办公厅、国务院办公厅印发通知，正式成立国家科技伦理委员会。2022年3月20日，中共中央办公厅、国务院办公厅印发《关于加强科技伦理治理的意见》，这标志着我国对科技伦理的重视程度日渐提高，对之后伦理监管制度设计具有指导性意义。今年以来，包括四川、海南、浙江、湖南等全国各个省份在科技伦理方面纷纷发力，比如成立科技伦理委员会、审查中心、出台实施方案等多种举措。

    《审查办法》的发布，也引起了国内众多人工智能相关企业的关注与重视。商汤负责人向记者表示，《审查办法》为我国科技伦理管理体系的建设指明了清晰易用的“施工图”，为加强科技伦理审查和监管、推动科技活动负责任创新提供了制度保障。据介绍，商汤早在2020年1月就成立了商汤伦理与治理委员会，自成立至今，委员会已在内部主导开展大量治理创新实践，并形成了一整套可评估的人工智能治理落地方案，将伦理原则嵌入到产品设计、开发、部署的全生命周期，初步形成了人工智能治理闭环。

    对欧盟、美国等科技伦理监管持续关注与深入研究的中国社会科学院工业经济研究所研究员、博士生导师肖红军，联合发表了多篇对中国科技伦理监管的启示及如何借鉴有益经验的文章。文章指出，中国数字科技伦理监管制度建设，内嵌于数字科技相关发展战略与规划中，专门的数字科技伦理监管制度正在加快，应注重监管制度的落地及有效性。在谈到科技领军企业的角色时，其文章分析，欧盟域内并没有大型科技领军企业，而美国则不同，借鉴国际经验，中国在数字科技伦理监管制度设计过程中，一方面发挥重点行业科技领军企业的重要作用，实现中国企业主导的数字科技伦理治理标准充分融入国际主流标准，积极构建以科技领军企业为牵引的数字科技伦理监管与治理共同体或治理生态圈。另一方面，进一步增强企业社会责任导向，立足企业社会责任战略融入算法技术治理、大数据治理、区块链安全治理等多重数字科技伦理治理领域，通过企业社会责任战略构建动态的利益相关方沟通参与机制，确保数字科技伦理治理内容与议题的动态性与时效性。