ChatGPT横空出世 如何应对算法风险？

在“一切皆可计算”的数智化时代，我们需要专注的是以敏捷、韧性、精准、动态的算法治理弥合技术风险与社会信任的裂痕，推动技术创新与公共安全的平衡，防范算法技术的异化与人本精神的消解。算法之于法律未必只意味着问题，还可以提供方法论意义上的思维工具。基于算法，人工智能可以更了解每个个体，甚至，比我们更了解自己；基于算法，方法论意义上的思维工具将得到迭代，法律服务的全价值链将有机会实现更高效的重构。

本书乃张欣老师个人写作的第二部专著，旨在打破法律视野的局限，剖析算法作为人工智能的底层逻辑，建立起以联结思维取代失控恐惧的思考进路。在进阶阅读的同时，重新发现“算法之美”，重塑治理层面的算法信任, 重构法律服务价值链，重建治理的效能及中国路径。

本书获得了网络与人工智能法学领域众方家的联袂推荐。在倡导以人工智能解读数字法治时代的立法机制和算法治理，谋求走向算法社会的当下，本书值得屏幕前的每一位法律人参存。值此付梓上新之际，欢迎诸位师转需收藏之！

解析算法治理1.0的法律机理，展望算法治理2.0的发展走势；倡导算法治理的基础权利，探索算法治理的中国方案—— 一部难得的青年法学创新佳作。

在数字化时代，算法不仅是一种技术权力，而且日益与国家及社会权力深度融合，不断形塑国家和社会治理的方式。本书聚焦人工智能时代最新行业实践及场景，鸟瞰全球算法治理前沿动态，深入剖析算法治理的基础及法理，为回应我国新一代人工智能治理的时代挑战与范式变革提供了独特视角。作者深耕算法治理领域多年，是国内率先投身于算法治理研究的青年学者之一。本书是她在这一领域的精深之作，也是数字法学研究领域的代表性佳作。

经年累积成此一书，让我们认知算法并经由算法治理实现算法正义，从而走进算法社会，此书颇值一读！ 

无处不在的算法在默默带给我们各种便利的同时，也会引发无助、焦虑甚至不安。认识、治理与信任算法，是算法时代的必然要求。本书文笔生动、视野开阔、分析深刻，适合不同类型的读者阅读与参考。

智能科技时代算法的普遍运用需要理论和实践上的阐释。张欣的这本研究算法的专著实时承担了这个责任。作者以精炼的语言系统阐述了算法法学的基本原理和核心问题，书中随处可见精辟的见解，反映出作者在该领域的深刻思考。本书的优点之一是它不仅提出了问题，而且提供了解决问题的思路和方案。本书进一步丰富了算法法学的内容，既是一本专著，也是一本教科书。

看似是人选择了生活，但生物学告诉我们，其实是基因选择了人；看似是程序员让电脑变得实用，但数学家告诉我们，是操作系统框定了芯片的潜能；看似是大数据在任人取用，但法学家在提醒我们，恐怕是算法在摆布人的认知和行动。人要在算法面前恢复自由，就必须提前对算法进行治理。作者凭借其立法学的扎实训练和网络法的丰富经验，聚焦人工智能时代算法的治理问题，引领读者探求应对算法危机、构筑算法信任、发现算法之美之路，既高瞻远瞩，又意味深长，因为我的强烈直觉是：本书所谈论的前沿问题，将会离我们越来越近，缠我们越来越紧。

作为数字经济时代的“基础语言”，算法已经渗透到越发丰富的多元场景之中。算法的效能不仅直接决定决策效率、决策质量，还日益对公私主体产生直接和间接的多维度影响。随着算法适用中个人主体性的不断丧失以及传统决策治理框架的频繁失效，应对算法危机需要组合出击、循序渐进、科学布局。本书以人工智能时代的算法治理为核心关注，以算法基础权利、算法治理工具、算法治理路径、算法应用场景以及算法规制图景中的软法治理为落脚点，凝练算法治理的发展机理，厘清治理层面存在的核心问题，并相应提出应对方案。

本书共分为五章。各章节的核心观点如下：

第一章研究算法基础权利。算法解释权是最具代表性的新型算法权利。各国有关自动化决策的立法均不同程度地涉及这一主题。本章的研究聚焦于两项最具代表性，也是为我国算法治理实践所直接借鉴的算法权利：算法解释权和免受自动化决策约束权。

本章首先剖析了算法解释权成为算法治理制度核心的理据，包括：

其次以欧盟《通用数据保护条例》（GDPR）为样本，提出欧盟在立法层面构建限制和弱化版本的算法解释权，通过数据主体权利和数据保护影响评估制度在法律实施层面创建组合和补强版本的解释权框架。

在详析欧盟立法后，本章指出其仍然存在条文构造不足、语句模糊不清、适用范围受限等缺憾。因此，在构建本土化的算法解释权时，建议明晰算法解释权在算法治理中的地位和功用，厘清其行使要件和核心内容，以社会嵌入性和应用领域为基准探索精准化、场景化的衡量机制，打造内外兼具的技术协同治理机制。

与算法解释权相比，免受自动化决策约束的权利更为久远。该项权利贯穿欧洲个人信息保护法的发展历程并被承袭和保留至今。免受自动化决策约束权以保护人的主体性为首要宗旨，构筑面向事后阶段的算法风险消弭机制，成为个体对抗算法操控的重要防御。我国算法治理实践已然通过多种方式践行着类似的制度设计。本章通过对欧盟《通用数据保护条例》第22条进行全景式分析后指出，欧盟立法者有意选取严格禁令与积极权利路径的中间路线，设定了横跨公私场景下自动化决策实施的正当性基础，构建了多层次立体化联动保护机制。但该条制度设计存在限制过多、指引不明、规则科学性不足以及实效堪忧的缺憾。我国应在借鉴基础上积极创新，扩展行权适用的决策类型，厘清对个人产生影响的判断标准，建立面向数据生命周期的全要素配套行权机制，探索个体赋权之外的多元动态治理路径。

第二章聚焦算法治理工具。作为底层架构的算法，在扩展式嵌入社会经济领域时已逐步超越代码特质，整合并再生为新型“社会权力”。面对这一挑战，算法影响评估制度被屡次提上中外立法议程，并作为代表性算法治理工具被多国采用。本章深入分析这一制度的构建机理与本土化方案。算法影响评估制度有助于创制合理的算法透明度并构筑算法信任，助力场景化和精准化算法治理，与数据保护影响评估制度形成有效勾连。美国和加拿大以公共事业为核心领域，以框架式治理和协同治理为实现路径，以“技术架构、影响维度和问责制”为核心支撑，以敏捷治理打造智能评估工具，形成了全周期覆盖、闭环联动的评估框架。因此本章建议在构建本土化方案时，应当清晰认知算法技术行业发展与评估治理并举的紧迫性，科学制定算法影响评估制度的构建规划与基本路径，使制度设计精细化并强化制度执行实效。

在算法影响评估制度之外，算法审计制度作为一项重要的治理工具日益受到关注。算法审计制度弥合算法透明与专有技术保护之间的治理冲突，助力企业自我规制与政府规制的双轨协同，推动法律、技术和伦理三元共治机制的有效落地。算法作为被审计对象，具有场景化、动态化、跨域性特质。因此本章提出算法审计应以算法全生命周期为链条，分类分级地采取动态审计原则。基于多中心主体协同治理范式，算法审计可以分为由科技企业开展的内部审计、由监管机关和第三方开展的外部审计。基于审计路径，算法审计可以分为：

围绕算法安全综合治理顶层设计，算法审计框架应由“总体风险的控制与治理”模块以及“过程风险的控制与治理”模块组成。我国在构建算法审计制度时，还应注重强制算法审计与自愿算法审计的有效衔接，推动依托平台审计与依托用户审计的双轨并行，以及构建算法审计与平台算法问责节点的精准对接。

第三章探究算法治理路径。面对日益攀升的算法治理压力，欧盟在数据治理框架下选择通过赋予数据主体新型算法权利的方式对算法决策施加影响和控制。美国则率先在公共领域通过组建专门机构和人员，赋予公众对公用事业场景下算法应用的知情、参与、异议和救济等程序性权利，着力构筑以算法问责为核心的外部治理框架。嵌套于平台治理框架之中，我国通过为平台设定义务、界定平台责任，同时赋予个体权利的复合型思路寻求建立算法的初始化治理框架。本章深入剖析了三种治理路径的形成机理、制度构造和治理效能。结合我国的算法治理实践和行业发展概况，本章提出我国算法治理方案的完善应当秉持技术信任和治理信任同步推进，打造场景化和精细化的机制设计，同时有效联结算法治理、数据治理和平台治理，稳步推进算法治理短期、中期和长期方案，逐步迈向基于算法信任的智慧型治理。

第四章挖掘算法应用场景的规制之道。通过控制底层代码和塑造其运行的合法环境，大数据技术重新分配了信息权力，对国家、政府和企业赋能。本章深入具体的算法规制结构之中，选取信用监管和大数据“杀熟”两个在我国最具代表性的应用场景，全面探讨公私场景下的算法规制之道。

当算法技术扩展式嵌入行政实践之时，软件代码和统计操作趋向于取代法律规则，形成了“自动分析、自动决策、自动执行”的算法行政系统。算法行政的架构原理基于三个层面依次发生。政府通过平台化改造将自身重置为规制权力技术设施的数字化连接点。智能时代的分布式信任和信息权力的再分配致使专家意见逐步让位于数据和算法。法律规范的可计算性和大数据技术的兴起使得海量数据被转换为特定的数据密集型知识形式。在信用监管创新的时代背景下，我国以统一社会信用代码为基础构建多类信用信息平台，以信用画像建模推动信用治理自主化和全周期化发展，并着力打造指数化和智能化的分级分类监管工具。算法行政虽然智能高效，却可能在决策透明度、问责度和公正性层面存在风险。因此本章建议应明确算法行政须遵循合法、透明、问责、公正、必要的原则，实施算法影响评估制度和算法审计制度，将算法行政纳入法治化发展路径。

在商业场景之下，平台企业通过收集、追踪用户数据，依据用户行为和偏好数据，利用数据挖掘技术对用户进行分类和预测，对具有一定黏性的用户进行歧视性定价，从而获得差额利润。这种大数据“杀熟”现象已经在我国引发了广泛热议并得到了监管机关的及时回应。大数据“杀熟”具有极强的数据依赖特性，平台自行收集和追踪用户数据之外，数据进行标签化归类后还可能进行交易。因此本章指出在大数据“杀熟”场景之下，用户所受到的差异化待遇可能是跨越平台和场景的，具有更强的隐秘性，难以被用户发觉，知晓后也难以通过个体化的方式实行有效反制。结合大数据“杀熟”的技术原理和架构框架，本章提出应当以数据生命周期管理为视角，实现用户、行业团体、监管机构和平台企业多方联动、协同共治的监管格局。

在公共场景和商业场景之外，算法还作为一种新型社会权力在信息资源、物质资源和机会分配领域发挥配置作用。因此本章还以算法性别歧视为分析对象，全景式展现了“技术—社会”视角下算法性别歧视的类型界分和形成机制，通过提出系统可行的应对方案，为促进人工智能时代的性别平等和社会公正提供理论基础。本章结合具体的算法应用场景，将算法决策下的性别歧视划分为镜像同构、耦合互动、关联交叉三种类型。为治理算法性别歧视，本章提出应以算法公平理念为指引，以算法生命周期为节点有效开展歧视风险管理，结构性扩容反歧视规范体系并培育公平向善的算法运行生态。

在强化硬法规制的同时，在算法治理中坚持“硬法”与“软法”的结合成为国际算法治理的核心共识。因此，第五章聚焦人工智能技术标准，探究其作为“软法”治理工具在算法治理图景中发挥的三项重要效能。本章提出人工智能技术带来的结构性挑战推动了治理范式转向以协同性、动态性、分层性、复合型为特征的“软法”治理。人工智能技术标准作为重要的“软法”治理工具有助于在技术开发早期嵌入伦理和价值要求，在应用和部署阶段推动评估和认证制度的有效落地，在事后阶段为人工智能技术和产品构建追溯和责任制度提供依据。但我国目前的人工智能技术标准制定程序科学性和代表性有待完善，标准框架结构制定现状不甚合理，与相关法律衔接融合不畅。本章建议未来应探索科学灵活的标准制定程序和多元智能的参与机制，借助新型人工智能合作伙伴关系提升标准化需求识别分析能力，建立完善议程设定协调机制，并着力推动人工智能治理标准化和法治化的良性衔接与融合。