作者:周辉(中国社会科学院法学研究所网络与信息法研究室副主任)
近日,国家网信办发布了境内互联网信息服务算法名称及备案编号,首批包括30种算法,这些算法信息可以通过互联网信息服务算法备案系统进行查询。这一举措意味着《互联网信息服务算法推荐管理规定》(下称《算法管理规定》)建立的算法管理规则得到了有效落实,是中国算法治理实践探索的重要进展。
算法应用场景十分广泛,在提高生产效率、社会福利、治理效能等方面发挥了重要作用,可以更加高效地采集、处理数据并挖掘海量数据中的独特价值。但是,算法应用也是一把“双刃剑”,一旦滥用,不仅可能引发信息不对称、算法歧视、算法霸凌等现象,而且可能直接或间接地危害到公共利益、社会稳定甚至国家安全。此外,作为一种技术工具的算法,本身也有失灵、崩溃的风险。在鼓励算法技术发展应用的同时,必须要关注算法发展带来的问题及隐患,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益。基于此,国家网信办等部门依据网络安全法、数据安全法、个人信息保护法、互联网信息服务管理办法等法律、行政法规,于2021年底出台了《算法管理规定》。
按照《算法管理规定》第二十四条,具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内,通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息,履行备案手续。这一规定明确了算法备案的范围,既包括需要进行备案的算法种类,也包括需要备案的具体信息项。
算法备案制度的建立,是在法治框架下完善算法治理机制、促进多方良性互动和多元治理的重要探索。在未来,不仅能够辅助其他监管治理手段有效规制算法,而且能加强行业的自律自治和主动合规意识,有利于实现对算法的有效治理。
开展算法备案,有利于将网络安全法、数据安全法、个人信息保护法等法律中有关网络信息内容安全、数据安全和个人信息权益保护的制度落地。算法备案及实施自评估等规则是《算法管理规定》对“具有舆论属性或者社会动员能力的算法推荐服务”规定的特别要求,有助于针对其可能涉及的安全风险进行事前预防和及早纠正。此外,算法备案也衔接和落实了《个人信息保护法》中有关利用个人信息进行自动化决策的约束性规定,能够更好保证决策的透明度和结果公平、公正。
算法备案制度与其他措施、手段形成了一套相互配合的科学化、系统化的监管治理体系。国家互联网信息办公室等九部委印发的《关于加强互联网信息服务算法综合治理的指导意见》(下称《意见》)中就指出,算法监管体系由算法安全风险监测、算法安全评估、科技伦理审查、算法备案管理和涉算法违法违规行为处置等多个维度共同构建。依法进行算法备案不仅是《意见》的明确要求,也是有效开展其他各项监管的基础条件。
算法备案是《算法管理规定》建立的重要管理措施,是打破算法“技术黑箱”的有力举措。第一,算法备案有利于监管机构及时、准确掌握算法推荐服务基础情况,便于开展后续监管执法工作。第二,算法备案可以提高算法推荐服务提供者自身的合规意识、责任意识和安全保障意识,推动其自主自觉规范算法的开发和应用。第三,算法备案有利于保障社会公众的知情权,便于算法接受社会监督,也能促进监管部门、算法开发利用主体和互联网用户群体等多主体间的良性互动,推动完善网络社会综合治理格局。
从首批算法备案信息中可以发现,算法备案工作率先在体量较大、影响力和社会责任较强的大型互联网平台企业开展,这在探索平台企业依法依规自主申报备案的同时,也符合当前对不同主体进行梯度监管、对大型平台进行重点监管的国际趋势。
从《算法管理规定》要求填报的信息和可查询到的备案情况来看,算法备案的重点在于提高算法规则的透明度和可解释性。在这一原则性目标下,仍坚持填报和公开信息的必要性,不触及算法开发、运行过程中的知识产权和商业秘密;平台企业对其算法所作的填报和说明能够事先进行商业秘密“脱敏”。因此,算法备案及其公开,不会侵犯企业的合法、正当利益,而是有利于促进互联网信息服务健康有序发展。