算法备案落地,夯实算法治理基础|Mr.陈的E法空间

作者 | 陈兵 张浩东  

2022年08月19日 19:17  

本文3812字,约5分钟

算法备案的落地,从某种程度上指明了未来一段时间的平台治理方向。

当下,数字经济依托互联网、物联网、大数据、超级计算、人工智能算法、区块链等技术加速创新,不断催生新业态、新模式、新产业,与社会经济生活深度融合,已成为促进经济发展的强大动能。

支撑数字经济高质量发展的核心基础技术是基于大数据支持的人工智能算法,通过该算法训练可高效采集、计算、使用、处理海量数据,主要表现为依托机器自主深度学习对数据进行有限、抽象、有效、复合加工与运用,不断优化算法,同时也有利于提高算力。

互联网平台已将千变万化的算法应用于不同场景,渗透至社会经济生活的方方面面。算法在提高经济运行效率,优化社会公共治理的同时,也因其不可知性所引发了诸多的算法歧视、算法滥用、算法霸凌、算法共谋等侵害用户权益的现象,也滋生了一些侵蚀社会公益,破坏公共秩序,挑战法治权威,危害国家总体安全的事件和行为。

鉴于此,对算法进行治理已成为各界共识,可以说,算法治理的好坏与成败,直接关系到数字经济发展的优劣,国家治理的兴衰。

然而,因为算法存在多样性、不可知性、自主性、易变性等特点,对其治理的边界较难把握。

2021年12月底,四部门共同制定了《互联网信息服务算法推荐管理规定》(下称《算法推荐管理规定》),这份专项治理文件,是中国在算法治理道路上的里程碑,其中首次提出了“算法备案”要求。

2022年8月12日,国家网信办公布了首批境内互联网信息服务算法备案清单,其中包括了30条备案信息,涉及多家互联网头部企业。

这一举措意味着,算法备案规定真正落地,夯实了算法治理的基座,更标志着算法治理正在向审慎与分类分级的方向推进。

当然,作为算法治理的重要组成部分,同时也是一项新的制度,算法备案仍有待进一步健全与完善,优化细化相关内容,以提高科学性、合理性及合法性。

算法备案的性质与价值

从字面上看,算法备案就是各算法服务提供者向互联网信息服务算法备案系统填报相关信息,属于《算法推荐管理规定》的明确要求。

然而,若想深入理解备案措施的意义,需要明确“备案”的含义。虽然在《立法法》以及《法规规章备案条例》中频繁使用了“备案”这一概念,但并没有解释其具体含义。不过,有部分省市规范性文件中对“备案”做出界定。

比如,《广州市行政备案管理办法》规定,“行政备案,是指行政机关为了加强行政监督管理,依法要求公民、法人和其他组织报送其从事特定活动的有关材料,并将报送材料存档备查的行为”;《河北省行政备案管理办法》规定“行政备案是指行政机关或者法律、法规、规章授权的组织,依法接受公民、法人或者其他组织报送其从事特定活动的有关材料,并将备案资料存档以备事后监督的行为。”

这些地方文件基本廓清了“备案”的范围与程序要件,可以参照对其内涵的理解,来解释算法备案的概念。

从相关概念中可知,备案是审查的前置程序,但并不具有实质审查的效力,只有形式登记效力,国家网信办是接受登记的主体。故此法备案仅是算法治理的第一步,但也是推动算法治理关键一步,可以建立算法治理的基础数据库。

与此同时,算法备案也为刺破算法面纱创造了条件,提供了抓手。通过备案,不仅可以使算法的相关基础内容公开化、透明化,便于接受社会监督,也能够让算法监管者、开发者、使用者,以及服务提供者、消费者形成互动,搭建多元的共治模式。

对各主体的影响

当前,算法作为平台经济乃至数字经济主体的核心生产工具,承担着优化各类数据要素配置的重要功能,是数字经济发展的核心。

因此,对算法的各类治理都会对相关市场主体产生影响。由此,当算法备案实际成为算法治理的逻辑起点时,会对被监管主体,以及相关市场中的其他权利主体,都将产生重大影响。

首先,对于经营者主体来说,由于算法备案的目的是形式登记、以备审查,因此其对上传的算法信息都需进行严格的自我审查。在运行算法的过程中也会严格遵循相应规则,客观上促进了算法开发与应用全过程的自治合规。

然而,对于算法开发者、使用者以及服务提供者来说,算法是其核心竞争力和商业机密,进行备案公示可能会在一定程度上会限制其改进、优化、创新算法的意愿,滞妨算法的开发与创新。

因此,对经营者主体来讲,算法备案的影响具有两面性,如何加以平衡,拿捏好算法备案的内容与程序要求,以及责任设置,是优化和提升算法备案制度运行实效的关键。建议对备案原则、规则、具体方式方法进一步细化,比如以备案主体、备案时间、备案阶段为依据等落实分类分级治理,建立健全以基础核心功能为主的复合算法备案的选择机制、变更机制等。

对于消费者主体来说,通过查阅算法备案信息,可以了解甚或刺破算法黑箱的原理和面纱,有利于审慎全面地看待算法应用,接受算法服务,合法维护自身权益。同时,算法备案还提供了举报渠道,为社会监督提供了机制,有利于进一步落实了消费者权益保护。

对于监管主体来说,一是有利于收集各平台经营者开发、使用算法的信息,为深化算法治理打好基础;二是加强了监管部门和机构的法定职责,既要保护市场主体提供的算法信息不泄露,又要以此为基础推动算法治理。因此,算法备案是一项专业性、专门性、合规性要求很高的工作,需要提高行政效能,保证行政安全。

释放出什么信号?

算法备案的落地,从某种程度上指明了未来一段时间的平台治理方向。

一是强化头部平台治理的力度与效度。

从公布的首份算法备案清单来看,备案的主体大多是头部平台企业,比如,网易、美团、快手、抖音、微博等。这传递出的信号非常明显,即头部平台的算法容量大、测度性能强、计算结果准,算法应用所带来的风险系数也更高,其获取数据、应用算法的能力也更强,故从源头始,加强算法备案是应有之义。

这不仅向头部平台传递其作为在位者更需要自省的要求,也向社会各界表明专项治理、重点治理、攻坚治理的信心和决心,鼓励社会各界依法依规监督头部平台。

二是推动算法治理的精准化与有效性建设。

其一,算法备案的分类更加精细。第一批算法备案清单涉及个性化推送类、检索过滤类、排序精选类、调度决策类、生成合成类等多种类型,且备案内容包括原理、机制以及应用场景等,这不仅为算法治理奠定制度基础和技术指标,也预示未来的算法审查和监管大概率会沿着该分类继续深入,精准施策。

其二,明确分类分级原则及具体规则的定位与作用,针对头部平台依据其核心业务所涉及的算法打好治理基础。此次算法备案清单的分类,是根据目前平台企业的核心业务进行的类型化区分,是对于算法分类分级治理的一种尝试,对于算法分类分级治理的制度建设与适用,具有重要意义。

三是对平台企业的治理程序更加科学化、方式多样化。

算法备案的性质属于行政备案,是为下一步做好对算法应用全过程、全场景、全周期进行精细化有效性监管的前提和基础,也是对平台企业依法依规自主申报备案制度的尝试,体现了对备案登记主体的自觉性与自主性的尊重。

在此基础上,再结合监管部门依法履职,主动监管,有助于健全完善行政备案、行政审查、行政许可、行政处罚等多种算法治理良性机制,提升“虚实结合、多管齐下”的实效,实现“事前事中事后”全周期治理。

治理仍需多方协力

虽然算法备案是算法系统治理的关键基础,但绝非全部,算法治理漫途中还需付出更多努力,需要社会多元主体共同参与其中。完善算法治理体系,未来还需从以下几方面予以努力。

一是加强行业自治,促进主动合规。算法作为数字经济基础性生产工具和数据要素的配置机制,在不同的业态、场景、需求中,其运行原理是不同的,呈现出千人千面的特征。为此,要想实现算法治理的公平公正、开放透明,一定需要多元参与、共同协力。如果仅把公权力作为单一主体进行外部性强制约束的支架,可能在实践中效能有限,容易失去平衡,引入多元机制将有利于补充和制约算法治理的单一效度。其中,各类行业协会作为行业自治组织,对各类算法的主动性和需求性更强。为此,应激励和支持行业协会等自治组织主动承担起常态化、规范化的自治合规、自查整改的责任。

二是适度扩大和增强外部性监督的范围与效力,做好治理手段的合理配位。算法治理的目在于发展与安全的统合,较为直观地表现为经营者与消费者各自正当利益的平衡。然而,目前在网络领域存在的“微博升堂”“大数据杀熟”、网络沉迷、信息茧房等现象,算法滥用、算法歧视、算法霸凌屡见不鲜,这些都显现了算法治理特别是平台算法自治仍面临挑战,亟需适度扩大外部性监督约束机制,增强算法监管的范围和力度。然而,提高监管效能需要大量的人力、智力、财力、时间与精力,虽然,监管机构已然发挥了重要作用,但如果想要提高治理效能,仍需要其他主体共同参与,协同发力。

此外,要规范算法备案制度的运行,防止“备案”演化成“许可”,因此需要注意行政权力的适度与适当,并在治理过程中应遵循最少必要原则、合比例原则,做好各种治理手段之间的合理配位与有效衔接。比如,算法备案应定位于形式要件登记,如果超过了备案登记管理的界限,不仅可能抑制算法开发者、使用者等主体的创新意愿和动力,还可能引发相关的风险。

(作者陈兵为南开大学法学院副院长,南开大学数字经济交叉科学研究中心研究员;张浩东为南开大学竞争法研究中心研究人员)

打开财经APP, 查看更多精彩内容
更多相关评论 
打开财经APP, 查看更多精彩内容
热门推荐
打开财经APP, 查看更多精彩内容