这篇文章把大数据杀熟的架构和规制问题讲透了

文 | 《财经》E法特约评论员 张欣   编辑 | 张有义

2021年01月03日 14:08  

本文3566字,约5分钟

跨场景、跨类型的平台间“算法共谋”更令人担忧。

2020年岁末,一篇题为《我被美团会员割了韭菜》的文章在社交媒体上被频繁转发。作者讲述了自己在美团外卖平台上的不正常经历:同一家店铺、同一个配送地址、同一时间下单,会员账户比非会员配送费预估更高。

上述文章指出,本以为开通外卖会员会省钱,却发现,在美团平台上,开通会员的手机显示的所有外卖配送费都比非会员高1元至5元不等。一时间,全网舆论沸腾,美团深陷大数据杀熟漩涡。仅一天,美团股价下跌2.32%,市值蒸发近400亿港元。

针对上述文章,美团外卖声明:“会员和非会员配送费差异”与会员身份无关,是由于定位缓存导致并未显示用户的最新实际位置从而引发的配送费预估差别。但美团外卖回应的理由不仅并未得到当事人的认可,社交媒体上还充斥着网友们的控诉。

此次美团事件之所以引发用户强烈反弹,主要原因在于平台企业利用大数据技术对消费者进行歧视性定价的事件近年来层出不穷。众多网友曾指出饿了么、京东、携程、飞猪、去哪儿等知名平台公司均存在大数据杀熟现象。这些平台企业虽历经多次网友曝光,但似乎并未引起实质性改善。

网民愤怒的背后,实际上折射出这样一种困局:算法时代,面对拥有海量数据、强大算力、高效算法的平台企业,消费者无从反抗、无力救济、无计可施。

要真正有效地对大数据杀熟行为予以规制,需要综合性、系统性地协同共治,唯有切实保障用户权利,强化集体行动机制,提升技术性监管水平,增强平台自律监督,才能够综合性、系统性、根本性地杜绝大数据杀熟现象的再次发生。

大数据杀熟的架构原理和技术隐忧

毋庸置疑,数字时代,建立在海量数据和高效算法之上的数据挖掘技术极大地为平台企业赋能,使其能够精准识别消费者的偏好、需求、支付意愿和支付能力,提供更为精准、个性的商品和服务。但与此同时,数据和算法可能致使平台企业利用“信息权力”针对终端消费者实施剥削性和歧视性定价。

所谓大数据杀熟,是指平台企业通过收集、追踪用户数据,利用数据挖掘技术对用户进行分类和预测的基础上,对具有一定黏性的用户进行歧视性定价,从而获得差额利润的行为。具体而言,表现为平台上同一商品或者服务会员的定价可能高于普通用户,而普通用户的定价可能高于新用户和潜在用户。

与很多人观念中认为的大数据杀熟是“千人千面千价格”的逻辑有所不同,大数据杀熟是特定算法程序批量分析和执行的结果。只要符合设定特征的用户群体就会被程序筛选出来并受到类似对待,因此虽一定程度上体现了“个性化定价”特质,但实际上具有批量化、数据化、平台化特征。

其实,由于大数据杀熟具有极强的数据依赖特性,因此在平台自行收集和追踪用户数据之外,数据进行标签化归类后还可能进行再次交易。所以在数据标签化时代,不仅单个平台上的大数据杀熟现象值得警惕,跨场景、跨类型的平台间利用数据挖掘技术对特定标签的用户群体进行歧视化定价甚至达成“算法共谋”的情形更加令人担忧。因为后一种情形中,用户所受到的差异化待遇是跨越平台和场景的,具有更强的隐秘性。

面对大数据杀熟的经济特性,曾有为其辩解的意见认为,大数据杀熟行为无可厚非,只是经济活动中差别定价的数据化表现形式而已。后者在日常经济活动中并不鲜见。例如乘客在飞机选座时为了获取更大空间而额外支付的座位升级费用,亦或商家对于消费者购买指定数额、数量的产品而实施的额外优惠,再如商家在教师节对教师群体基于身份、职业等展开的低价优惠活动等等。但深究本质可以发现,大数据杀熟场景下的差别定价虽然也体现为不同特征用户的定价或者服务差异,但二者仍存实质不同。

首先,商品或者服务的定价策略对于消费者而言是否知情、透明。

在传统差别定价活动中,无论是额外支付的座位升级费,还是因符合特定条件而享受的价格优惠,对于消费者而言均是知情透明的。这意味着消费者可以全盘考虑所有影响成交的因素并按照内心真实意愿做出支付购买的行为。

而在大数据杀熟场景下,平台服务器通过追踪和记录设备识别码等关键信息对消费者进行智能化绑定,依据特定算法实施隐秘化、差异化、歧视性定价,不仅并无知情可言,此时的定价策略甚至与消费者的内心预期和普遍认知相悖离。

其次,在促进成交的过程中是否存在数字化诱导和操控行为。

在传统差别定价场景下,商家清晰公布定价规则,并无明显的诱导和操控行为。而在大数据杀熟场景下,平台企业可以基于用户的购买习惯、消费能力等数据进行诱导和“操控”,以是否愿意支付定价金购买会员等方式识别出“忠诚度较高”的黏性用户,实施差异化定价。

在一些场景下,差异化定价的表现形式还呈现间接隐蔽的特性。例如,新用户可以通过申领方式获得更多的优惠券或者支付减免。

因此,大数据杀熟行为实质上侵犯了消费者的知情权和公平交易权,不仅会降低用户对平台的信任度,还会对市场秩序的健康有序造成实质性不利影响。

大数据杀熟现象的法律规制之道

如前所述,大数据杀熟的技术性、数据性、隐蔽性极强,不仅难以被用户发觉,即使知晓后也难以通过个体化的方式有效反制。例如,有的用户通过卸载、重装、利用不同信息重新注册的方式试图规避,但却发现徒劳无功。

因此,面对甚嚣尘上的大数据杀熟现象,应当以数据生命周期管理为视角,实现用户、行业团体、监管机构和平台企业的多方联动、协同共治。

首先,切实保障用户对自动化决策的拒绝权和免除权。

我国《电子商务法》第17条规定了消费者的知情权和选择权,第18条规定电子商务经营者应当向消费者提供不针对其个人特征选项的商品或者服务搜索结果。虽然此两条规定旨在保护消费者免受大数据“杀熟”,但既未明确规定大数据杀熟行为的构成要件,又未明确赋予消费者在电子商务场景下拒绝和免于受到基于其个人特征的自动化决策的权利。

目前正在征求意见的《个人信息保护法(草案)》第25条明确赋予了个人拒绝对仅通过自动化决策方式作出决定的权利。《数据安全管理办法(征求意见稿)》第23条规定,用户选择停止接收定向推送信息时,网络运营者应当停止推送并删除已经收集的设备识别码等用户数据和个人信息。

上述两个立法的内容可以作为良好的制度基础,一方面扩展适用的自动化决策类型,将完全自动化决策和非完全自动化决策悉数纳入;另一方面应当切实在立法中明确消费者在电子商务场景下对自动化决策的拒绝权和免除权,重拾主体性地位。

其次,促进消费者协会有效行使公益诉讼权。

大数据杀熟现象的另一治理难点在于难以根据“杀熟行为”认定构成价格欺诈并适用惩罚性赔偿。此外,被大数据杀熟的用户具有个体分散性,难以达成有效的集体行动。

我国《消费者权益保护法》第37条规定了公益诉讼权。在发生大规模消费者侵权行为时,可以由消费者协会代表向法院提起诉讼。但在实践中,不仅权利行使主体受限,能够提出诉讼请求的内容规定也过于模糊,限制了该权利的有效性。

消费者协会的公益诉讼权有利于扭转消费者的弱势地位,增加大数据杀熟的违法违规成本。因此在数字经济时代应积极推进完善消费者公益诉讼制度,对权利适用的内涵与外延予以明确,并适时扩展权利行使主体,切实保障公益诉讼权的行使。

再次,应当分级分类实施算法影响评估制度。

因循数据生命全周期管理的视角,美国、英国、加拿大等国已经通过专门立法规定对于个人权利、社会经济、生态环境等具有高风险的算法应用在事前、事中、事后均需实施算法影响评估制度。政府专门机构、技术专家、行业代表、公民代表等组成专业评估工作组,对高风险场景下的算法模型进行系统评估,以确保该领域的算法适用符合法律法规和伦理规范。

我国《个人信息保护法(草案)》第54条规定了自动化决策风险事前评估制度,第53条规定了算法审计制度。笔者建议应当细化明确算法风险事前评估和算法审计制度的启动条件、适用场景,分级分类有序推进电子商务场景下智能定价算法的影响评估制度。

最后,需要有序倡导平台企业实施自我规制,践行科技伦理。

在大数据杀熟场景下,各类数据挖掘技术只是分析和执行的工具。对消费者“杀熟”的主体仍然是处于网络生态中基础单位、核心枢纽和关键钮结的平台企业。

党的十九大提出“推动互联网、大数据、人工智能和实体经济深度融合”,从而对我国数字经济的发展提出了更高的要求。对于平台企业而言,一方面要深度创新,实现高质量的发展和突破;另一方面也要清晰认知平台责任和义务边界。虽然平台间的经营模式各不相同,但在科技向善,打造负责、安全、友好、公平的数字技术时,应当始终存有“重叠共识”和数据有度的底线伦理原则。

(作者为:对外经济贸易大学法学院副教授、院长助理)

打开财经APP, 查看更多精彩内容
更多相关评论 
打开财经APP, 查看更多精彩内容
相关新闻
热门推荐
打开财经APP, 查看更多精彩内容