文·姜昊骞中国消费者协会,2022年3月11日在官网发布《2021年网络消费领域消费者权益保护报告》。《报告》建议,从更好保护网络消费者的现实需要出发,可考虑再次修改消费者权益保护法,尤其要对直播营销、社区团购等新业态的网络消费作出规制。
早在2021年3月,消费者协会建议修改《消费者权益保护法》,对直播带货进行更强力的监管。
这只是建设良性、绿色、健康网络环境的长期行动中的一环。直播带货的魔力不仅在于复读机一样的主播,更在于选品运营的精准算法。主播容易罚,算法却难以处理。
对普通人乃至执法部门来说,算法是无法理解,更谈不上控制的“黑盒子”,却又对个人与公共生活有着无远弗届的影响。
《算法的力量》一书运用政治学的基本概念与原理,对我们所处的时代进行了广泛的剖析,指出了算法对力量、民主、自由、社会正义的颠覆性意义。同时,作者还指出了两条摆脱被“黑盒子”控制的道路,即透明化与“新三权分立”。网约车司机与数字法律1964年,波兰科幻作家莱姆·斯坦尼斯瓦夫在《技术大全》中设想了一种自体平衡器。
自体平衡器的功能是调控医学诊断、法律判决、工厂生产乃至政策制定,涵盖私人与集体生活的方方面面。如果自体平衡器发展到一定程度,它就能够接管社会,促使人类社会迈入一个前所未有的发展阶段。
这一切都很好,但只有一个问题:自体平衡器是一个黑箱子,不仅使用者不知道它的原理和思考过程,就连机器本身及其创造者也不知道。
如此一来,谁能预防和阻止它对人类的潜在伤害呢,谁又能保证它不被滥用呢?无论从名称还是概念来看,“自体平衡器”都带有十足的科幻味道。但是,在《技术大全》出版将近60年后,自体平衡器不仅已经实现,而且遍布我们的生活,甚至有了一个家喻户晓的名字:算法。新闻里随处可以看到,“算法”、“平台”与人类用户的互动。
在2022年3月19日《1818黄金眼》节目中,网约车司机穆师傅因为害怕自己取消订单后平台会扣服务分,所以尽管平台规则中明确规定他的情况不会扣分,但他还是整整3天不敢点“取消”按钮,结果一直不能接单。算法是高效而便利的,但也会不时提醒我们:它是一种比人类组织和大部分传统机械更加不透明、更难控制的造物,有时甚至会更加专断。透过算法推荐出现在首页上的视频,我同样能感受到穆师傅的情绪。《算法的力量》一书探讨的正是这个主宰21世纪的中心议题:我们的生活应在多大程度上受功能强大的数字系统的指引和控制?该书作者杰米·萨斯坎德是一名英国学者、作家和律师,多年来研究数字技术及其对政治、经济和社会的影响。
《算法的力量》的原书名为Future Politics,意为“未来政治学”。这是一个宏大的主题,书中涵盖的内容也相当广阔。事实上,作者所说的“政治”指的就是“人类的集体生活”,而不是更传统的定义,比如“宣称垄断了正当的暴力使用以维持治安,并能够付诸实行”的实体。萨斯坎德提出这一定义是为了容纳数字时代的种种新式控制手段,他将这些手段归为三类:武力、审查和感知控制。
审查与感知控制,是我们所熟悉的。英国作家乔治·奥威尔在小说《一九八四》中描绘的“电幕”装置,兼具两种功能。一方面,电幕像摄像头一样,思想警察坐在中控室里观察着每个人的行为举动。“即使一个人待着的时候,他也永远不能确定他到底是不是一个人……他的友谊,他的休闲,他对妻子和孩子的行为,他独处时脸上的表情,他在睡眠中的喃喃低语,甚至他身体特有的动作,都在被不信任地审查着。
”今年“3·15”晚会上曝光了“行走的窃听器”——儿童智能手表,表明这种令人不寒而栗的场景并非虚幻。另一方面,电幕控制了信息渠道,让人们不断暴露于宣传和叛徒的“自述”下,从而变得麻木。奥威尔的想象,基于20世纪的窃听装置与大众媒体。
窃听员与报社编辑虽然隐匿在大众视野之外,仿佛在暗室中编织着操纵与阴谋的罗网,但毕竟是具象的、可理解的个体。受众可以将种种情绪聚焦于他们身上,并幻想着只要铲除或改造他们,社会就会变好。21世纪的审查与感知控制,采取了更日常化,但也更彻底的形式。
萨斯坎德举出了一款能够迅速识别并屏蔽违规消息和文章的即时通讯软件。在算法的加持下,数字审核达到了历史上一切审核机制梦寐以求的高度;在算法的帷幕后,审核的标准也变得愈发模糊。用户对自己生成的数据毫无掌控力,而数据却被实时用于规训和审查用户。此外,正如萨斯坎德所说:“行使这种权力的不一定是国家。
各行各业的服务商都可以坚持一定的评级,这增加了这些服务商的权力,而相应地减少了被评估者的权力。”这里点出了一个新的问题:治理主体不再仅限于传统意义上的国家机关,而是必然会分散到其他主体中。我们常常笼统地将这些主体称作“资本”。
为此,西方也有“国有化”的呼声,希望借助国家的力量来约束资本。萨斯坎德正确地指出,根源不在于名义上的所有制,而在于算法本身。但是,算法的威力在“武力”领域体现得最为鲜明,与传统政治体制的抵牾也最为强烈。“武力”的原文是force,与之相对的概念是“强制”。
后者就是常见的执法手段,是事后惩罚犯法者,进而威慑众人不敢犯法。前者则更向前了一步,是让人根本没有犯法的可能性,比如给犯人戴上手铐,或者将有自杀倾向的精神病患者关在软墙房间中。或许用“事前执法”和“事后执法”来对应这两个概念,会更加直观。
传统上,武力与强制都是国家的禁脔,武力施用的范围有限,且两者都需要人来执行。在数字时代,这些特征都被打破了。“平台规则”是由算法写成,由算法执行的;文。