反垄断监管已经成为2021年互联网经济发展的重要关键背景。
一个月前,市场监管总局会同中央网信办、税务总局,召集34家中国互联网公司召开行政指导会,要求充分发挥阿里反垄断案例的警示作用,各平台企业要在一个月内全面自检自查,逐项彻底整改。
强迫实施“二选一”、滥用市场支配地位、实施“大数据杀熟”、漠视假冒伪劣、信息泄露等是监管部门明确指出的整改内容。大数据算法成为划重点选项。
“事实上,随着国内反垄断调查的深入,除了“二选一”等与消费者购买行为密切相关的领域,与算法相关的大数据杀熟、算法共谋、用户隐私泄露问题也成为国内反垄断监管的重点。”一位反垄断专业律师在近期的一次行业交流会上透露。
算法的高效与精准,不仅提高了信息分享的效率,更给不少公司带来巨额商业利益。然而在被算法支配的世界里,个人隐私信息也被无情的暴露在空气中……
要智能还是要隐私,算法是一把双刃剑
打开购物软件,发现页面上均是近期浏览过的商品;在App阅读一条健身信息,随后便会经常收到健身知识以及相关的广告推送……随着大数据广泛应用,算法推荐技术正在将人们带入个性化、定制化、智能化更强的信息传播时代。据不完全统计,当前基于算法的个性化内容推送已占整个互联网信息内容分发的70%左右。
算法推荐给人们带来便利的同时,诸如低俗劣质信息精准推送、“大数据杀熟”等乱象也凸显出来,此外,算法共谋逐渐引起社会各届的关注。
算法共谋的理念最早是在2015年由牛津大学法学教授Ariel Ezrachi和美国田纳西大学法学教授Maurice E.Stuckle共同提出。随后在2016年出版的《算法驱动经济的前景和风险》详细地介绍了计算机共谋是危险的,虽然传统的反垄断法律阻止企业固定价格,数据驱动下的算法能迅速监控竞争对手的价格,并统一地调整价格。日益透明的价格看似对消费者有利,却讽刺性地以伤害其而告终。
人工智能技术的发展是好事,但是在被算法支配的世界里,人却容易变得越来越疲惫。人们从主动搜索到智能推荐,信息获取看上去更丰富了、更智能了,但算法不断窥探、测试人们的偏好,也很容易让人陷于大量重复的信息中,认知反而更加单一、局限以及疲惫。
一个更严峻的问题是,在这个从主动到被动的过程中,人们的偏好被无数次窥探、推演。而智能算法背后,这些互联网公司又是如何获取这些个人偏好信息的呢?如果企业滥用个人信息,用户又该如何应对?
以字节跳动旗下抖音为例,在智能算法应用下,抖音的沉溺式用户体验非常突出。现在抖音和今日头条软件的用户使用时长快速增长,即将追赶上传统社交软件微信。
而依靠智能算法推荐,字节跳动的广告收入等商业变现不断扩张。一份字节跳动专家会资料显示,字节跳动预计2020年巨量引擎媒体广告会达到1500-1550亿流水收入,其中抖音预期将达到1000-1050亿。
然而,带来巨额商业利润的同时,以推荐算法著称的广告投放则会让人细思极恐。有用户刷抖音时,因为点击评论误入某教育培训机构广告,不久之后接到陌生电话,在电话中对方提到“你在某平台点击了评论,是我们的潜在用户”。这位用户使用成都手机,来电号码归属地也是成都,吓得她急忙挂掉电话。
精准定位用户还出现在其他广告中,如大量定位软件广告都会有针对用户所在地的推送,如某软件推送栏位置有“XX男人必备的定位神器”字样。
如何推动“算法向善”
智能算法引发的问题也受到逐渐受到监管部门的关注。
2020年11月10日,市场监管总局官网发布《关于平台经济领域的反垄断指南(征求意见稿)》面向社会公开征求意见。征求意见稿指出,“具有竞争关系的平台经济领域经营者可能通过利用平台收集或者交换价格、销量等敏感信息,利用技术手段进行意思联络,利用数据和算法实现协调一致行为等多种协同行为,达成横向垄断协议。”
至于纵向垄断协议,平台经济领域经营者与交易相对人可能通过利用技术手段对价格进行自动化设定,利用平台规则对价格进行统一,利用数据和算法对价格进行直接或间接限定,以及利用技术手段、平台规则、数据和算法等方式限定其他交易条件,达到排除、限制市场竞争目的。
由此可见,获取用户敏感信息,是平台经济经营者实施垄断行为的重要先决条件。
技术和算法是互联网平台企业的立命之本,代表互联网平台的核心竞争力。但从国内外反垄断执法实践来看,互联网平台借助技术和算法实施垄断行为具有普遍性和高度隐秘性,因此指南在认定垄断协议和滥用市场支配地位行为方面,有意识地突出了技术和算法的工具价值和作用。“突破算法秘密性既是一个技术难题,也是一个法律难题,有赖于反垄断执法机构技术水平的提升以及法律理论的完善。”北京大成律师事务所高级合伙人邓志松在接受媒体采访时表示。
在监管逐渐完善的同时,互联网算法技术发展需要更多元的考虑,除了智能化,隐私保护尤为重要。
在两会上,全国人大代表、苏宁集团董事长张近东就表示,各类企业在使用AI技术提供个性化推荐服务的过程中,的确存在隐私侵权的隐患和风险。他建议,为共同推动“算法向善”,将数据应用到用户服务上,国家、企业和个人都需做出努力。
腾讯公司高级执行副总裁、云与智慧产业事业群总裁汤道生近期在数字中国建设峰会表示,智能化数字社会正在加速到来,既给我们带来巨大的机遇,也在治理问题上带来新的挑战,需要全行业认真研究应对。同时,面对AI算法可能带来的负面问题,汤道生表示,行业要加强算法治理,以技术创新解决技术带来的新问题,例如在发挥数据价值的同时,做好数据隐私的保护。
不久前,腾讯刚刚发布自研第四代数智融合计算平台“腾讯大数据-天工”,该平台尤其强调更为安全和更为隐私的大数据智能计算。
数据也存在“孤岛”问题,主要指一些互联网资讯平台或各行业数据不互通。而要破解数据多方协作难题,打破“数据孤岛”,数据安全和合规成为首要解决的问题。在此背景下,隐私计算(Privacy Computing)应运而生。
作为在数据融合应用过程保障数据安全合规的关键技术路径,隐私计算可以保证参与方在不泄露各自数据的前提下,通过协作对他们的数据进行联合机器学习和联合分析,其商业模式、应用场景、技术变革、产业趋势、法律问题等正成为当前政产学研用各界探索的技术热点。腾讯推出了《隐私计算白皮书》,从发展背景、技术体系、应用场景等维度出发,共同推动隐私技术产业的发展,探索在数字时代中发展和安全的平衡点。
腾讯近期进行了新的战略升级,提出"可持续社会价值创新"战略,并将此作为发展的底座,牵引所有核心业务。在此背景下,更安全、更能保护用户隐私的底层算法,将是其各项业务发展的重要基础。
做社交起家,在用户隐私保护方面,腾讯一直有清醒的认识和严格的要求。此前,腾讯公司高级执行副总裁、微信事业群总裁张小龙提到,团队正在研发输入法。
“我们会经常收到投诉,说刚刚在微信里聊到什么,就在其他App 里看到这个东西的广告,是不是微信在出卖我的聊天记录给广告主。其实并不会。微信从来不会去分析用户的聊天记录,即便因此损失了很多广告收入。”张小龙说。
如何让算法向善、做到不过度收集用户信息,推动智能算法向善,或许是当下互联网企业当下应该思考的首要问题。