查看原文
其他

【产业实践】“绿网计划”对数百亿次非正常搜索进行公益化疏导

“‘绿网计划’做了一件非常了不起的事情,为社会治理起到了很好的正面作用,但这仅仅是开始,希望各大互联网平台、公益组织以及社会机构一起参与进来。”12月20日,北京大学经济学院教授、中国信用研究中心主任章政在北京出席第三届市场监管领域社会共治大会时表示。

会上,阿里巴巴和百度联合发起的“绿网计划”脱颖而出,入选2020年市场监管领域社会共治优秀案例,为十大社会共治优秀案例榜首。

 
图示:“绿网计划”公益入选市场监管十大社会共治优秀案例。

市场监管领域社会共治大会由国家市场监督管理总局直属的中国工商出版社主办,旨在推进“社会共治”理念,创新监管方式,凝聚社会力量,打造社会共治智库。此次案例征集聚焦“严守安全底线”等领域,重点强调调动社会力量构建社会共治监管格局,形成监管合力。

各方共建“绿网计划” 开展正向科普宣导

如今网络和社会治理一样,都需要治理升级,构建政府、企业、技术专家、网民等多主体网络社会治理体系。过去一年,阿里系平台上产生72亿次非正常搜索。在百度平台,仅2020年前三个季度,就遇到了386.7亿次用户非正常搜索行为。搜索的关键词涵盖了烟草、野生动植物、游戏沉迷交易等各类异常内容。

面对大量非正常搜索,此前互联网普遍做法是在搜索页显示“抱歉,页面找不到”。直接拦截虽然在短时间内规避了风险,但治标不治本,用户难免会换其他平台进行搜索。

2020年11月28日,在浙江省市场监督管理局的指导下,阿里安全、阿里巴巴公益基金会、百度安全联合发起“绿网计划”,将458亿次非正常搜索变成公益宣导,关注守护生命健康,野生动植物保护以及未成年人保护(电子烟、毒品、软色情、游戏沉迷)三大领域。淘宝、闲鱼、UC、高德、优酷、夸克等迅速响应加入。

“绿网计划”构建了风险主动发现、风险趋势防控、风险识别能力迭代的全链路闭环解决方案。“绿网计划”项目上线后,涉及相关关键词的搜索页将不会再出现“抱歉,页面找不到”,取而代之的是政策法规和科普知识的宣导、公益代言大使的引导呼吁、以及相关合法合规的替代商品推荐。

 
  图示:在手机淘宝上敲下相关非正常搜索词后,搜索结果呈现的不再是“抱歉,无法显示”,变成相关科普宣导页面。

在“绿网计划”中,平台往前“多做一步”。除了对“黄、赌、毒”和作恶者的搜索行为做坚决管控,还厘清了哪些用户需要引导和帮助,比如有些搜索来自抑郁症患者的绝望呼救,有些来自对禁售商品的猎奇和法律知识匮乏,取而代之的是告知用户相关搜索行为存在什么问题、违法商品交易所需承担的后果,引导用户停止这种搜索行为并形成正确认知,帮助提供解决方案等。

“绿网计划”获得了社会各界的响应。林志玲、佟大为、毛晓彤、辛爽等11位知名演艺界人士担任“绿网计划”公益代言大使,通过录制应援寄语、微博及抖音传播等方式宣导;绿网计划还联合更多监管部门、社会公益组织、科研人员共建科普知识库,并完成监管部门、消费者、商家、平台之间的线上普法教育通道。

据数据统计,“绿网计划”仅上线5天,就向45万用户进行了宣导。这种“预防工作”此前已有效果数据,去年至今阿里安全通过页面转化引导方式发起的守护生命公益行动,已救回因抑郁症等原因轻生的3500多个鲜活生命。

风险防控转为风险预警  科技赋能社会治理

阿里巴巴集团平台治理部副总裁肖水贤认为,商业领域沉淀的数字化技术不仅可服务于自身,还应和更多社会治理场景打通,用数字化技术联结、支撑、直达每一个社会要素,为社会治理带来更大的价值。

 
  图示:阿里巴巴集团平台治理部副总裁肖水贤介绍“绿网计划”公益项目

在“绿网计划”的实施中,阿里运用新一代安全架构的核心AI技术把平台风险防控能力变成了风险服务能力,前置正向引导,全面整合了阿里多年来沉淀的各项算法能力,包括物种识别能力、视觉场景的识别能力(如山路、户外场景)、OCR识别能力(识别是否存在对异常商品的描述,相关图片是否存在异常导向)和ASR能力(识别是否存在异常暗示)。

肖水贤表示,“绿网计划”是网络治理的创新举措,更多体现的是责任和担当。一方面用“智理”实现“治理”,通过平台的技术手段及完善的运作机制协同政府部门进行社会治理;另一方面体现了网络治理从“堵”到“疏”、从治控商家到引导消费的转变。

章政点评,很多人在网上找东西,这是正常现象,但有些是不正常现象,比如搜索自杀以及一些非法交易。而且这些非正常搜索量级非常大,仅根据阿里和百度的数据,非正常搜索已达到400多亿次,一年就365天,这意味着网民一天发出了超1亿次非正常搜索。

以前,“抱歉,你搜索的结果无法显示”是一种“拒之门外”的做法。但现在“绿网计划”将这些搜索结果呈现为向善引导的科普信息与公益引导,甚至请来了林志玲等知名明星担任公益大使,扩大影响力。

“全世界都会面临非正常搜索背后体现出来的社会问题,如果得不到合理的疏导,就会引发更多社会生态的变化。‘绿网计划’做了一件非常了不起的事情,但这仅是开始,光靠阿里和百度还不够,这事需要大家一起做,希望各大互联网平台、公益机构等社会机构都参与进来。”章政呼吁道。

新技术的应用将迎接数字化治理时代的到来,社会治理的范式将被重塑,为实现更加公平、更有效率的社会治理提供了更多可能。“绿网计划”正是商业领域沉淀的数字化技术和社会治理场景打通,重塑社会治理模式的范本。

点击下方关注我们,记得“星标”哦!


更多人工智能治理和可持续发展技术干货+产业实践分享,请移步菜单栏精选好文


为即将到来的更多治理干货点👍
继续滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存