平台合规观察 | 算法监管下互联网企业的合规重点解读【走出去智库】

Original 蔡开明律师团队走出去智库 2022-11-22

走出去智库观察

1月4日，国家网信办等四部门出台《互联网信息服务算法推荐管理规定》（以下简称“规定”），对于通过大数据“杀熟”实施不合理差别待遇、利用算法诱导用户沉迷网络等算法推荐问题提出明确管理要求。

走出去智库（CGGT）特约法律专家、北京大成总部高级合伙人蔡开明指出，互联网领域相关应用软件及平台，例如涉及短视频及游戏（视频、直播等）、新闻资讯（新闻推送等）、餐饮外卖（商家搜索排序、订单匹配、骑手调度等）、音乐媒体（榜单、热搜等）、出行服务（导航等）为《规定》的重点规制对象。建议企业系统识别算法应用的具体业务场景，提前定位潜在风险并采取合规预防措施。

今天，走出去智库（CGGT）刊发蔡开明律师团队针对“规定”的解读文章，供关注算法合规的读者参阅。

要点

CGGT，CHINA GOING GLOBAL THINKTANK

1、《规定》要求算法推荐服务提供者向劳动者提供工作调度服务的，应当保护劳动者取得劳动报酬、休息休假等合法权益，建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法。

2、算法推荐服务提供者提供互联网新闻信息服务的，应当依法取得互联网新闻信息服务许可，规范开展互联网新闻信息采编发布服务、转载服务和传播平台服务，不得生成合成虚假新闻信息，不得传播非国家规定范围内的单位发布的新闻信息。

3、鉴于算法所具有的“不透明、自动化”等固有缺陷，我们建议互联网企业除了需结合《规定》对违规、不良信息采取合规处置措施外，配备与算法推荐服务规模相适应的专业人员，需加强对算法机制的定期人工审核、巡检工作。

正文

CGGT，CHINA GOING GLOBAL THINKTANK

文/蔡开明阮东辉

2022年1月4日，国家互联网信息办公室（以下简称“国家网信办”）、工业和信息化部、公安部、国家市场监督管理总局联合发布《互联网信息服务算法推荐管理规定》（以下简称《规定》）[1]。该《规定》共三十五条，自2022年3月1日起施行，是我国互联网信息服务领域首个具有针对性的关于算法推荐的规定。国家互联网信息办公室有关负责人表示，出台该《规定》主要基于两方面的考虑：一是深入推进互联网信息服务算法综合治理的需要。党中央印发的《法治社会建设实施纲要（2020-2025年）》提出制定完善对算法推荐、深度伪造等新技术应用的规范管理办法。《网络安全法》、《数据安全法》、《个人信息保护法》等法律和《关于加强互联网信息服务算法综合治理的指导意见》等政策文件先后出台并作出相关顶层设计。在此基础上，有必要及时制定具有针对性的算法推荐规定，明确算法推荐服务提供者的主体责任。二是积极促进算法推荐服务规范健康发展的需要。算法歧视、“大数据杀熟”、诱导沉迷等算法不合理应用导致的问题深刻影响着正常的传播秩序、市场秩序和社会秩序，迫切需要对算法推荐服务建章立制、加强规范，促进算法相关行业健康有序发展。[2]

2021年8月27日，国家网信办发布该《规定》的征求意见稿（以下简称《征求意见稿》），《征求意见稿》共三十条[3]。相比之下，《规定》比《征求意见稿》多出五条（详见后文），主要涉及算法推荐服务提供者提供互联网新闻信息服务时的特定义务；算法推荐服务提供者不得实施垄断和不正当竞争行为；算法推荐服务提供者向老年人提供服务时的特定义务；算法推荐服务提供者设置申诉和公众投诉的相关义务；算法推荐服务监督管理工作由国家网信部门扩大到国家网信部门、国务院电信、公安、市场监管等有关部门。

一、关于算法

（一） 算法的定义

目前中国的《网络安全法》、《数据安全法》、《个人信息保护法》或其他现行法律、行政法规中均并未明确定义算法，地方现行法规也未见对算法的相关定义。根据威科检索，现行规定中对于算法具有介绍的：一是2021年11月上海市市场监督管理局印发的关于《上海市网络交易平台网络营销活动算法应用指引（试行）》的通知，指引即日生效，明确将“网络营销活动算法应用”定义为通过互联网等信息网络销售商品或者提供服务时，应用算法技术实施各类自动化决策，包括向消费者个人进行信息推送或商业营销、提供搜索结果、开展交易等。二是2021年8月全国信息安全标准化技术委员会发布的关于国家标准《信息安全技术机器学习算法安全评估规范》征求意见稿（仍处于征求意见稿阶段），其中将“机器学习算法”定义为：采用机器学习技术理论求解问题，明确界定的有限且有序的规则集合，并基于输入数据生成分类、推理、预测等的算法，并依据训练样本包含的信息以及反馈方式的不同，并将机器学习算法分为监督学习、无监督学习和强化学习三类。

此外，被认为是世界最严格的个人数据保护条例，欧盟的《通用数据保护条例》（GDPR）中并未直接定义“算法”。欧洲议会研究服务处（EPRS）曾于2020年6月发布《通用数据保护条例（GDPR）对人工智能的影响》[4]，其中提到：“算法”这个词经常被用来指人工智能应用，比如“算法决策”。然而，算法的概念比人工智能的概念更普遍……算法可以非常简单，例如，指定如何按字母顺序排列单词列表或如何找到两个数之间的最大公约数(例如所谓的欧几里德算法)，其也可以非常复杂，比如文件加密算法、数字文件压缩、语音识别或财务预测。显然，不是所有的算法都涉及人工智能，但每个人工智能系统，像任何计算机系统一样，都包括算法，有些算法处理的任务直接涉及人工智能功能。

（二） 推荐算法与人工智能算法

通过了解算法领域相关文章，我们初步理解算法包含多种类型，例如传统的推荐算法，以及与人工智能相关的机器学习算法、深度学习算法等。其中，推荐算法是目前互联网企业，包括新闻媒体（如微博等）、电商（如Amazonc、淘宝网）等较为通用的算法，其主要特征是可以自动向用户推荐其最感兴趣的商品、信息、服务等，从而增加用户黏性及购买率。推荐算法可分类如下：

然而互联网企业在使用推荐算法对用户进行商品、信息、服务的自动推荐时，通常会因算法的不透明、自动决策等缺陷影响用户的自主选择权。例如互联网企业利用个性化推荐算法按照用户偏好频繁对用户推荐“个人化、定制化”的广告；又如互联网企业根据消费者偏好及交易习惯等特征进行“大数据杀熟”，对同一商品或者服务在同等交易条件下对不同的消费者设置不同的价格，使得部分消费者在不知情的情况下被溢价；再如企业设置诱导用户沉迷、过度消费的算法，诸如此类。

二、《规定》的重要内容

（一） 适用主体

根据《规定》第二条，在中华人民共和国境内应用算法推荐技术提供互联网信息服务，适用本规定。结合“算法推荐技术”、“提供互联网信息服务”这两个关键词，我们理解该《规定》提到的适用主体“算法推荐服务提供者”主要为使用推荐算法等提供商品、信息服务的互联网企业，而较少涉及主要使用机器学习算法、深度学习算法的人工智能企业或其他不涉及使用算法推荐服务的企业。

（二） 规制范围

根据《规定》第二条第二款，应用算法推荐技术，是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。目前现行法律、行政法规、地方法规或其他规定中均并未介绍或定义前述“算法推荐技术”，但结合《规定》相关内容，我们理解前述“算法推荐技术”常见应用场景及关联应用或程序如下：

算法名称	应用场景	关联应用或程序
生成合成类算法	该类算法用于生成合成信息，如自动合成新闻、帖子等及AI换脸程序等	自动写稿机器人、AI换脸软件等
个性化推送类算法	该类算法利用用户模型的兴趣点规则和用户标签管理规则，以向用户推送信息，例如根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实施不合理的差别待遇等	推荐商品、定制广告、信息推送等
排序精选类算法	该类算法将信息按照特定方式进行排序，例如利用该类算法进行操纵榜单、检索结果排序等	热搜、榜单、搜索引擎结果排序等
检索过滤类算法	该类算法从可行的决策（推荐）方案中过滤出用户喜欢的方案，例如用于自动识别敏感字词、屏蔽信息、过度推荐、精选等	关键词过滤、精选等
调度决策类算法	该类算法可按照系统的资源分配策略分配算法，例如平台订单分配、报酬构成、工作时间、奖惩等	平台订单分配、劳动报酬、路线规划等

（三）算法服务提供者的重要义务

《规定》要求提供算法推荐服务，应当遵守法律法规，尊重社会公德和伦理，遵守商业道德和职业道德，遵循公正公平、公开透明、科学合理和诚实信用的原则，并鼓励相关行业组织加强行业自律，建立健全行业标准、行业准则和自律管理制度，督促指导算法推荐服务提供者制定完善服务规范、依法提供服务并接受社会监督。具体而言，算法服务提供者的重要义务包括：

1、信息服务规范相关义务

（1） 坚持主流价值导向：算法推荐服务提供者应当坚持主流价值导向，积极传播正能量，不得利用算法推荐服务从事违法活动或者传播违法信息，应当采取措施防范和抵制传播不良信息；加强算法推荐服务版面页面生态管理，建立完善人工干预和用户自主选择机制，在重点环节积极呈现符合主流价值导向的信息。

（2） 落实安全主体责任：算法推荐服务提供者应当建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核、数据安全和个人信息保护、反电信网络诈骗、安全评估监测、安全事件应急处置等管理制度和技术措施，制定并公开算法推荐服务相关规则，配备与算法推荐服务规模相适应的专业人员和技术支撑,并定期审核前述机制机理等，不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型；定期审核、评估、验证算法机制机理、模型、数据和应用结果等。

（3） 健全信息安全及报告违法信息：算法推荐服务提供者建立健全用于识别违法和不良信息的特征库，发现违法信息的，应当立即停止传输，采取消除等处置措施，并向网信部门和有关部门报告。发现不良信息的，应当按照网络信息内容生态治理有关规定予以处置。

（4） 加强用户模型和用户标签管理：算法推荐服务提供者应完善记入用户模型的兴趣点规则和用户标签管理规则。

（5） 禁止性行为：算法推荐服务提供者不得生成合成虚假新闻信息或者传播非国家规定范围内的单位发布的新闻信息；不得利用算法虚假注册账号、非法交易账号、操纵用户账号或者虚假点赞、评论、转发，不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现，实施影响网络舆论或者规避监督管理行为；不得利用算法对其他互联网信息服务提供者进行不合理限制，实施垄断和不正当竞争行为。

2、保护用户权益相关义务

（1）算法透明义务

为保障用户的算法知情权，《规定》要求算法应当以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等。如前所述，该规定旨在解决实践中互联网平台通过不透明的算法侵犯用户权利等行为。

（2）提供便捷的关闭算法推荐服务的选项

为保障用户的算法选择权，《规定》要求算法推荐服务提供者提供不针对用户个人特征的选项，或者便捷的关闭算法推荐服务的选项。用户选择关闭算法推荐服务的，算法推荐服务提供者应当立即停止提供相关服务。算法推荐服务提供者应当向用户提供选择或者删除用于算法推荐服务的针对其个人特征的用户标签的功能。

该规定主要针对实践中互联网平台未提供算法推荐服务关闭选项或难以关闭相关服务的情形。据媒体报道：“若希望通过微信设置功能关闭朋友圈广告，至少得经过14个步骤，才能关闭为期六个月的个性化定制广告。即使用户费尽千辛万苦关闭朋友圈广告后，其仍会接收到普遍投放的广告。想彻底关掉朋友圈的广告或是不可能的。[5]

（3）禁止“价格歧视”

《规定》要求算法推荐服务提供者向消费者销售商品或者提供服务的，应当保护消费者公平交易的权利，不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。如前所述，该规定旨在解决实践中互联网平台通过算法实施“价格歧视”的行为。

（4）针对特殊用户的相关义务

《规定》要求算法推荐服务提供者针对向未成年人、老年人、劳动者、消费者等主体提供服务的算法推荐服务提供者作出具体规范。

例如鉴于未成年人的价值观尚未健全，《规定》要求算法推荐服务提供者向未成年人提供服务的，应当依法履行未成年人网络保护义务，并通过开发适合未成年人使用的模式、提供适合未成年人特点的服务等方式，便利未成年人获取有益身心健康的信息；不得向未成年人推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息，不得利用算法推荐服务诱导未成年人沉迷网络。

《规定》要求算法推荐服务提供者向老年人提供服务的，应当保障老年人依法享有的权益，充分考虑老年人出行、就医、消费、办事等需求，按照国家有关规定提供智能化适老服务，依法开展涉电信网络诈骗信息的监测、识别和处置，便利老年人安全使用算法推荐服务。

此外，鉴于部分外卖平台通过算法来测算外卖员配送时间、进行订单分配及报酬计算等现象（例如部分外卖平台对劳动者区分对待，对于当天收入较多的骑手，在再次派单时通过算法故意派路远、价格低的订单，以控制骑手当天收入）[6]，《规定》要求算法推荐服务提供者向劳动者提供工作调度服务的，应当保护劳动者取得劳动报酬、休息休假等合法权益，建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法。

（5）提供投诉途径

《规定》要求算法推荐服务提供者应当设置便捷有效的用户申诉和公众投诉、举报入口，明确处理流程和反馈时限，及时受理、处理并反馈处理结果。

3、算法备案义务

算法备案义务适用于“具有舆论属性或者社会动员能力的算法推荐服务提供者”，《规定》要求前述主体履行备案手续，备案内容包括服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息。此外，完成备案的算法推荐服务提供者应当在其对外提供服务的网站、应用程序等的显著位置标明其备案编号并提供公示信息链接。

4、安全评估义务

安全评估义务适用于“具有舆论属性或者社会动员能力的算法推荐服务提供者”，《规定》要求具有舆论属性或者社会动员能力的算法推荐服务提供者应当按照国家有关规定开展安全评估。此外，算法推荐服务提供者应当依法留存网络日志，配合网信部门和电信、公安、市场监管等有关部门开展安全评估和监督检查工作，并提供必要的技术、数据等支持和协助。

三、监管措施

（一） 分类分级安全管理

《规定》要求网信部门会同电信、公安、市场监管等有关部门建立算法分级分类安全管理制度，根据算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据重要程度、对用户行为的干预程度等对算法推荐服务提供者实施分级分类管理。

（二） 安全评估

《规定》要求网信部门会同电信、公安、市场监管等有关部门对算法推荐服务依法开展安全评估和监督检查工作，对发现的问题及时提出整改意见并限期整改。

四、法律责任

在处罚机制方面，《规定》提出算法推荐服务提供者违反信息服务规范相关义务（涉及第七条到第十四条的特定内容）、违反保护用户权益相关义务（第十七条）、备案相关义务（涉及第二十四条、二十六条）的行为，监管部门将对其给予警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停信息更新，并处一万元以上十万元以下罚款。构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。

算法推荐服务提供者违反坚持主流价值导向相关义务（第六条、第十一条）、信息安全及报告违法信息相关义务（第九条第二款）、禁止性行为相关义务（第十三条、第十五条）、保护用户权益相关义务（涉及第十八条、第十九条、第二十条、第二十一条、）安全评估义务（第二十七条、第二十八条第二款）规定的，监管部门将按照有关法律、行政法规和部门规章的规定予以处理。此外，具有舆论属性或者社会动员能力的算法推荐服务提供者通过不正当手段取得备案的，监管部门将予以撤销备案，给予警告、通报批评；情节严重的，将责令前述主体暂停信息更新，并处一万元以上十万元以下罚款等。

在罚金设置方面，对比《征求意见稿》，《规定》明确提高违规处罚标准，将原有的最高3万元罚金提高至10万元。值得注意的是，结合《规定》第一条，我们理解若监管部门认定算法推荐服务提供者违反《规定》的行为涉及违反《网络安全法》、《数据安全法》、《个人信息保护法》等相关法律法规，处罚上限或远高于10万元。其中，《网络安全法》的最高罚金可达100万元或以上（违法所得一倍以上十倍以下罚款）；《数据安全法》的最高罚金可达1000万元或以上（违法所得一倍以上十倍以下罚款）；《个人信息保护法》的最高罚金可达5000万元后以上（上一年度营业额百分之五以下罚款）。

五、《征求意见稿》及《规定》对比

如前所述，在体例内容方面，正式发布的《规定》共三十五条，比《征求意见稿》增加五条内容，增添的五条内容具体为：

（一）算法推荐服务提供者提供互联网新闻信息服务的，应当依法取得互联网新闻信息服务许可，规范开展互联网新闻信息采编发布服务、转载服务和传播平台服务，不得生成合成虚假新闻信息，不得传播非国家规定范围内的单位发布的新闻信息。

（二）算法推荐服务提供者不得利用算法对其他互联网信息服务提供者进行不合理限制，或者妨碍、破坏其合法提供的互联网信息服务正常运行，实施垄断和不正当竞争行为。

（三）三是算法推荐服务提供者向老年人提供服务的，应当保障老年人依法享有的权益，充分考虑老年人出行、就医、消费、办事等需求，按照国家有关规定提供智能化适老服务，依法开展涉电信网络诈骗信息的监测、识别和处置，便利老年人安全使用算法推荐服务。

（四）算法推荐服务提供者应当设置便捷有效的用户申诉和公众投诉、举报入口，明确处理流程和反馈时限，及时受理、处理并反馈处理结果。

（五）国家互联网信息办公室会同工业和信息化部、公安部、国家市场监督管理总局负责解释。

其中在监管部门方面，《规定》确定国家网信部门负责统筹协调全国算法推荐服务治理和相关监督管理工作。国务院电信、公安、市场监管等有关部门依据各自职责负责算法推荐服务监督管理工作。地方网信部门负责统筹协调本行政区域内的算法推荐服务治理和相关监督管理工作。地方电信、公安、市场监管等有关部门依据各自职责负责本行政区域内的算法推荐服务监督管理工作。由此可见，对比《征求意见稿》，《规定》将算法推荐服务的监督管理工作由单一的网信部门扩大到电信、公安、市场监管等部门。关于《规定》的具体变化对比可见附录。

六、其他国家关于算法的相关规定

(一) 美国

在立法层面，美国目前并无专门关于算法的法律，针对算法的提案有《过滤气泡透明度法案》（Filter Bubble Transparency Act）[7]、《保护美国人免受危险算法侵害法案》（Protecting Americans from Dangerous Algorithms Act）[8]、《算法正义和在线平台透明度法案》（Algorithmic Justice and Online Platform Transparency Act）、《算法问责法案》（Algorithmic Accountability Act of 2019），前述提案涉及对互联网平台的算法技术进行规制，但仍处于提案阶段，暂无实质性进展。

此外，2020年12月3日，美国时任总统特朗普签署行政命令《关于促进联邦政府使用可信赖人工智能的行政命令》（Executive Order on Promoting the Use of Trustworthy Artificial Intelligence in the Federal Government）[9]。尽管该行政命令并未直接对算法技术提出监管要求，但在第三节“政府使用人工智能的原则”中，提出要求机构在开发、获取和使用人工智能时需尊重国家价值观、准确、可靠、安全、负责任、可追溯、透明等原则，前述原则或将直接影响企业对于算法的实际选择和使用。

(二) 欧盟

2021年4月，欧盟委员会公布《关于制定人工智能的协调规则（人工智能法）并修改特定联盟立法》的提案，目前该提案仍处于欧盟委员会一读阶段。[10]该提案对人工智能（AI）系统进行定义，基于风险评估方法，明确禁止具有“不可接受”风险的AI系统；授权“高风险”AI系统在遵守系列要求和义务前提下进入欧盟市场；对仅呈现“低风险或最小风险”的AI系统提出较宽松的透明度义务约束。此外，提案提出“不可接受”风险的AI系统包括：在平台算法推荐等具有算法偏见的场景中对人类意识和行为进行操纵，在具有算法偏见的场景中伤害儿童、残疾人等弱势群体的情形等。前述原则或将直接影响企业对于算法的实际选择和使用。

(三) 加拿大

2019年2月5日，加拿大出台《自动化决策指令》（Directive on Automated Decision-making）[11]，规制政府部门使用算法决策，要求其在使用任何自动化决策系统之前完成算法影响评估。该指令已于2019年4月1日生效。

七、对互联网企业的影响及合规建议

2021年9月17日，国家互联网信息办公室、中央宣传部、教育部、科学技术部、工业和信息化部、公安部、文化和旅游部、国家市场监督管理总局和国家广播电视总局联合发布《关于加强互联网信息服务算法综合治理的指导意见》[12]（以下简称“《指定意见》”），提出“利用三年左右时间，逐步建立治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局”，并在健全算法安全治理机制、构建算法安全监管体系、促进算法生态规范发展三个部分提出国家未来在算法领域的执法方向及手段。

结合执法趋势，我们建议相关企业（尤其是涉及电商、新闻媒体、大数据、物流、人工智能等重点行业的互联网相关企业）密切关注国家关于算法领域的立法、执法活动及相关解释，尽早开展算法合规工作，加强与监管部门的沟通并寻求指导，以防范合规风险。

除切实履行《规定》中相关义务，我们建议互联网企业选择采取以下算法合规措施：

（一） 识别算法应用的业务场景

在实践中，互联网企业可通过判断是否涉及“算法推荐技术”的常见应用场景及关联应用或程序，以判断自身是否落入《规定》的规制范围，我们理解互联网领域相关应用软件及平台，例如涉及短视频及游戏（视频、直播等）、新闻资讯（新闻推送等）、餐饮外卖（商家搜索排序、订单匹配、骑手调度等）、音乐媒体（榜单、热搜等）、出行服务（导航等）为《规定》的重点规制对象。此外，我们建议企业系统识别算法应用的具体业务场景，提前定位潜在风险并采取合规预防措施。

（二） 梳理算法处理个人数据的情况

在实践中，算法与处理数据必不可分，结合《网络安全法》、《数据安全法》、《个人信息保护法》相关规定，我们建议企业梳理算法所触发的收集及处理的数据类型，在可能的情况下根据不同数据的敏感程度设置不同的保护要求。在本《规定》下，针对处理个人信息的情况，互联网企业可在应用程序的《隐私政策》中对推荐算法等算法的相关应用信息进行介绍。

（三） 建立算法安全机制

我们建议互联网企业可结合自身业务特性设定相应的算法安全机制，例如游戏领域企业应针对未成年人设置防沉迷系统，电商领域企业应通过适合的算法安全机制，控制针对特定消费群体的定向推荐等。

（四） 加强人工审核机制

鉴于算法所具有的“不透明、自动化”等固有缺陷，我们建议互联网企业除了需结合《规定》对违规、不良信息采取合规处置措施外，配备与算法推荐服务规模相适应的专业人员，需加强对算法机制的定期人工审核、巡检工作。

（五） 安全评估

结合《规定》，涉及舆论属性或者社会动员能力的互联网企业或需结合《网络安全法》、《数据安全法》、《个人信息保护法》等相关规定开展安全评估并应留存网络日志，配合监管部门的安全评估和监督检查工作。

（六） 使用“合乎伦理设计”的算法

结合监管部门加强对算法的科学伦理监管，我们建议互联网企业在算法的设计、开发、使用阶段均坚持“合乎伦理设计”原则，使用符合我国科学伦理要求的算法。

附录（黄色高亮为修改处，绿色高亮为新增处）：

第一章总则
第一条为了规范互联网信息服务算法推荐活动，弘扬社会主义核心价值观，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，促进互联网信息服务健康有序发展，根据《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《互联网信息服务管理办法》等法律、行政法规，制定本规定。	第一条为了规范互联网信息服务算法推荐活动，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，促进互联网信息服务健康发展，弘扬社会主义核心价值观，根据《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《互联网信息服务管理办法》等法律、行政法规，制定本规定。
第二条在中华人民共和国境内应用算法推荐技术提供互联网信息服务（以下简称算法推荐服务），适用本规定。法律、行政法规另有规定的，依照其规定。前款所称应用算法推荐技术，是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。	第二条在中华人民共和国境内应用算法推荐技术提供互联网信息服务（以下简称算法推荐服务），适用本规定。法律、行政法规另有规定的，依照其规定。前款所称应用算法推荐技术，是指应用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息内容。
第三条国家网信部门负责统筹协调全国算法推荐服务治理和相关监督管理工作。国务院电信、公安、市场监管等有关部门依据各自职责负责算法推荐服务监督管理工作。地方网信部门负责统筹协调本行政区域内的算法推荐服务治理和相关监督管理工作。地方电信、公安、市场监管等有关部门依据各自职责负责本行政区域内的算法推荐服务监督管理工作。	第三条国家网信部门负责全国算法推荐服务的监督管理执法工作。省、自治区、直辖市网信部门依据职责负责本行政区域内算法推荐服务的监督管理执法工作。
第四条提供算法推荐服务，应当遵守法律法规，尊重社会公德和伦理，遵守商业道德和职业道德，遵循公正公平、公开透明、科学合理和诚实信用的原则。	第四条算法推荐服务提供者提供算法推荐服务，应当遵守法律法规，尊重社会公德和伦理，遵守商业道德和职业道德，遵循公正公平、公开透明、科学合理和诚实信用的原则。
第五条鼓励相关行业组织加强行业自律，建立健全行业标准、行业准则和自律管理制度，督促指导算法推荐服务提供者制定完善服务规范、依法提供服务并接受社会监督。	第五条鼓励相关行业组织加强行业自律，建立健全自律制度和行业准则，组织制定行业标准，督促指导算法推荐服务提供者建立健全服务规范、依法提供服务并接受社会监督。
第二章
第六条算法推荐服务提供者应当坚持主流价值导向，优化算法推荐服务机制，积极传播正能量，促进算法应用向上向善。算法推荐服务提供者不得利用算法推荐服务从事危害国家安全和社会公共利益、扰乱经济秩序和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动，不得利用算法推荐服务传播法律、行政法规禁止的信息，应当采取措施防范和抵制传播不良信息。	第六条算法推荐服务提供者应当坚持主流价值导向，优化算法推荐服务机制，积极传播正能量，促进算法应用向上向善。算法推荐服务提供者不得利用算法推荐服务从事危害国家安全、扰乱经济秩序和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动，不得利用算法推荐服务传播法律、行政法规禁止的信息。
第七条算法推荐服务提供者应当落实算法安全主体责任，建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核、数据安全和个人信息保护、反电信网络诈骗、安全评估监测、安全事件应急处置等管理制度和技术措施，制定并公开算法推荐服务相关规则，配备与算法推荐服务规模相适应的专业人员和技术支撑。	第七条算法推荐服务提供者应当落实算法安全主体责任，建立健全用户注册、信息发布审核、算法机制机理审核、安全评估监测、安全事件应急处置、数据安全保护和个人信息保护等管理制度，制定并公开算法推荐相关服务规则，配备与算法推荐服务规模相适应的专业人员和技术支撑。
第八条算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等，不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型。	第八条算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等，不得设置诱导用户沉迷或者高额消费等违背公序良俗的算法模型。
第九条算法推荐服务提供者应当加强信息安全管理，建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序。发现未作显著标识的算法生成合成信息的，应当作出显著标识后，方可继续传输。发现违法信息的，应当立即停止传输，采取消除等处置措施，防止信息扩散，保存有关记录，并向网信部门和有关部门报告。发现不良信息的，应当按照网络信息内容生态治理有关规定予以处置。	第九条算法推荐服务提供者应当加强信息内容管理，建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序。发现未作显著标识的算法生成合成信息的，应当作出显著标识后，方可继续传输。发现违法信息的，应当立即停止传输，采取消除等处置措施，防止信息扩散，保存有关记录，并向网信部门报告。发现不良信息的，应当按照网络信息内容生态治理有关规定予以处置。
第十条算法推荐服务提供者应当加强用户模型和用户标签管理，完善记入用户模型的兴趣点规则和用户标签管理规则，不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息。	第十条算法推荐服务提供者应当加强用户模型和用户标签管理，完善记入用户模型的兴趣点规则，不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息内容，不得设置歧视性或者偏见性用户标签。
第十一条算法推荐服务提供者应当加强算法推荐服务版面页面生态管理，建立完善人工干预和用户自主选择机制，在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息。	第十一条算法推荐服务提供者应当加强算法推荐服务版面页面生态管理，建立完善人工干预和用户自主选择机制，在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息内容。
第十二条鼓励算法推荐服务提供者综合运用内容去重、打散干预等策略，并优化检索、排序、选择、推送、展示等规则的透明度和可解释性，避免对用户产生不良影响，预防和减少争议纠纷。	第十二条算法推荐服务提供者应当综合运用内容去重、打散干预等策略，并优化检索、排序、选择、推送、展示等规则的透明度和可解释性，避免对用户产生不良影响、引发争议纠纷。
第十三条算法推荐服务提供者提供互联网新闻信息服务的，应当依法取得互联网新闻信息服务许可，规范开展互联网新闻信息采编发布服务、转载服务和传播平台服务，不得生成合成虚假新闻信息，不得传播非国家规定范围内的单位发布的新闻信息。
第十四条算法推荐服务提供者不得利用算法虚假注册账号、非法交易账号、操纵用户账号或者虚假点赞、评论、转发，不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现，实施影响网络舆论或者规避监督管理行为。	第十三条算法推荐服务提供者不得利用算法虚假注册账号、非法交易账号、操纵用户账号，或者虚假点赞、评论、转发、网页导航等，实施流量造假、流量劫持；不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现，实施自我优待、不正当竞争、影响网络舆论或者规避监管。
第十五条算法推荐服务提供者不得利用算法对其他互联网信息服务提供者进行不合理限制，或者妨碍、破坏其合法提供的互联网信息服务正常运行，实施垄断和不正当竞争行为。
第三章
第十六条算法推荐服务提供者应当以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等。	第十四条算法推荐服务提供者应当以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图、运行机制等。
第十七条算法推荐服务提供者应当向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项。用户选择关闭算法推荐服务的，算法推荐服务提供者应当立即停止提供相关服务。算法推荐服务提供者应当向用户提供选择或者删除用于算法推荐服务的针对其个人特征的用户标签的功能。算法推荐服务提供者应用算法对用户权益造成重大影响的，应当依法予以说明并承担相应责任。	第十五条算法推荐服务提供者应当向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项。用户选择关闭算法推荐服务的，算法推荐服务提供者应当立即停止提供相关服务。算法推荐服务提供者应当向用户提供选择、修改或者删除用于算法推荐服务的用户标签的功能。用户认为算法推荐服务提供者应用算法对其权益造成重大影响的，有权要求算法推荐服务提供者予以说明并采取相应改进或者补救措施。
第十八条算法推荐服务提供者向未成年人提供服务的，应当依法履行未成年人网络保护义务，并通过开发适合未成年人使用的模式、提供适合未成年人特点的服务等方式，便利未成年人获取有益身心健康的信息。算法推荐服务提供者不得向未成年人推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息，不得利用算法推荐服务诱导未成年人沉迷网络。	第十六条算法推荐服务提供者向未成年人提供服务的，应当依法履行未成年人网络保护义务，并通过开发适合未成年人使用的模式、提供适合未成年人特点的服务等方式，便利未成年人获取有益身心健康的信息内容。算法推荐服务提供者不得向未成年人用户推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息内容，不得利用算法推荐服务诱导未成年人沉迷网络。
第十九条算法推荐服务提供者向老年人提供服务的，应当保障老年人依法享有的权益，充分考虑老年人出行、就医、消费、办事等需求，按照国家有关规定提供智能化适老服务，依法开展涉电信网络诈骗信息的监测、识别和处置，便利老年人安全使用算法推荐服务。
第二十条算法推荐服务提供者向劳动者提供工作调度服务的，应当保护劳动者取得劳动报酬、休息休假等合法权益，建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法。	第十七条算法推荐服务提供者向劳动者提供工作调度服务的，应当建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法，履行劳动者权益保障义务。
第二十一条算法推荐服务提供者向消费者销售商品或者提供服务的，应当保护消费者公平交易的权利，不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。	第十八条算法推荐服务提供者向消费者销售商品或者提供服务的，应当保护消费者合法权益，不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实行不合理的差别待遇等违法行为。
第二十二条算法推荐服务提供者应当设置便捷有效的用户申诉和公众投诉、举报入口，明确处理流程和反馈时限，及时受理、处理并反馈处理结果。	（参照《征求意见稿》第二十六条）
第四章
第二十三条网信部门会同电信、公安、市场监管等有关部门建立算法分级分类安全管理制度，根据算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据重要程度、对用户行为的干预程度等对算法推荐服务提供者实施分级分类管理。	第十九条国家网信部门建立分类分级管理制度，根据算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据敏感程度、对用户行为的干预程度等对算法推荐服务提供者实施分类分级管理。
第二十四条具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息，履行备案手续。算法推荐服务提供者的备案信息发生变更的，应当在变更之日起十个工作日内办理变更手续。算法推荐服务提供者终止服务的，应当在终止服务之日起二十个工作日内办理注销备案手续，并作出妥善安排。	第二十条具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息，履行备案手续。算法推荐服务提供者的备案信息发生变更时，应当在变更之日起五个工作日内办理变更手续。算法推荐服务提供者终止服务的，应当在终止服务三十个工作日前办理注销备案手续，并作出妥善安排。
第二十五条国家和省、自治区、直辖市网信部门收到备案人提交的备案材料后，材料齐全的，应当在三十个工作日内予以备案，发放备案编号并进行公示；材料不齐全的，不予备案，并应当在三十个工作日内通知备案人并说明理由。	第二十一条国家和省、自治区、直辖市网信部门收到备案人提交的备案材料后，材料齐全的，应当在三十个工作日内予以备案，发放备案编号并进行公示；材料不齐全的，不予备案，并应当在三十个工作日内通知备案人并说明理由。
第二十六条完成备案的算法推荐服务提供者应当在其对外提供服务的网站、应用程序等的显著位置标明其备案编号并提供公示信息链接。	第二十二条完成备案的算法推荐服务提供者应当在其对外提供服务的网站、应用程序等显著位置标明其备案编号并提供公示信息链接。
第二十七条具有舆论属性或者社会动员能力的算法推荐服务提供者应当按照国家有关规定开展安全评估。	第二十三条具有舆论属性或者社会动员能力的算法推荐服务提供者应当按照国家有关规定开展安全评估。算法推荐服务提供者应当完善算法推荐服务管理机制，对算法推荐服务日志等信息进行留存，留存期限不少于六个月，并在相关执法部门依法查询时予以提供。
第二十八条网信部门会同电信、公安、市场监管等有关部门对算法推荐服务依法开展安全评估和监督检查工作，对发现的问题及时提出整改意见并限期整改。算法推荐服务提供者应当依法留存网络日志，配合网信部门和电信、公安、市场监管等有关部门开展安全评估和监督检查工作，并提供必要的技术、数据等支持和协助。	第二十四条国家和省、自治区、直辖市网信部门会同有关主管部门对算法推荐服务开展算法安全评估和监督检查工作，对发现的问题及时提出整改意见并限期整改。算法推荐服务提供者应当配合有关主管部门依法实施的安全评估和监督检查工作，并提供必要的技术、数据等支持和协助。
第二十九条参与算法推荐服务安全评估和监督检查的相关机构和人员对在履行职责中知悉的个人隐私、个人信息和商业秘密应当依法予以保密，不得泄露或者非法向他人提供。	第二十五条参与算法推荐服务安全评估和监督检查的相关机构和人员应当对在履行职责中知悉的个人信息、隐私和商业秘密严格保密，不得泄露、出售或者非法向他人提供。
第三十条任何组织和个人发现违反本规定行为的，可以向网信部门和有关部门投诉、举报。收到投诉、举报的部门应当及时依法处理。	第二十六条算法推荐服务提供者应当接受社会监督，设置便捷的投诉举报入口，及时受理和处理公众投诉举报。算法推荐服务提供者应当建立用户申诉渠道和制度，规范处理用户申诉并及时反馈，切实保障用户合法权益。
第五章
第三十一条算法推荐服务提供者违反本规定第七条、第八条、第九条第一款、第十条、第十四条、第十六条、第十七条、第二十二条、第二十四条、第二十六条规定，法律、行政法规有规定的，依照其规定；法律、行政法规没有规定的，由网信部门和电信、公安、市场监管等有关部门依据职责给予警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停信息更新，并处一万元以上十万元以下罚款。构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。	第二十七条算法推荐服务提供者违反本规定第七条、第八条、第九条第一款、第十条、第十一条、第十二条、第十三条、第十四条、第十五条第二款、第二十二条、第二十六条规定的，由国家和省、自治区、直辖市网信部门依据职责给予警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停信息更新，并处五千元以上三万元以下罚款。构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。
第三十二条算法推荐服务提供者违反本规定第六条、第九条第二款、第十一条、第十三条、第十五条、第十八条、第十九条、第二十条、第二十一条、第二十七条、第二十八条第二款规定的，由网信部门和电信、公安、市场监管等有关部门依据职责，按照有关法律、行政法规和部门规章的规定予以处理。	第二十八条算法推荐服务提供者违反本规定第六条、第九条第二款、第十五条第一款、第三款、第十六条、第十七条、第十八条、第二十三条、第二十四条第二款规定的，由网信等有关主管部门依据职责，按照有关法律、行政法规和部门规章的规定予以处理。
第三十三条具有舆论属性或者社会动员能力的算法推荐服务提供者通过隐瞒有关情况、提供虚假材料等不正当手段取得备案的，由国家和省、自治区、直辖市网信部门予以撤销备案，给予警告、通报批评；情节严重的，责令暂停信息更新，并处一万元以上十万元以下罚款。具有舆论属性或者社会动员能力的算法推荐服务提供者终止服务未按照本规定第二十四条第三款要求办理注销备案手续，或者发生严重违法情形受到责令关闭网站、吊销相关业务许可证或者吊销营业执照等行政处罚的，由国家和省、自治区、直辖市网信部门予以注销备案。	第二十九条具有舆论属性或者社会动员能力的算法推荐服务提供者违反本规定第二十条的规定，未按照要求备案或者在报送备案时隐瞒有关情况、提供虚假材料或者通过欺骗、贿赂等不正当手段取得备案的，由国家和省、自治区、直辖市网信部门依法撤销备案，并给予警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停信息更新，并处五千元以上三万元以下罚款。具有舆论属性或者社会动员能力的算法推荐服务提供者终止服务未按照要求及时办理注销备案手续，或者发生严重违法情形受到吊销互联网信息服务许可、关闭网站、终止服务等行政处罚的，由国家和省、自治区、直辖市网信部门予以注销备案。
第六章
第三十四条本规定由国家互联网信息办公室会同工业和信息化部、公安部、国家市场监督管理总局负责解释。
第三十五条本规定自2022年3月1日起施行。	第三十条本规定自2021年月日起施行。

注释：

1.《互联网信息服务算法推荐管理规定》

http://www.cac.gov.cn/2022-01/04/c_1642894606364259.htm

2.解读《互联网信息服务算法推荐管理规定》

http://www.gov.cn/zhengce/2022-01/04/content_5666428.htm

3.国家互联网信息办公室关于《互联网信息服务算法推荐管理规定（征求意见稿）》公开征求意见的通知

http://www.cac.gov.cn/2021-08/27/c_1631652502874117.htm

4.《通用数据保护条例（GDPR）对人工智能的影响》

The impact of the General Data Protection Regulation (GDPR) on artificial intelligence

https://www.europarl.europa.eu/RegData/etudes/STUD/2020/641530/EPRS_STU(2020)641530_EN.pdf

5.https://baijiahao.baidu.com/s?id=1662094439347312179&wfr=spider&for=pc

6.https://baijiahao.baidu.com/s?id=1721083515472866981&wfr=spider&for=pc

7.《过滤气泡透明度法案》：

https://www.congress.gov/bill/117th-congress/senate-bill/2024/text

8.《保护美国人免受危险算法侵害法案》：https://www.congress.gov/bill/117th-congress/house-bill/2154/actions?q=%7B%22search%22%3A%5B%22Protecting+Americans+from+Dangerous+Algorithms+Act%22%5D%7D&r=1&s=1

9.《关于促进联邦政府使用可信赖人工智能的行政命令》

https://trumpwhitehouse.archives.gov/presidential-actions/executive-order-promoting-use-trustworthy-artificial-intelligence-federal-government/

10.REGULATION OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL LAYING DOWN HARMONISED RULES ON ARTIFICIAL INTELLIGENCE (ARTIFICIAL INTELLIGENCE ACT) AND AMENDING CERTAIN UNION LEGISLATIVE ACTS

https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52021PC0206

11.《自动化决策指令》：https://www.tbs-sct.gc.ca/pol/doc-eng.aspx?id=32592

12.《关于加强互联网信息服务算法综合治理的指导意见》

http://www.gov.cn/zhengce/zhengceku/2021-09/30/content_5640398.htm

专家介绍

■蔡开明 | 中美贸易合规专家

蔡开明律师从事跨境合规、出口管制、经济制裁、数据保护等相关业务。

蔡律师入选中国司法部“中国千名领军涉外律师”名单；入选钱伯斯（Chambers）全球国际贸易（海关、出口管制及经济制裁）第二级别（Band 2）律师；入选钱伯斯（Chambers）亚太地区国际贸易（海关、出口管制及经济制裁）第二级别（Band 2）律师；入选法律500强（Legal500）亚太地区WTO/国际贸易领域推荐律师（2020）；入选法律500强（Legal500）亚太地区数据保护领域推荐律师（2020）；入选LegalBand国际贸易/WTO中国顶级律师（2020）；被《中国商法月刊》（CHINA BUSINESS LAW JOURNAL）评为A-List精英律师（China’s A-list lawyers, 2018）。

目前担任中国贸易促进委员会（CCPIT）及中国国际商会（CCOIC）经贸摩擦专家委员会委员、CCPIT海外常年美国地区法律事务的法律顾问、走出去智库（CGGT）特约专家、仲裁员、北京理工大学法学院法硕校外导师。

蔡开明律师服务的客户包括中国贸促会、国家发改委国际合作中心、上海市商委、浙江省商务厅、招商局集团、中兴通讯、腾讯、阿里巴巴、中芯国际、联想、华大基因、三峡国际、中外运、菜鸟物流、东航物流、华泰证劵、北方工业、传音手机、中科曙光、齐鲁制药、辽港集团、渤海银行、安克科技、渤海银行、小米、京东方、安塞乐米塔尔等，其专业表现获得了客户的高度认可。

蔡律师带领团队向中国商务部提交了对《出口管制法》（草案）的立法建议，部分建议被采纳后体现于正式立法。

延展阅读