编者按：中央网信办日前发布通知，牵头开展“清朗·2022年算法综合治理”专项行动，开展时间为2022年4月8日至12月初。此次专项行动聚焦网民关切，深入排查整改互联网企业平台算法安全问题，评估算法安全能力，重点检查具有较强舆论属性或社会动员能力的大型网站、平台及产品，督促企业利用算法加大正能量传播、处置违法和不良信息、整治算法滥用乱象、积极开展算法备案，推动算法综合治理工作常态化和规范化，营造风清气正的网络空间。
此前，国家互联网信息办公室、工业和信息化部等九部委联合发布《关于加强互联网信息服务算法综合治理的指导意见》，要求利用三年左右时间，逐步建立治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局。接着，国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合发布《互联网信息服务算法推荐管理规定》，规制内容包括监督管理执法部门、行业组织、算法推荐服务提供者等主体应当遵循的原则规范，重点是对个人权益、市场秩序、公共利益、国家安全等造成危害的算法应用进行规制，自2022年3月1日起施行，预示着国家对网络空间的治理已经从数据治理迈向算法治理。如何对算法推荐服务的顶层设计进行立法规制？如何依法规制算法推荐服务行为，全面助力企业重塑算法合规体系建设？这些成为业界关注的话题。
随着数字经济的发展，数据规模急剧扩大、运算能力快速提升，算法推荐服务作为企业、个人及政府定位新坐标、把握新动向、选择新目标的基础工具，日益渗透进社会各领域。算法推荐服务在推动数字经济发展的同时，算法歧视、大数据杀熟、流量造假、电商平台强制“二选一”、诱导沉迷等算法黑箱问题也给社会带来严峻挑战，迫切需要对算法推荐服务的顶层设计进行立法规制，确立公平、透明、非歧视的算法开发和运用的价值观取向，依法规制算法推荐服务行为，全面助力企业重塑算法合规体系建设，促进算法相关行业规范有序发展。
算法推荐服务纳入依法规制范围
算法推荐服务，属于信息自动化筛选、个性化分发的行为，需要以信息采集及分析等处理为基础，是思维模式与技术实现的组合。算法已经历多次变化，从开始的技术产品变为现在的网络平台工具，被用于向用户提供网络服务，承担网络空间的日常治理任务；算法推荐服务从最初的股票自动交易、搜索链接等发展为现在的外卖平台调度算法等。尤其是人工智能技术的发展，算法具备自主性和认知特征，从工具逐渐上升为决策者，对社会秩序和个体权益的影响很大。
数字经济时代，算法已广泛应用于社会生活和公共管理的各种场景，目前整个社会信息分发市场中，智能算法推荐型分发模式占比已超过70%，依法对算法推荐服务的规制及法律责任承担，已成为全社会关注的热点话题。3月1日起施行的《互联网信息服务算法推荐管理规定》（以下简称《算法规定》）规制的范围包括：生成合成类，主要规范内容聚合、内容自动化生成及内容合成服务；个性化推送类，主要规范基于用户画像而进行的内容、商品或服务的个性化推送服务；排序精选类，主要规范内容服务提供者的版面页面管理，诸如首屏、热搜、精选、榜单、弹窗等；检索过滤类，主要规范搜索引擎、内容检索、内容干预等服务或行为；调度决策类，主要规范工作调度服务，如快递平台、出行平台等。
《算法规定》明确了算法推荐服务提供者的信息服务规范，涵盖当前社会普遍关注的算法推荐热点问题，如用户模型、流量造假、个性化推送、未成年人身心健康保护、互联网平台劳动者权益保障、大数据杀熟等，并且对上述行为应当承担的法律责任进行明确规定。算法推荐技术是算法推荐服务提供者提供个性化服务的重要基础，对应用算法推荐技术提供互联网信息服务的各类行为进行规范，是维护互联网信息服务行业良好市场秩序、促进数字经济高质量发展的关键。算法推荐服务提供者应当坚持主流价值导向，积极传播正能量，不得利用算法推荐服务从事违法活动或者传播违法信息，采取措施防范和抵制传播不良信息，着力防范化解算法推荐服务带来的政治安全、意识形态安全、社会秩序等方面重大风险。
构建多元主体协同共治的治理格局
目前，网络平台损害消费者的知情权、选择权的现象突出，依法规范网络平台行为成为数字经济法治化建设亟待解决的问题。最近，《国家发展改革委等部门关于推动平台经济规范健康持续发展的若干意见》明确提出，探索数据和算法安全监管，从严管控非必要采集数据行为，依法依规打击黑市数据交易、大数据杀熟等数据滥用行为。在严格保护算法等商业秘密的前提下，支持第三方机构开展算法评估，引导平台企业提升算法透明度与可解释性，促进算法公平。严肃查处利用算法进行信息内容造假、传播负面有害信息和低俗劣质内容、流量劫持以及虚假注册账号等违法违规行为。国务院反垄断委员会印发的《关于平台经济领域的反垄断指南》，对于经营者通过数据、算法、平台规则等新型手段达成垄断协议，实施拒绝交易、限定交易或者大数据杀熟等行为，规定了垄断行为的认定方法，明令禁止平台通过算法来实施垄断行为。
在平台经济领域出现的新型违法竞争行为，可能既有排除、限制竞争的滥用市场支配地位行为，也有不正当竞争行为，还有属于不合理交易行为，需要综合运用《反垄断法》《反不正当竞争法》《电子商务法》《消费者权益保护法》等多部法律法规予以规范和治理。面对算法推荐服务运行场景多维性、商业模式多样性及竞争行为复杂性，依靠单一主体监管很难满足平台经济健康发展的治理需求，算法治理应该充分发挥多元主体的作用，让各个主体参与其中，形成治理合力。这些多元主体包括政府相关部门、平台企业、消费者及团体、经营者及团体、行业协会等组织，以更好地形成治理合力。《算法规定》鼓励相关行业组织加强行业自律，建立健全自律制度和行业准则，组织制定行业标准。通过行业自律和制定行业标准的方式可以将各个参与主体纳入其中，利于形成多元主体共治的格局，充分发挥社会公众的监督作用。
重塑企业算法推荐服务合规体系
良好的数据治理体系是开展算法治理的基础，我国出台的《网络安全法》《数据安全法》和《个人信息保护法》三部法律，着力构建个人信息和数据保护的基本法律框架，明确要求企业建立合规制度体系，可以说，建立个人信息及数据合规体系已经成为现代企业的一项重要法律义务，按照《算法规定》新要求重塑企业算法推荐服务合规体系显得十分重要。
全面梳理和整改算法应用存在的问题。按照《算法规定》新要求，对企业内部算法应用的机制、模型、数据和应用内容进行全面梳理，发现相关制度规定和业务流程及合同条款存在问题的应当尽快整改。建立用户申诉渠道和制度，主动配合监管部门进行检查、备案和安全评估，及时排除违法违规的不良信息、诱导性算法模型、偏见性用户标签及其他不符合法律法规、公序良俗和主流价值导向的情形，确保算法推荐服务行为的依法合规。
建立和完善算法应用合规体系。网络平台企业应当高度重视最高人民检察院牵头开展的企业合规不起诉的监督考察制度改革试点，认真研判法律法规、监管规定、行业准则、国际标准对依法合规的强制性要求，依据国际标准化组织发布的ISO 37301《合规管理体系要求及使用指南》，重点完善算法应用合规体系建设内容，对相关制度流程进行立改废，明确企业合规体系建设新目标。按照《算法规定》的规定，建立健全企业算法机制机理审核、科技伦理审查、用户注册、信息发布审核、数据安全和个人信息保护、反电信网络诈骗、安全评估监测、安全事件应急处置等管理制度和技术措施，制定并公开算法推荐相关服务规则。尤其是使用算法技术进行推荐服务的企业，需要承担个人信息保护和数据安全主体责任的合规义务，注重履行“通知-删除”责任，采取有效措施保护用户个人的合法权利，切实做到将服务内容审查纳入算法运行的全流程中，完善考核问责追责机制。强化企业自律，积极践行社会责任，关注因未履行合规义务带来的民事诉讼、行政及刑事处罚风险，形成集事前防范、事中控制和事后救济于一体的闭环管控机制。
健全企业审计监督制度。作为网络平台企业的法定义务，《个人信息保护法》第五十四条要求个人信息处理者应当定期对其处理个人信息遵守法律、行政法规的情况进行合规审计。主要内容包括：审查内部管理制度和个人信息备忘录的完备性和合规性；个人信息处理和管理工作；审计履行个人信息查阅复制、修正、移转及删除义务情况；审核个人信息相关的合同及其他法律文书；根据个人信息及数据相关法律法规的更新，及时调整内部制度的情况。《算法规定》要求算法推荐服务提供者定期审核、评估、验证算法机制机理、模型、数据和应用结果等。审计制度既包括制度审计也包括技术安全审计，通过审计过程发现算法应用或制度执行的缺陷，并解决问题，可以帮助企业形成一个正向激励的合规提升机制。
探索建立算法合规在线监管系统。全面数字化转型对合规管理手段提出更高要求，企业需要加快提升信息化、数字化、智能化水平，合规管理系统向各级子企业、分支机构和重要项目系统延伸，确保全面覆盖、落地见效。加快推进合规管理信息化、数字化建设，探索建立算法合规管理在线监管系统，加强对重点领域、关键节点的内控管理。将算法推荐服务的法律审核嵌入重大决策、重要业务管理流程，通过大数据等手段，实现算法合规风险在线识别、分析、评估和防控。密切关注相关立法动态，使合规体系更好地适应法律的变化，有针对性地采取措施防范算法推荐服务的法律风险，助推企业数字化转型和高质量发展。